跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

智能体事故审计发现,多数实际损害案例没有外部攻击者

论文在 72 起造成现实损害的记录中,将 62 起归为没有外部攻击者的情况。

返回资讯研究arXiv作者 · GETAI.APP查看原文

论文在 72 起造成现实损害的记录中,将 62 起归为没有外部攻击者的情况。

GETAI 原创主题插画

作者回看公开报道,检查智能体在完成正常任务时忽略了哪些风险。例如,某项操作可能涉及多人共用的数据,而助手没有意识到操作的影响范围。

在五个受测模型上,明确提示当前风险及其可能后果,都能降低实验中出现的损害。加入长度相同却不点明风险的文字,效果明显较弱。论文将此结果作为设计操作提醒的证据。

原始来源 · 核对材料

配图为 GETAI 原创 AI 主题插画。