论文在 72 起造成现实损害的记录中,将 62 起归为没有外部攻击者的情况。
作者回看公开报道,检查智能体在完成正常任务时忽略了哪些风险。例如,某项操作可能涉及多人共用的数据,而助手没有意识到操作的影响范围。
在五个受测模型上,明确提示当前风险及其可能后果,都能降低实验中出现的损害。加入长度相同却不点明风险的文字,效果明显较弱。论文将此结果作为设计操作提醒的证据。
配图为 GETAI 原创 AI 主题插画。
GETAI EDITORIAL DISPATCH新闻报道
论文在 72 起造成现实损害的记录中,将 62 起归为没有外部攻击者的情况。