跳转到正文
登录
← 开发动态

单个 AI 可靠,不代表组成团队后仍可靠

一项多智能体安全研究让模型群体共同判断是否升级安全告警,并加入持续主张某一结论的少数代理,观察集体决策如何偏移。

GETAI.APParXiv查看原文 ↗

一项多智能体安全研究让模型群体共同判断是否升级安全告警,并加入持续主张某一结论的少数代理,观察集体决策如何偏移。

作者发现,单模型测试不能充分预测群体表现。观察彼此的推理可以减弱部分影响,但未必阻止群体受操纵;移除施压代理后,平均行为又会逐渐接近原先水平。

来源:arXiv · 2608.22444

登录

还没有账号?