跳转到正文
登录
← 开发动态

研究观察模型如何处理目标与伤害冲突

任务背景、工具可见性和评测方式都会影响模型选择。

GETAI.APParXiv查看原文 ↗

11 月 2 日的一篇预印本考察模型在完成指定目标与避免伤害发生冲突时的行为。研究比较了不同任务背景和工具条件,并区分概率测量与实际采样结果。

作者发现,虚构情境及信息呈现方式会改变观测结果。这类受控实验不能直接作为模型具有意识、求生欲或现实自主意图的证据。

来源:arXiv · 2611.03374。

登录

还没有账号?