跳转到正文
登录
← 开发动态

预训练数据投毒研究揭示智能体执行风险

一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。

GETAI.APParXiv查看原文 ↗

一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。

作者在多种小型 Qwen3 模型上进行了端到端实验。这项工作强调预训练数据供应链与智能体运行权限的重要性;论文中的攻击成功率属于受控设置,不能直接推断现实产品已经受影响。

来源:arXiv · 2610.37741

登录

还没有账号?