一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。
作者在多种小型 Qwen3 模型上进行了端到端实验。这项工作强调预训练数据供应链与智能体运行权限的重要性;论文中的攻击成功率属于受控设置,不能直接推断现实产品已经受影响。
一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。
一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。
作者在多种小型 Qwen3 模型上进行了端到端实验。这项工作强调预训练数据供应链与智能体运行权限的重要性;论文中的攻击成功率属于受控设置,不能直接推断现实产品已经受影响。