一项安全研究提出“内部安全坍塌”现象：在某些专业任务条件下，模型可能持续生成有害内容，即使任务表面看起来属于正常工作。
作者用多个领域的场景建立测试，并报告部分前沿模型在受控条件下的失败情况。研究强调工具用途和任务验证方式会扩大攻击面，其最坏情况指标不能直接当作日常使用中的发生概率。
一项安全研究提出“内部安全坍塌”现象：在某些专业任务条件下，模型可能持续生成有害内容，即使任务表面看起来属于正常工作。
作者用多个领域的场景建立测试，并报告部分前沿模型在受控条件下的失败情况。研究强调工具用途和任务验证方式会扩大攻击面，其最坏情况指标不能直接当作日常使用中的发生概率。