OpenAI 11 月 20 日公布了防止模型内部推理内容外泄的评估。这里的内部推理指模型生成答案时使用、通常不展示给用户的中间过程。
研究人员让六个测试模型在与系统交互时调整策略。针对先前请求的测试中,采用原有防护的 GPT-6 Astra 平均成功率为 54.0%,采用更新防护的 GPT-6.2 Astra 为 0.2%。
这组数字同时涉及模型版本与保护措施的变化,无法单独估算其中一种改动的贡献。OpenAI 表示,部分改进也在应用到 GPT-6 Astra。
配图为 GETAI 原创 AI 主题插画。
