跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

OpenAI 公布保护模型内部推理的测试结果

在一项模拟外部用户访问的测试中,成功取回先前请求内部推理的平均比例由 54.0% 降至 0.2%。

返回资讯安全OpenAI作者 · GETAI.APP查看原文

OpenAI 11 月 20 日公布了防止模型内部推理内容外泄的评估。这里的内部推理指模型生成答案时使用、通常不展示给用户的中间过程。

GETAI 原创主题插画

研究人员让六个测试模型在与系统交互时调整策略。针对先前请求的测试中,采用原有防护的 GPT-6 Astra 平均成功率为 54.0%,采用更新防护的 GPT-6.2 Astra 为 0.2%。

这组数字同时涉及模型版本与保护措施的变化,无法单独估算其中一种改动的贡献。OpenAI 表示,部分改进也在应用到 GPT-6 Astra。

原始来源 · 延伸材料

配图为 GETAI 原创 AI 主题插画。