跳转到正文
GETAI.APP
产品动态OpenAIGETAI.APP查看原文

OpenAI 引入四家机构开展嵌入式安全评估

Apollo Research、METR、Transluce 与 Goodfire 将按约定范围接触内部模型和资料,评估训练与内部使用阶段的对齐和监控机制;公开披露仍有边界。

AI 生成主题插画,非实拍

OpenAI 于 11 月 16 日宣布,已与 Apollo Research、METR、Transluce 和 Goodfire 签署首阶段嵌入式评估协议。本篇为近期公告补录。

独立审查主题插画,AI 生成、非实拍

评估者将按项目范围接触模型检查点、训练与评估资料、监控记录等内部资源。各项目分别涉及隐蔽违背开发者意图的行为、模型可解释性、对齐与监控,以及训练后评估的质量和覆盖面。

Apollo 另行确认,六人团队将开展四个月的试点,并强调当前访问与披露权仍未完全达到其完整嵌入式评估标准。OpenAI 的安排允许保护机密信息及因安全风险延迟披露,不能把签约解读为模型已经通过安全认证。

来源:OpenAI · 首阶段嵌入式评估、Apollo Research · 试点说明。

配图:GETAI.APP 使用内置 imagegen 生成的主题插画。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?