跳转到正文
GETAI.APP
行业观察OpenAIGETAI.APP查看原文

OpenAI 披露前沿模型分阶段防护措施

OpenAI 说明前沿模型在训练、员工使用和公开部署时分别适用的管控措施,以及事件如何报告和审查。

AI 生成主题插画,非实拍

11 月 18 日,OpenAI 发表前沿模型风险管理总览,介绍模型在研究训练、员工内部使用和公开部署三个阶段的防护措施。公司称,训练与评估阶段使用隔离环境、行为监测和停止机制。进入内部使用阶段后,员工可在更接近产品的环境中使用模型,公司继续监测前沿模型的推理活动。

主题插画,AI 生成、非实拍

公开部署前,OpenAI 称会扩大安全评测范围,并为能力最强的模型安排第三方测试。公开部署后,产品侧仍使用分类器进行实时防护,公司也会结合事后调查与人工审核处理异常活动。

OpenAI 还说明,员工可以提交潜在事件供调查并建议对外披露。若内部对披露存在分歧,决定会交由安全顾问小组处理。11 月 17 日的 GPT‑6.2 系统卡另有研究环境隔离和产品侧防护的说明。

来源:OpenAI 风险管理总览 · OpenAI GPT‑6.2 系统卡

配图由 GETAI.APP 使用内置 imagegen 生成,非真实现场或产品界面。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?