OpenAI 于 11 月 16 日宣布推出新的儿童安全图像分类器,并更新 ChatGPT 的风险提示、开发者指南与调查人员支持工具。
分类器用于识别疑似儿童性虐待材料,包括可能由 AI 生成的图像,返回分数以辅助人工审核排序。OpenAI 表示,将通过 API 向经审核的机构免费提供访问;这不是面向所有开发者直接开放的通用图像接口。
ChatGPT 的新增提示会中断寻找此类有害内容的行为,并引导用户寻求帮助。公告称,被标记的对话将移除,相关账号会暂停访问二十四小时;重复违规可能导致更长限制等处置。
以上为公司公布的检测与干预安排,分类器分数仍是审核线索。
配图:GETAI.APP 使用内置 imagegen 生成的主题插画,不包含敏感图像。
