跳转到正文
GETAI.APP
产品动态OpenAIGETAI.APP查看原文

OpenAI 推出儿童安全图像检测与风险提示

新的图像分类器将向经审核的机构免费提供 API 访问,用于辅助识别疑似儿童性虐待材料;ChatGPT 同时增加风险提示与干预。

AI 生成主题插画,非实拍

OpenAI 于 11 月 16 日宣布推出新的儿童安全图像分类器,并更新 ChatGPT 的风险提示、开发者指南与调查人员支持工具。

网络安全主题插画,AI 生成、非实拍

分类器用于识别疑似儿童性虐待材料,包括可能由 AI 生成的图像,返回分数以辅助人工审核排序。OpenAI 表示,将通过 API 向经审核的机构免费提供访问;这不是面向所有开发者直接开放的通用图像接口。

ChatGPT 的新增提示会中断寻找此类有害内容的行为,并引导用户寻求帮助。公告称,被标记的对话将移除,相关账号会暂停访问二十四小时;重复违规可能导致更长限制等处置。

以上为公司公布的检测与干预安排,分类器分数仍是审核线索。

来源:OpenAI · 儿童网络安全工具与支持公告。

配图:GETAI.APP 使用内置 imagegen 生成的主题插画,不包含敏感图像。

登录

每一次探索,都更进一步。

从这里,开启新的灵感。

还没有账号?