跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

研究用统计证据审计模型训练数据

框架分别检查单份文档、整批文档及异常子集,关注如何控制误判。

返回资讯研究arXiv作者 · GETAI.APP查看原文

11 月 19 日上传的预印本提出一套训练数据审计框架,用模型输出产生的统计证据评估某些文档是否可能出现在训练数据中。

AI 生成主题插画

研究将长文档各片段的证据汇总到文档层面,并区分单份文档判断、整批集合判断与子集定位。作者用已知或可控制成员情况的实验比较这些判断。

论文把输出作为统计证据。所测信号的可靠性受数据、模型与检验条件影响,不能直接替代训练记录。

arXiv · 原文 · arXiv · 全文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。