跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

研究检验多模态安全判断给出的理由

研究把分类结果和解释证据分开检查,关注模型是否引用图中不存在的细节。

返回资讯研究arXiv作者 · GETAI.APP查看原文

11 月 19 日上传的预印本研究多模态安全模型的判断理由。作者分别考察模型是否描述了图中无法核实的内容,以及是否正确解释已有视觉线索。

AI 生成主题插画

论文比较多种模型与数据集,发现分类正确时,解释也可能包含缺乏依据的叙述。尺度扩大和分类表现提高时,这类问题仍会出现。

作者尝试在训练中要求解释与视觉证据一致,并用原有分类表现和解释质量分别检验结果。

arXiv · 原文 · arXiv · 全文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。