11 月 19 日上传的预印本研究多模态安全模型的判断理由。作者分别考察模型是否描述了图中无法核实的内容,以及是否正确解释已有视觉线索。
论文比较多种模型与数据集,发现分类正确时,解释也可能包含缺乏依据的叙述。尺度扩大和分类表现提高时,这类问题仍会出现。
作者尝试在训练中要求解释与视觉证据一致,并用原有分类表现和解释质量分别检验结果。
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
GETAI EDITORIAL DISPATCH新闻报道
研究把分类结果和解释证据分开检查,关注模型是否引用图中不存在的细节。