11 月 19 日,Lingkai Bu 等人公布一项视觉语言模型评测,重新检查图像描述中的“物体幻觉”。一个模型如果少写几个物体,就少了几次凭空说出物体的机会;但使用者也可能因此看不到本来描述正确的细节。只比较错误数,很难判断两者各占多少。
研究者先把基座模型的描述截短,直到它与受训模型能找回的真实物体比例相同,然后比较两者仍相差多少。接着,他们使用一个只有 11 项特征的简单筛选器,检验不改模型权重也能重现多少剩余收益。对照规则在分析受评输出前就已固定。
以 LLaVA-1.5-7B 的八种已公开方法为例,筛选器能够复现至少三分之二剩余收益的,在 COCO 上有七种,在 AMBER 上有八种,在 Object HalBench 上有六种。换到其他基座和自训设置,结果并不完全一致。对评测者而言,比较纠错方法时需要同时列出遗漏的真实物体和新增的虚构物体。
配图为 GETAI 原创 AI 主题插画。
