研究者让五个语言模型修改视觉分类器,再用留出的图像同时检查目标修正和意外副作用。
实验覆盖卷积网络与视觉 Transformer,包括改标签、纠正特定错误等任务。团队比较常规训练、标签平滑、面向编辑的梯度训练,以及预演直接修改权重的方法。
作者报告,在原本较难编辑的网络上,预先训练可提高修改成功率。综合得分同时考虑目标修正、其他类别受影响程度和整体准确率变化。
配图为 GETAI 原创 AI 主题插画。
GETAI EDITORIAL DISPATCH新闻报道
研究者让五个语言模型修改视觉分类器,再用留出的图像同时检查目标修正和意外副作用。