11 月 3 日提交的研究,通过比较概念问题与匿名改写问题的隐藏状态,测量知识表示的几何一致性。团队在三个模型家族的十个指令模型上区分已知与未知概念。 研究进一步比较五种遗忘算法与四类攻击,发现内部几何结构能够补充输出层面的评估。与恢复攻击的关系随攻击方式变化,不能将单个读数当作遗忘成功的通用证明。 来源:arXiv。