跳转到正文
登录
← 开发动态

研究从内部激活区分遗忘与压抑

模型拒绝回答,不一定代表相关知识已被移除。

GETAI.APParXiv查看原文 ↗

11 月 3 日提交的研究,通过比较概念问题与匿名改写问题的隐藏状态,测量知识表示的几何一致性。团队在三个模型家族的十个指令模型上区分已知与未知概念。

研究进一步比较五种遗忘算法与四类攻击,发现内部几何结构能够补充输出层面的评估。与恢复攻击的关系随攻击方式变化,不能将单个读数当作遗忘成功的通用证明。

来源:arXiv。

登录

还没有账号?