CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。
论文在多种模型和任务上比较了这一方法与常见激活引导、LoRA 等方案,报告在标注数据较少时具有竞争力。团队也关注引导方向是否仍能作为可解释的概念监测信号。
CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。
CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。
论文在多种模型和任务上比较了这一方法与常见激活引导、LoRA 等方案,报告在标注数据较少时具有竞争力。团队也关注引导方向是否仍能作为可解释的概念监测信号。