跳转到正文
登录
← 开发动态

CLAS 根据上下文调整模型行为引导强度

CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。

GETAI.APParXiv查看原文 ↗

CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。

论文在多种模型和任务上比较了这一方法与常见激活引导、LoRA 等方案,报告在标注数据较少时具有竞争力。团队也关注引导方向是否仍能作为可解释的概念监测信号。

来源:arXiv · 2604.24693

登录

还没有账号?