跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

PosteriorBench 用十亿条模型回复评估罕见行为采样

21 项任务比较两件事:找到一次罕见行为要花多少计算,以及所得回答是否仍保留模型自然产生这类行为时的特征。

返回资讯研究arXiv作者 · GETAI.APP查看原文

11 月 19 日,Zhiyang Xun 等人公开 PosteriorBench,专门比较语言模型罕见行为的采样方法。假设研究者关心一个万分之一才会出现的输出,只靠反复生成往往要等很久。改写提示词可以提高命中率,却也可能改变命中样本本身的特征。

原论文图 3 中,橙色标出纳入基准的 21 项任务

团队为 Qwen3.5-0.8B 的十亿条回复打上标签,从中构建 21 项任务。任务对应行为的自然出现概率从十万分之一到十分之一不等。研究者用计算成本衡量取得样本的代价,再以两个方向的 KL 散度比较样本分布和模型在原始条件下自然出现该行为时的分布。

在这些任务上,提示词引导的成本较低,但生成结果与自然条件分布有明显偏差。用真实条件样本微调可以改善部分结果,获取训练数据的成本又成为限制。所测方法尚未同时解决两方面的问题。实验依赖一个小模型和可以标注的行为,结论的适用范围也由此限定。

原始来源 · 核对材料

配图取自 Zhiyang Xun 等,图 3 的概率分布部分。封面等比缩放并留白。CC BY 4.0 授权。