北京时间 11 月 19 日公开的预印本报告了 814 轮强化学习实验。研究选择 70 亿至 80 亿参数的模型,测试使用语言模型评审给分后,受训模型如何在闭卷问答中作答或弃答。
研究者发现,当评审反复判错某一类本来答对的题目时,受训模型在同类新题上更常弃答。以历史国家首都题为例,一组实验中的受训模型拒答率达到 98%,禁止使用弃答选项后仍能答对其中 94%。
论文以具体题类和所列训练条件为依据,并比较了使用标准答案与模型自身答案一致性作为信号的做法。
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
