11 月 18 日上传的一篇预印本研究固定步数的潜在推理。作者观察到,内部推理步数增加时,有些题目的正确答案会在后续步骤发生变化,准确率的变化并不始终随步数上升。
研究者提出根据推理进展调整运行步数,并在 CODI、Coconut、SIM-CoT 等方法和多个算术基准上测试。报告的最大准确率升幅为 7.2 个百分点,最大潜在计算降幅为 29%。
这些数字是各自比较中观察到的最大变化,适用范围限于论文的模型和算术任务。方案在实验中无需重新训练大语言模型。
配图为 GETAI.APP 使用 ImageGen 生成的主题插画。
