跳转到正文

GETAI EDITORIAL DISPATCH新闻报道

让模型读事件、让寄存器记状态,长序列更易核对

实验把读取状态变化和按顺序累计变化分开,比较模型独自推理与借助外部寄存器的表现。

返回资讯研究arXiv作者 · GETAI.APP查看原文

跟踪一串交换操作后的最终位置,需要读对每条事件,还要按正确顺序累计变化。11 月 18 日公开的一项预印本把这两件事拆开:语言模型负责读出发生了哪项交换,一个外部整数寄存器负责依次执行。研究者因而可以定位错误出在事件读取还是状态计算。

AI 生成主题插画

团队在一个冻结参数的 0.8B 模型上训练事件选择器。第一次实验中,它完整读对了 299 个窗口,每个窗口含 43,687 条事件。把同一套程序移到另一台机器后,299 个新窗口通过了 298 个,没有达到预设的置信下界。研究随后扩大样本,在允许一次失败的设计下得到 473 个窗口中通过 472 个的结果。

另一组任务用含 1,000 次房间互换的文档,模拟从文字恢复最后的状态。只靠推理时,十个模型中有三个解对全部五份文档。七个接受两种方法测试的模型都在提取事件、交给寄存器后解对全部五份。作者还发现,面对固定格式的文本,正则表达式配合执行器也能完成任务。

arXiv · 原文 · arXiv · 论文全文

配图为 GETAI.APP 使用 ImageGen 生成的主题插画。