开发动态 · 第 2 页

• AStockArena 不只看收益，也查交易是否有据

  AStockArena 为金融智能体增加决策审计：把模型报告、交易请求、实际执行回执和账户状态对齐，检查操作是否可追溯、理由是否有证据，以及模型是否正确理解账户情况。

• 审计场景研究：AI 也会受到同事意见影响

  一项实验让语言模型扮演审计人员，先形成估计，再面对没有新增证据的上级、同事、外部审阅人或客户质疑。研究比较了 12 组模型设置。

• MedForget 检查医疗模型能否有针对性地遗忘

  MedForget 把医疗机构及其数据的层级关系纳入多模态遗忘评测，考察删除某一层数据影响时，模型能否保留其他相关能力。

• 研究用读者反应轨迹引导 AI 写故事

  一项故事生成研究先从人类作品中学习读者反应随情节变化的轨迹，再让较小模型预测这些变化，指导较大的写作模型逐段生成故事。

• 去掉选择题选项后，医疗 AI 得分明显下降

  一项研究对 14 个模型进行了医疗问答比较，测试同一道题在提供选项和不提供选项时的表现。数据涉及四套基准的 3,076 道题。

• CLAS 根据上下文调整模型行为引导强度

  CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度，它可以在同一次生成的不同位置选择性地引导不同表现。

• 工具调用前，怎样判断 AI 是否有把握？

  一项研究专门评估大模型函数调用的不确定性，而不只研究普通问答的置信度。作者比较单次与多次采样方法，检验这些分数能否区分可能错误的工具调用。

• ResMem 把检索到的知识转成可复用参数记忆

  ResMem 研究让模型离线阅读检索文本，再把这些证据如何改变答案分布的差异写入独立参数记忆。这样可以在后续使用中减少重复在线检索，而不是简单模仿检索器的预测。

• 模型改变了数据，统计置信度也要跟着改

  一项统计研究关注预测系统上线后的反馈：模型影响人的决策，进而改变下一轮训练数据。早期估计误差会沿着部署和再训练过程传播。

• AuthRank 用来源关系帮助识别情报投毒

  AuthRank 尝试给网络威胁情报来源建立可信度评分。系统结合引用关系、主张支持情况、时间衰减和作者信息，减少大模型流水线被污染资料误导的风险。

• 预训练数据投毒研究揭示智能体执行风险

  一项安全研究发现，攻击者在模型预训练数据中混入少量设计过的内容，可能让后续智能体在特定触发条件下执行异常指令，即使之后的训练流程使用干净数据。

• FSDAM 用少量示例学习驾驶员注意力变化

  FSDAM 研究将驾驶员注意力预测拆成看哪里和为什么看两个任务。系统从场景、当前关注点、预计下一关注点与原因建立结构化表示。

• 单个 AI 可靠，不代表组成团队后仍可靠

  一项多智能体安全研究让模型群体共同判断是否升级安全告警，并加入持续主张某一结论的少数代理，观察集体决策如何偏移。

• TileWeave 让手机 NPU 与 GPU 分担长上下文计算

  TileWeave 研究按复用程度拆分稀疏注意力计算：共享程度高的块交给适合规则计算的 NPU，复用较低的部分交给 GPU，并协调结果合并。

• 视觉模型按问题选择中间层，不只看最后一层

  Mixture of Layers 研究让多模态模型根据文字问题，动态选择视觉编码器的中间层表示。不同层保留的局部细节与抽象信息不同，固定只取最后几层可能遗漏小物体、文字等线索。

• ATTUNE 用编程智能体调优大模型训练配置

  ATTUNE 让编程智能体在限定 GPU 时间预算内寻找训练瓶颈，每次修改一个配置，并用智能体之外的正确性检查拦截可能改变训练含义的方案。

• Penelope 为多轮智能体任务重新设计缓存淘汰

  Penelope 研究指出，智能体经常重复使用长历史，而靠近序列末尾的 KV 缓存重算成本可能更高。它在保留共享前缀的同时，优先保存后部缓存，只重算缺失片段。

• 人类与模型如何在经验推断和现场推理间切换

  一项研究区分了两种推断方式：把熟悉关系逐渐写入内部表示，以便快速调用；或在遇到新关系时，通过注意力在上下文中现场推理。

• 多层 AI 防护不能只按彼此独立来算风险

  一项研究讨论多个智能体防护组件之间的依赖关系。不同审核器可能犯相似错误，简单叠加各自准确率会低估系统风险。

• SHIFT 用“收缩再修复”改进模型遗忘学习

  SHIFT 研究先把微调模型向微调前的权重收缩，再短暂学习需要保留的数据，据此估计删除特定数据影响的方向。方法将变化转为蒸馏目标并迭代调整。

• Reasoning Consensus 把多模型推理合成支持图

  Reasoning Consensus 从多个模型的推理中提取结构化步骤，合并等价节点，再按支持该步骤的推理链数量赋权。读者可以看到某个结论背后哪些环节得到更多支持。

• C3 针对长语音任务优化 KV 缓存检索

  C3 研究根据音频注意力的结构组织 KV 缓存：不同查询头共享检索预算，系统再动态调整检索粒度，以减少每步读取的数据量。

• 录音里的话和声音冲突时，AI 更相信谁？

  SAC-Bench 把环境声音与一致或矛盾的口头描述放进同一段音频，检验音频语言模型是否真正根据声音作答。基准覆盖事件、时间与空间关系。

• “潜在辩论”框架尝试解释模型的是非判断

  一项研究用结构化的支持与反对信号近似语言模型在二元判断任务中的内部过程。作者将这种解释框架称为 latent debate，而不是让多个模型真的展开对话。