NEWS DESK·新闻资讯
人工智能日刊 · 第 29 页
最近发布的产品动态、研究进展与行业消息。
订阅
切换主题
- 研究·
arXiv·
审计场景研究:AI 也会受到同事意见影响
一项实验让语言模型扮演审计人员,先形成估计,再面对没有新增证据的上级、同事、外部审阅人或客户质疑。研究比较了 12 组模型设置。 作者发现,模型会对部分社会压力调整判断,但反应并不完全像人类:在加入职业利益诱因后,许多模型反而减少修改,并将诱因识别为独立性威胁。不同模型的调整方向也不一致。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。

- 研究·
arXiv·
MedForget 检查医疗模型能否有针对性地遗忘
MedForget 把医疗机构及其数据的层级关系纳入多模态遗忘评测,考察删除某一层数据影响时,模型能否保留其他相关能力。 配套方法 CHIP 通过去除与目标信息相关的权重子空间实现处理,尽量保留同级数据共享的信息。作者报告了遗忘与保留性能的平衡,但这类实验分数本身不等于已经满足实际机构的数据合规要求。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。

- 研究·
arXiv·
研究用读者反应轨迹引导 AI 写故事
一项故事生成研究先从人类作品中学习读者反应随情节变化的轨迹,再让较小模型预测这些变化,指导较大的写作模型逐段生成故事。 它没有直接复刻高维文本内容,而是把叙事体验转成较低维的目标。作者报告,生成故事在轨迹层面更接近人类作品,同时大体保持连贯性。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。

- 研究·
arXiv·
去掉选择题选项后,医疗 AI 得分明显下降
一项研究对 14 个模型进行了医疗问答比较,测试同一道题在提供选项和不提供选项时的表现。数据涉及四套基准的 3,076 道题。 作者报告,移除选项后平均准确率从 82.3% 降至 50.9%。研究还检查了模型能否从选项重建原题,以观察可能的记忆影响。结果提示,医学选择题高分与开放式临床能力之间存在距离。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
CLAS 根据上下文调整模型行为引导强度
CLAS 将模型激活引导拆成固定方向与随上下文变化的系数。相比始终施加同样力度,它可以在同一次生成的不同位置选择性地引导不同表现。 论文在多种模型和任务上比较了这一方法与常见激活引导、LoRA 等方案,报告在标注数据较少时具有竞争力。团队也关注引导方向是否仍能作为可解释的概念监测信号。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
工具调用前,怎样判断 AI 是否有把握?
一项研究专门评估大模型函数调用的不确定性,而不只研究普通问答的置信度。作者比较单次与多次采样方法,检验这些分数能否区分可能错误的工具调用。 论文发现,多次采样的熵方法在工具调用场景中不一定优于简单方法。利用函数输出的语法树结构分组,以及聚焦有语义意义的 Token,可以改进部分指标的校准。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
ResMem 把检索到的知识转成可复用参数记忆
ResMem 研究让模型离线阅读检索文本,再把这些证据如何改变答案分布的差异写入独立参数记忆。这样可以在后续使用中减少重复在线检索,而不是简单模仿检索器的预测。 作者在维基百科子集和五个问答数据集上报告存储与回答质量的改善,并公开代码和权重。实验更新集中在记忆部分,原有模型骨干保持共享。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
模型改变了数据,统计置信度也要跟着改
一项统计研究关注预测系统上线后的反馈:模型影响人的决策,进而改变下一轮训练数据。早期估计误差会沿着部署和再训练过程传播。 论文提出处理这类不确定性的推断框架,并在模拟数据、教育场景和自演化模型路由任务中检验。作者发现,忽略前面轮次传来的误差,会让置信区间显得过于乐观。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 安全·
arXiv·
AuthRank 用来源关系帮助识别情报投毒
AuthRank 尝试给网络威胁情报来源建立可信度评分。系统结合引用关系、主张支持情况、时间衰减和作者信息,减少大模型流水线被污染资料误导的风险。 论文在 MS MARCO 数据上进行了攻击条件下的比较,并给出威胁情报文档的概念验证。来源评分是辅助防御信号,不能保证每一条高分资料都准确。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 安全·
arXiv·
预训练数据投毒研究揭示智能体执行风险
一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。 作者在多种小型 Qwen3 模型上进行了端到端实验。这项工作强调预训练数据供应链与智能体运行权限的重要性;论文中的攻击成功率属于受控设置,不能直接推断现实产品已经受影响。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 机器人·
arXiv·
FSDAM 用少量示例学习驾驶员注意力变化
FSDAM 研究将驾驶员注意力预测拆成看哪里和为什么看两个任务。系统从场景、当前关注点、预计下一关注点与原因建立结构化表示。 团队使用 90 个标注示例训练,并通过独立模块处理空间预测和文字解释。论文报告了多个驾驶基准上的表现,目标是提高小样本条件下的可解释性。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
单个 AI 可靠,不代表组成团队后仍可靠
一项多智能体安全研究让模型群体共同判断是否升级安全告警,并加入持续主张某一结论的少数代理,观察集体决策如何偏移。 作者发现,单模型测试不能充分预测群体表现。观察彼此的推理可以减弱部分影响,但未必阻止群体受操纵;移除施压代理后,平均行为又会逐渐接近原先水平。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 前沿·
arXiv·
TileWeave 让手机 NPU 与 GPU 分担长上下文计算
TileWeave 研究按复用程度拆分稀疏注意力计算:共享程度高的块交给适合规则计算的 NPU,复用较低的部分交给 GPU,并协调结果合并。 作者在两类骁龙手机平台上测试了不同上下文长度,报告预填充阶段的速度改善。方案关注的是长上下文开始生成前的计算阶段,不能直接等同于逐 Token 生成速度。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
视觉模型按问题选择中间层,不只看最后一层
Mixture of Layers 研究让多模态模型根据文字问题,动态选择视觉编码器的中间层表示。不同层保留的局部细节与抽象信息不同,固定只取最后几层可能遗漏小物体、文字等线索。 论文比较了图像级、图块级及混合路由,在七项细粒度视觉任务中报告改善。方法不依赖增加图像分辨率或额外图块数量。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
ATTUNE 用编程智能体调优大模型训练配置
ATTUNE 让编程智能体在限定 GPU 时间预算内寻找训练瓶颈,每次修改一个配置,并用智能体之外的正确性检查拦截可能改变训练含义的方案。 论文称系统已在 Amazon Ads 部署,并公开代码与训练配置集合。作者报告了内部模型和公开基准上的吞吐提升,具体增益依赖模型与硬件配置。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
Penelope 为多轮智能体任务重新设计缓存淘汰
Penelope 研究指出,智能体经常重复使用长历史,而靠近序列末尾的 KV 缓存重算成本可能更高。它在保留共享前缀的同时,优先保存后部缓存,只重算缺失片段。 团队基于 SGLang 实现,并比较仅 GPU 缓存与 GPU、CPU 分层缓存。论文在真实智能体轨迹上报告首 Token 延迟与任务耗时下降。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
人类与模型如何在经验推断和现场推理间切换
一项研究区分了两种推断方式:把熟悉关系逐渐写入内部表示,以便快速调用;或在遇到新关系时,通过注意力在上下文中现场推理。 团队在人类、从头训练的神经网络与语言模型中观察这些策略,并用干预实验分析内部机制。研究认为两种方式各有计算代价与适用条件,不能简单用一种方式解释所有推理。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 安全·
arXiv·
多层 AI 防护不能只按彼此独立来算风险
一项研究讨论多个智能体防护组件之间的依赖关系。不同审核器可能犯相似错误,简单叠加各自准确率会低估系统风险。 论文建立依赖感知的配置与路由框架,并提供 DAPOA 软件包。在团队测试的场景中,忽略依赖关系会导致部分防护组合不满足预设要求。
- 研究·
arXiv·
SHIFT 用“收缩再修复”改进模型遗忘学习
SHIFT 研究先把微调模型向微调前的权重收缩,再短暂学习需要保留的数据,据此估计删除特定数据影响的方向。方法将变化转为蒸馏目标并迭代调整。 团队在统一协议下比较了 11 个基线,报告在遗忘效果和保留知识之间取得更好平衡。研究的目标是接近不使用指定数据重新训练的模型,而不是无限压低相关文本的概率。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
Reasoning Consensus 把多模型推理合成支持图
Reasoning Consensus 从多个模型的推理中提取结构化步骤,合并等价节点,再按支持该步骤的推理链数量赋权。读者可以看到某个结论背后哪些环节得到更多支持。 论文在七组基准上报告了与投票、辩论相近的准确率,并进行了小规模用户研究。图中支持数量描述的是模型间的一致性,不是事实真实性的直接证明。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 音频·
arXiv·
C3 针对长语音任务优化 KV 缓存检索
C3 研究根据音频注意力的结构组织 KV 缓存:不同查询头共享检索预算,系统再动态调整检索粒度,以减少每步读取的数据量。 作者在语音识别、翻译与摘要任务中测试四种语音语言模型,报告在有限缓存访问预算下的质量和效率改善。研究同时观察到,早期检索错误可能随生成逐步累积。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 音频·
arXiv·
录音里的话和声音冲突时,AI 更相信谁?
SAC-Bench 把环境声音与一致或矛盾的口头描述放进同一段音频,检验音频语言模型是否真正根据声音作答。基准覆盖事件、时间与空间关系。 作者发现,模型在纯声音任务上表现好,不代表能够抵御录音中错误话语的影响。有些提示修改虽然减少了顺从话语的回答,却未必改善对真实声音的理解。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
“潜在辩论”框架尝试解释模型的是非判断
一项研究用结构化的支持与反对信号近似语言模型在二元判断任务中的内部过程。作者将这种解释框架称为 latent debate,而不是让多个模型真的展开对话。 实验检验了替代解释与原模型预测的一致性,并观察内部信号分歧与幻觉风险的关系。它提供的是可解释性研究方法,不是模型思维过程的直接录像。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。
- 研究·
arXiv·
AgentKerr 让智能体参与磁性显微实验
AgentKerr 将语言模型智能体接入磁光克尔显微镜实验。卷积网络先从实时影像中提取磁性结构的位置、大小和形状,智能体再据此规划激励、成像与分析步骤。 硬件动作由独立的确定性规则检查,而不是由发出动作的模型自行批准。研究希望把人类实验者从逐步操作转向提出问题和监督实验。 配图为 GETAI.APP 原创编辑插画,采用主题示意设计,非新闻现场实拍、官方产品界面或实测图表。




















