AuthRank 用来源关系帮助识别情报投毒
AuthRank 尝试给网络威胁情报来源建立可信度评分。系统结合引用关系、主张支持情况、时间衰减和作者信息,减少大模型流水线被污染资料误导的风险。
查看来源为 arXiv 的资讯与动态,保留原文入口和发布时间。
共 190 篇
AuthRank 尝试给网络威胁情报来源建立可信度评分。系统结合引用关系、主张支持情况、时间衰减和作者信息,减少大模型流水线被污染资料误导的风险。
一项安全研究发现,攻击者在模型预训练数据中混入少量设计过的内容,可能让后续智能体在特定触发条件下执行异常指令,即使之后的训练流程使用干净数据。
FSDAM 研究将驾驶员注意力预测拆成看哪里和为什么看两个任务。系统从场景、当前关注点、预计下一关注点与原因建立结构化表示。
一项多智能体安全研究让模型群体共同判断是否升级安全告警,并加入持续主张某一结论的少数代理,观察集体决策如何偏移。
TileWeave 研究按复用程度拆分稀疏注意力计算:共享程度高的块交给适合规则计算的 NPU,复用较低的部分交给 GPU,并协调结果合并。
Mixture of Layers 研究让多模态模型根据文字问题,动态选择视觉编码器的中间层表示。不同层保留的局部细节与抽象信息不同,固定只取最后几层可能遗漏小物体、文字等线索。
ATTUNE 让编程智能体在限定 GPU 时间预算内寻找训练瓶颈,每次修改一个配置,并用智能体之外的正确性检查拦截可能改变训练含义的方案。
Penelope 研究指出,智能体经常重复使用长历史,而靠近序列末尾的 KV 缓存重算成本可能更高。它在保留共享前缀的同时,优先保存后部缓存,只重算缺失片段。
一项研究区分了两种推断方式:把熟悉关系逐渐写入内部表示,以便快速调用;或在遇到新关系时,通过注意力在上下文中现场推理。
一项研究讨论多个智能体防护组件之间的依赖关系。不同审核器可能犯相似错误,简单叠加各自准确率会低估系统风险。
SHIFT 研究先把微调模型向微调前的权重收缩,再短暂学习需要保留的数据,据此估计删除特定数据影响的方向。方法将变化转为蒸馏目标并迭代调整。
Reasoning Consensus 从多个模型的推理中提取结构化步骤,合并等价节点,再按支持该步骤的推理链数量赋权。读者可以看到某个结论背后哪些环节得到更多支持。
C3 研究根据音频注意力的结构组织 KV 缓存:不同查询头共享检索预算,系统再动态调整检索粒度,以减少每步读取的数据量。
SAC-Bench 把环境声音与一致或矛盾的口头描述放进同一段音频,检验音频语言模型是否真正根据声音作答。基准覆盖事件、时间与空间关系。
一项研究用结构化的支持与反对信号近似语言模型在二元判断任务中的内部过程。作者将这种解释框架称为 latent debate,而不是让多个模型真的展开对话。
AgentKerr 将语言模型智能体接入磁光克尔显微镜实验。卷积网络先从实时影像中提取磁性结构的位置、大小和形状,智能体再据此规划激励、成像与分析步骤。
WMIP 用程序生成答案,测试语言模型在多次更新后能否正确报告最终或中间状态。它在相同题目上比较不同输出规则,避免把题型差异混入结论。
一项模型压缩研究把权重拆为量化矩阵、低秩部分和处理离群行的稀疏部分,尝试用少量额外存储补偿低比特转换损失。
一篇跨学科研究以南蒂罗尔方言和库尔德语变体为例,讨论生成式 AI 如何处理非标准化语言。作者结合社会语言学与计算语言学视角,分析数据、技术与语言规范之间的关系。
BRACE 研究为医学陈述核验构造训练样本,不只替换引用,还同时考察患者报告是否支持模型说法。系统利用公开放射报告和相关医学条目生成对照例子。
一项社会科学方法研究用欧洲晴雨表中的 AI 态度数据,比较模型合成调查样本的个体预测、总体分布和变量关系。
Taurus 研究比较语言模型自由编写分割程序,以及先自动标注再由模型审核两种方式。团队使用六个公开主动脉 CT 数据集进行盲标注恢复评测。
一篇关于 BPE 的理论研究分析了分词背后的压缩问题。作者证明,寻找最优的成对编码属于 APX 完全问题,同时给出 BPE 在所有输入上都成立的最坏情形近似保证。
RE-SciVQA 将论文的章节标题、图表引用和图注纳入检索,再用 LoRA 微调较小的语言模型回答科学图表问题。它没有另建复杂的大型模型,而是先改善模型读到的上下文。
11 月 9 日公开的预印本提出 World In-Context Learning,作者来自华中科技大学与 ArcheOne AI,配套框架名为 RoboScript。方法从一次示范出发,在模拟环境里练习,把反馈写进任务记忆,而不是更新基础模型权重。