11 月 2 日公布的 R²-Omni 研究关注多模态模型生成长回答时的缓存成本。单纯删除大量输入片段可能保住选择题得分,却丢掉长篇描述需要的细节。
方法先按音视频中的相似性合并冗余表示,再为保留的缓存分配不同数值精度。作者在其长回答测试中报告平均约五倍的缓存压缩和质量保持情况,结果限定于论文设置。
11 月 2 日公布的 R²-Omni 研究关注多模态模型生成长回答时的缓存成本。单纯删除大量输入片段可能保住选择题得分,却丢掉长篇描述需要的细节。
方法先按音视频中的相似性合并冗余表示,再为保留的缓存分配不同数值精度。作者在其长回答测试中报告平均约五倍的缓存压缩和质量保持情况,结果限定于论文设置。