跳转到正文
登录
← 开发动态

R²-Omni 压缩长回答的音视频缓存

先合并重复信息,再按语义敏感程度分配精度。

GETAI.APParXiv查看原文 ↗

11 月 2 日公布的 R²-Omni 研究关注多模态模型生成长回答时的缓存成本。单纯删除大量输入片段可能保住选择题得分,却丢掉长篇描述需要的细节。

方法先按音视频中的相似性合并冗余表示,再为保留的缓存分配不同数值精度。作者在其长回答测试中报告平均约五倍的缓存压缩和质量保持情况,结果限定于论文设置。

来源:arXiv · 2611.03247。

登录

还没有账号?