一项预印本研究了跨模型更新直接复用 KV 缓存的问题,详细案例覆盖 DeepSeek-V4-Flash 到 Flash-0731 的变化。目标是减少共享长上下文的重复计算。
在已有旧缓存的条件下,三项较长前缀问答测试的首 Token 耗时中位数取得 2.10 至 5.08 倍加速,但不同版本更新后的检索准确率差异明显。
研究者提出功能缓存散度衡量复用缓存与新版原生推理的差别,并指出即使首个 Token 相同,后续答案及停止行为仍可能不同。任务可用性和行为一致性需要分别检查。
来源:arXiv 原文。
图片来源:论文作者 / arXiv。
