跳转到正文
登录
← 开发动态

Unlimited OCR 尝试用固定缓存处理长文档

Unlimited OCR 针对长文档识别中缓存不断增长的问题,引入参考滑动窗口注意力 R-SWA。解码时保留所需参考信息,让 KV 缓存保持恒定,而不是随输出文本持续扩张。

GETAI.APParXiv查看原文 ↗

Unlimited OCR 针对长文档识别中缓存不断增长的问题,引入参考滑动窗口注意力 R-SWA。解码时保留所需参考信息,让 KV 缓存保持恒定,而不是随输出文本持续扩张。

论文以 DeepSeek OCR 为基础,在标准 32K 长度设置下处理多页文档,并公开代码与权重。作者还讨论了这种解析注意力在语音识别、翻译等序列任务中的潜在用途。

来源:arXiv · 2606.23050

登录

还没有账号?