企鹅标识企鹅交易洞见共识之外的价值
← 加密快讯

百度开源Unlimited-OCR 2:百页文档单步解码快5.6倍,不必每步看全书

contact@theblockbeats.org (律动BlockBeats)

动察 Beating AI 快讯,百度发布并开源 Unlimited-OCR 2,模型约 30 亿参数,推理时仅激活约 5 亿参数。

6 月推出的第一版已经能连续解析约 40 页文档,但随着页数增加,每生成一个 token 仍要关注所有页面的视觉信息,导致解码越来越慢。

第二版引入 SR-SWA 稀疏注意力机制。模型不再每次都查看全部页面的视觉信息,而是重点关注当前页面,再挑选少量相关的视觉信息,结合最近生成的文字继续识别。百页测试中,单步解码比旧版 R-SWA 注意力方案快约 5.6 倍,比传统全注意力快约 7 倍。

显存节省也很明显。在百页文档测试中,通过分块解码和跨页缓存复用,单路推理的峰值 KV 缓存显存从 47GB 降至 1.77GB。另一组 16 路并发测试中,生成吞吐量从每秒 360 tokens 提升至 1315 tokens。

百度还建立了 MarathonDocBench,包含 100 份 103 至 300 页的文档,测试模型的长文档解析能力。Unlimited-OCR 2 获得 77.06 分,Gemini 3.8 Flash 为 28.61 分,Qwen3.8 Max 为 22.93 分。上述成绩来自百度自建基准的测试。

实际处理超长文档时,系统还可以分窗口处理,并复用前一窗口的部分缓存,以进一步降低显存开销。不过,窗口过小可能影响跨页内容的衔接。论文也承认,新机制无法完整保留文档的全局信息,多级标题等整体结构仍可能识别错误。