AB
AiBoss
ニュース

百度开源 Unlimited OCR 2:单次请求解析数百页文档

百度开源 Unlimited OCR 2,一个 3.34B 参数的 OCR 视觉语言模型,主打单次请求解析数百页长文档,采用 SR-SWA 稀疏注意力机制控制解码开销,权重以 MIT 许可证发布。

百度开源 Unlimited OCR 2,面向数百页长文档解析

据 MarkTechPost 报道,百度已开源 Unlimited OCR 2,一个面向超长文档的 OCR 视觉语言模型。该模型参数量为 3.34B,官方称可在单次请求中解析数百页的书籍、申报文件与报告,输出覆盖文本、表格、公式、图像、标题层级与阅读顺序。权重以 MIT 许可证发布,代码托管在 GitHub,模型卡列出 Transformers 用于快速测试、定制版 SGLang 用于服务部署。

核心变化在注意力机制

该模型的核心改动是 SR-SWA(Sparse Reference Sliding Window Attention,稀疏参考滑动窗口注意力)。据模型卡说明,它把文本—视觉注意力压缩到固定的参考集合,示例规模为 512 个 token,配置上以 128 token 的局部窗口配合对 32 token 块的 top-16 选择,使解码每步的延迟与显存占用随文档增长基本保持平稳。百度将这一效果称为有限上下文窗口内的「unlimited-horizon」解析,但图像编码与总运行时间仍随页数上升。多页模式下每页消耗 273 个图像 token,最大位置长度为 131,072 token。架构上沿用 DeepSeek-OCR 风格布局:SAM ViT-B 加 CLIP-L 编码器,接入 12 层混合专家解码器,每个 token 路由至 64 个专家中的 6 个,另有 2 个共享专家;百度未披露 v2 的激活参数量。

成绩为自报,且存在明显短板

据百度自行公布的图表,Unlimited OCR 2 在 MPDocBench 上得分 84.6,在 MarathonDocBench 上得分 77.1,均列其对比的 9 个模型之首;前代 Unlimited-OCR 在 MarathonDocBench 上为 0.0。不过所有分数均为百度自报,且仅出现在一张图表图片中,MarathonDocBench 也未找到公开版本。子项中标题层级最弱,长文档场景仅 48.2。运行方面,模型卡称可在单张 CUDA GPU 上以 BF16 运行,百度测试使用 NVIDIA A800-80GB,BF16 权重约 6.7 GB;加载需开启 trust_remote_code,SGLang 服务使用百度定制 wheel,且默认偏置设置可能触发 462 MiB 分配并导致显存不足。具体功能、许可证与部署要求请以官网及模型卡当前信息为准。