百度开源Unlimited-OCR 2无限文本 2-4G内存即可本地部署！ 先说结论： - PaddleOCR那个时代可以翻篇了 - 本地私有化部署相当友好… · @cfenghub · TwKit

@cfenghub

百度开源Unlimited-OCR 2无限文本 2-4G内存即可本地部署！ 先说结论： - PaddleOCR那个时代可以翻篇了 - 本地私有化部署相当友好，3-4G显存或同等内存就可高精度部署，2-3G内存可以流畅跑 1、解决什么场景，痛点？ 以前用传统OCR处理几十上百页的长PDF、深度研报、复杂财报，要么切图切到碎掉、排版全乱，要么多模态大模型直接 OOM 爆炸。 Unlimited-OCR 2能一镜到底把整本大文档直接转成规规矩矩的 Markdown 和表格，且越往后翻，显存和速度不崩，官方宣称无限文本。 2、参数有多轻？ 标称 3B 参数，但它是 MoE 架构，实际推理 仅激活 0.5B！ 3、ONNX本地部署可行性（大家最关心的点）： - 精度压到 INT8 后，模型权重仅约 3GB 显存/内存！几乎不丢精度，精度压到 INT4 后，模型权重仅1.8-2.2GB，精度大约97% - 视觉端非常标准，可以顺畅导出 ONNX，解码端配合 llama.cpp (GGUF) 或本地 Python脚本，普通游戏本甚至轻薄本就能纯离线单机跑 - 财务、法律、企业私密核心文档甚至不用出本机，百页千页文档本地一键解析； 百度那个男人又回来了！ #AI #OCR

曝光 194 · 评论 4 · 点赞 2 · 书签 3