沐曦曦云C500/C550 GPU产品适配智谱GLM-OCR模型
今天,智谱AI正式发布并开源GLM-OCR,以 “小尺寸、高精度” 实现文档解析能力新标杆。沐曦股份曦云C500/C550 GPU充分发挥高生态兼容性、软硬协同能力优势,高效完成与智谱GLM-OCR Day 0适配。此次曦云C500/C550基于Transformer和vLLM框架对GLM-OCR进行适配,在保持优异精度的同时,实现高性能、低延迟推理。
这是继去年12月智谱 GLM-4.6V 系列多模态大模型之后,沐曦再一次完成与智谱AI模型的快速适配。这充分体现了沐曦 MXMACA 软件栈与曦云 C 系列的高兼容性与快速适配能力。曦云C系列依托沐曦全栈自研 MXMACA 软件栈,能实现模型低成本迁移与高效部署,并充分释放自身澎湃算力,为主流大模型提供 “发布即能用”的国产算力底座。
关于GLM-OCR
GLM-OCR作为一款轻量的专业级 OCR 模型,其核心亮点如下:
性能 SOTA:以 94.6 分登顶 OmniDocBench V1.5,并在公式识别、表格识别、信息抽取的多项主流基准中均取得 SOTA 表现;
场景优化:专攻真实业务痛点,在手写体、复杂表格、代码文档及印章等高难场景中表现稳健;
推理高效:仅 0.9B 参数规模,支持 vLLM 和 SGLang 部署,显著降低推理延迟与算力开销,适合高并发与边缘部署;
开源易用:同步开源完整 SDK 与推理工具链,支持一行命令快速调用,轻松接入现有业务系统。
性能SOTA、精准干活儿
得益于自研 CogViT 视觉编码器与深度场景优化,GLM-OCR 实现了“小尺寸,高精度”。
GLM-OCR 参数量仅 0.9B,但在权威文档解析榜单 OmniDocBench V1.5 中以 94.6 分取得SOTA。在文本、公式、表格识别及信息抽取四大细分领域的表现优于多款OCR专项模型,性能接近 Gemini-3-Pro 。

案例实测
除了公开榜单,智谱还针对真实业务中的六大核心场景进行了内部测评。结果显示,GLM-OCR 在代码文档、真实场景表格、手写体、多语言、印章识别、票据提取等维度均取得显著优势。
在实际应用中,GLM-OCR 能精准解析扫描件、PDF、表格及票据,有效解决手写、印章、竖排及多语言混排难题,在复杂版式下依然保持极高的准确率和鲁棒性。
通用文本识别:GLM-OCR支持照片、截图、扫描件、文档输入,能够识别手写体、印章、代码等特殊文字,可广泛应用于教育、科研、办公等场景。
案例:手写公式识别

案例:印章识别
案例:代码识别
*由于长度原因,截图未完全展示模型输出
复杂表格解析:针对合并单元格、多层表头等复杂结构,模型能精准理解并直接输出 HTML 代码。无需二次制表,识别结果即可用于网页展示或数据处理,大幅提升表格录入与转换效率。
案例:跨单元格表格

案例:分段表

信息结构化提取:GLM-OCR可从各类卡证、票据、表格中智能提取关键字段,并输出标准的JSON格式,无缝对接银行、保险及物流等行业系统。
输入图片:

prompt:
请按下列JSON格式输出图中信息:
```json
{
"标题":"中华人民共和国海关出口货物报关单",
"境内发货人": {
"名称":"",
"统一社会信用代码":"",
"10位海关代码":""
},
"出境关别":"",
"出口日期":"",
"申报日期":"",
"备案号":"",
"境外收货人":"",
"运输方式":"",
"运输工具名称及航次号":"",
"提运单号":"",
"生产销售单位": {
"名称":"",
"统一社会信用代码":"",
"10位海关代码":""
},
"监管方式":"",
"征免性质":"",
"许可证号":"",
"合同协议号":"",
"贸易国(地区)":"",
"运抵国(地区)":"",
"指运港":"",
"离境口岸":"",
"包装种类":"",
"件数":"",
"毛重(千克)":"",
"净重(千克)":"",
"成交方式":"",
"运费":"",
"保费":"",
"杂费":"",
"商品信息": [{
"项号":1,
"商品编号":"",
"商品名称":"",
"数量":"",
"单价":"",
"总价":"",
"币制":"",
"原产国(地区)":"",
"最终目的国(地区)":"",
"境内货源地":"",
"征免":"",
"规格型号(申报要素)":""
},// 如果有多种商品,新建一个字典继续在列表中记录
]
}
```
输出:
```json
{
"标题":"中华人民共和国海关出口货物报关单",
"境内发货人": {
"名称":"建德市佳泓工具有限公司",
"统一社会信用代码":"913301827042918701",
"10位海关代码":""
},
"出境关别":"",
"出口日期":"",
"申报日期":"",
"备案号":"",
"境外收货人":"ROSS PROCUREMENT, INC.",
"运输方式":"水路运输",
"运输工具名称及航次号":"",
"提运单号":"",
"生产销售单位": {
"名称":"建德市佳泓工具有限公司",
"统一社会信用代码":"913301827042918701",
"10位海关代码":""
},
"监管方式":"一般贸易",
"征免性质":"一般征税",
"许可证号":"",
"合同协议号":"70037636",
"贸易国(地区)":"美国",
"运抵国(地区)":"美国",
"指运港":"美国",
"离境口岸":"北三集司",
"包装种类":"纸箱+双泡壳+标贴",
"件数":"300",
"毛重(千克)":"2700.00",
"净重(千克)":"2499.00",
"成交方式":"FOB",
"运费":"",
"保费":"",
"杂费":"",
"商品信息": [
{
"项号": 1,
"商品编号":"8205400000(999)",
"商品名称":"螺丝刀",
"数量":"1200套",
"单价":"",
"总价":"7896.00",
"币制":"USD",
"原产国(地区)":"中国",
"最终目的国(地区)":"美国",
"境内货源地":"杭州其他",
"征免":"照章征税",
"规格型号(申报要素)":""
}
]
}
```
批量处理与RAG支持:GLM-OCR支持大批量文档的识别与解析,其高精度的识别能力和规整的输出格式,可为检索增强生成(RAG)提供坚实基础。
更快、更便宜
速度方面,智谱对比了在相同硬件环境与测试条件下(单副本,单并发),分别以图像文件和 PDF 文件为输入,不同 OCR 方法完成解析并导出 Markdown 文件的速度差异。结果显示,GLM-OCR 处理 PDF 文档的吞吐量达1.86 页/秒,图片达0.67 张/秒,速度显著优于同类模型。

价格方面,API 输入输出同价,仅需 0.2 元 / 百万 Tokens。1元即可处理约2000张A4大小扫描图片或200份10页简单排版PDF,成本约为传统 OCR方案的1/10。
技术细节
在训练策略方面,GLM-OCR 率先将多 Tokens 预测损失(MTP)引入OCR模型训练过程,以增强损失信号密度并提升模型学习效率。并且,通过持续且稳定的全任务强化学习训练,能够显著提升模型在复杂文档场景下的整体识别精度与泛化能力。
上述性能提升还得益于 GLM-OCR 在多模态模型结构上的系统性设计。模型整体采用“编码器—解码器”架构,继承自 GLM-V 系列,由视觉编码器(ViT)、跨模态连接层和语言解码器三大核心模块组成。其中,视觉侧集成了自研的CogViT视觉编码器(400M 参数),并在数十亿级图文对数据上引入 CLIP 策略进行大规模预训练,使模型具备了强大的文字与版面语义理解能力。
为实现视觉与语言信息的高效融合,GLM-OCR 设计了一套轻量而高效的连接层结构,融合SwiGLU 机制并引入4 倍下采样策略,能够精准筛选并保留关键视觉 Token,将高密度语义信息高效传递至后端的GLM-0.5B解码器,从而支撑高精度的 OCR 识别输出。
在整体系统层面,GLM-OCR 采用“版面分析 → 并行识别”的两阶段技术范式。其中,版面分析模块基于 PP-DocLayout-V3 实现,能够在版式多样、结构复杂的文档场景下实现稳定、高质量且高效率的 OCR 解析效果。
开源与在线体验
1.开源地址
Github:https://github.com/zai-org/GLM-OCR
Hugging Face:https://huggingface.co/zai-org/GLM-OCR
2.模型API
智谱开放平台:https://docs.bigmodel.cn/cn/guide/models/vlm/glm-ocr
开放平台特惠尝鲜礼包已上线:https://bigmodel.cn/special_area
Z.ai:https://docs.z.ai/guides/vlm/glm-ocr
3.在线体验
Z.ai:https://ocr.z.ai
关于沐曦股份
沐曦股份致力于自主研发全栈高性能GPU芯片及计算平台,为智算、通用计算、云渲染等前沿领域提供高能效、高通用性的算力支撑,助力数字经济发展。
