• 人工智能
• 大模型
• OCR
• 模型量化
• 本地部署
• 多模态

MiniCPM-OCR-1.0-DSpark-GGUF是开源 OCR 大模型 MiniCPM-OCR 1.0 的GGUF 版草稿头（draft model）模型仓库，专为 llama.cpp 打造。把它和主模型配对后，即可开启DSpark 投机解码（speculative decoding），让图片文字识别的推理速度显著提升。本文是一份面向新手的最快配置方法指南：5 分钟完成模型准备与命令运行，附常见坑点清单。

一、先搞懂：DSpark 是什么？为什么 OCR 需要它？

在动手之前，先用一句话区分两个概念，避免装错模型：

⚠️ 官方在 README.md 中明确强调：A draft model, not a standalone OCR model（是草稿模型，不是独立 OCR 模型），必须与对应的主模型 checkpoint 配对使用。

加速原理（30秒版）：DSpark 草稿头会先"抢答"预测后续若干 token，主模型一次性批量校验。对 OCR 这类输出长文本的场景，可以明显减少逐字生成的等待时间。

二、准备工作：3 个文件缺一不可

开始之前，请确认手边有以下 3 个文件：

1. 主模型：MiniCPM-OCR-1_0-Q8_0.gguf等量化版本（来自 MiniCPM-OCR-1.0-gguf 主模型仓库，不要从本仓库找）
2. 视觉投影器：mmproj-model-f16-4x.gguf（同样来自主模型仓库）
3. DSpark 草稿头：本仓库的dspark-*.gguf文件

本仓库提供 11 种量化版本，完整清单见 README.md 的 Files 表格，本地文件包括 dspark-MiniCPM-OCR-1_0-F16.gguf、dspark-MiniCPM-OCR-1_0-Q4_K_M.gguf 等。

模型获取：一键 clone 本仓库

git clone https://gitcode.com/OpenBMB/MiniCPM-OCR-1.0-DSpark-gguf

三、最快配置方法：一条命令跑通 OCR 推理

在 README.md 中，官方给出的标准命令如下（以 Q8_0 为例）：

llama-cli \ -m MiniCPM-OCR-1_0-Q8_0.gguf \ --mmproj mmproj-model-f16-4x.gguf \ -md dspark-MiniCPM-OCR-1_0-Q8_0.gguf \ --spec-type draft-dspark \ --image page.png -p "Text Recognition:" \ --jinja -ngl 99 -ngld 99 -fa on

逐个参数解释，新手照抄也不会错：

💡小贴士：-m与-md的量化版本建议保持一致（如都选 Q8_0 或都选 Q4_K_M），即官方所说的"pair it with the matching main checkpoint"（见 README.md）。

四、量化版本怎么选？一张表帮你对号入座

选型口诀：先选 Q4_K_M，显存富余再升到 Q8_0；主模型和草稿头量化档位保持相同即可。

五、常见坑点排查：3 个高频问题

1️⃣ 用了llama-mtmd-cli却报错/不生效？llama-mtmd-cli不接受草稿模型。官方在 README.md 中明确提示：多模态 + DSpark 场景请使用llama-cli或llama-server。

2️⃣ 速度没有明显提升？检查是否漏了这两个开关：

• --spec-type draft-dspark（启用 DSpark）
• -ngld 99（草稿模型也要卸载到 GPU，见 README.md）

3️⃣ 输出异常或安装问题？可查阅 MiniCPM-OCR 官方 FAQ（安装、下载、显存、输入格式等，参见 README.md 的 Related 说明），并确认llama.cpp为支持draft-dspark的新版本。

六、总结：5 分钟路线图 🚀

至此，你就完成了llama.cpp OCR 推理加速的快速配置：主模型负责"答得准"，DSpark 草稿头负责"答得快"。后续如需批量处理图片，可把llama-cli换成llama-server接入自己的应用。祝识别愉快！

• 人工智能
• 大模型
• OCR
• 模型量化
• 本地部署
• 多模态