我最近半年一直在折腾企业知识库相关的东西每天跟 PDF、Word、PPT、扫描件打交道最头疼的其实不是模型效果而是文档解析。尤其是 PDF排版乱、表格带合并单元格、双栏论文、扫描件传统解析库拿到手要么是一堆乱码文本要么把表格拍扁成几行字符串。直到我换上了 docling 这个开源工具文档转 Markdown / JSON 的流程才算真正稳定下来。这篇文章就从实际使用的角度聊聊 docling它到底解决什么问题、怎么快速上手、核心能力在哪里以及我把它接进 RAG 管线时踩过的那些坑。1. docling 到底解决了什么问题1.1 文档预处理才是 RAG 的隐形瓶颈很多人做 RAG 的第一反应是选个向量库、调个 Embedding结果检索效果不好就怪模型。但实际我踩过几次之后发现80% 的问题出在文档预处理上PDF 里一段文字被页眉页脚切断表格内容错位多栏排版按物理顺序读取导致上下文顺序混乱这些都会直接污染切块和向量化。传统方案通常这样组合pypdf 或 pdfplumber 抽文本再用正则写一堆规则去拼表格、去页眉、恢复阅读顺序。小规模文档还行一旦遇到跨部门、多格式的文档集规则就会越写越复杂最后变成一团浆糊。docling 的定位就是把这层最脏的活集中解决掉。它把 PDF、Word、PPT、Excel、图片等格式统一转换为结构化的 Markdown 和 JSON在解析阶段就把版面、标题层级、表格结构、阅读顺序这些信息保留下来。说白了它不只是“把文字抠出来”而是“读懂文档的排版结构”。1.2 docling 的定位从“能读”到“读懂”docling 是 IBM 开源的一个文档转换工具GitHub 上叫 docling核心思路是“文档 AI 转换器”。它不只是做文本抽取而是用深度学习模型去识别版面元素正文、标题、表格、图片、页眉页脚、列表然后再把识别结果重新组织成有结构的文档对象最后导出为 Markdown 或 JSON。它最吸引我的点有三块。第一布局分析能力强能够识别双栏、多栏、嵌套列表输出按阅读顺序排列的文本第二表格结构识别是单独的模型能还原合并单元格和行列关系第三整体架构是面向 LLM 场景设计的输出结果天然适合做 RAG 切块和检索增强。我目前主要把它用于企业内部知识的预处理产品手册、技术文档、合同扫描件、市场调研 PPT全都会先过一遍 docling变成干净的 Markdown 和 JSON再进入后面的切块、向量化流程。2. 上手实操从安装到跑通第一条转换2.1 安装时容易被坑的依赖docling 的安装本身不复杂但有几个前置条件需要注意。建议 Python 3.10 或 3.11我实测 3.9 也能跑但 3.9 在部分新版本依赖上会有兼容性问题直接用 3.11 最稳。pip 安装命令很简单pip install docling默认安装会带上核心解析能力包括布局模型和表格模型运行所需的 torch、transformers 等依赖。如果你需要 OCR 能力还需要额外配置 OCR 后端。根据我的实践经验最容易踩的坑有这几个一是首次运行时需要下载模型权重。docling 会自动从模型仓库拉取布局模型和表格模型默认缓存路径在用户目录下。如果你的服务器无法访问模型下载源就需要在内网提前下载好模型再利用artifacts_path本地模型缓存路径可理解为“模型文件放在哪里”指向本地目录。二是依赖版本冲突。docling 依赖的 transformers、torch 版本如果跟项目里已有的大模型推理框架冲突会让安装阶段很痛苦。我的建议是单独建一个 Python 虚拟环境来跑 docling或者把它封装成一个独立的解析微服务避免和主系统互相污染。三是有时候装完 docling 后docling --version就报错多半是某些 native 依赖比如tesseract没装。OCR 相关我用的是 tesseract在 Linux 上需要系统层面安装# Ubuntu / Debian 系 sudo apt-get install tesseract-ocr tesseract-ocr-chi-sim提示如果只是处理电子版 PDF可以暂时不配 OCR先把文档转换流程跑通后面再单独把扫描件场景加进来。2.2 命令行就能直接出 Markdown 和 JSONdocling 提供了命令行工具安装完成后直接可以用。我最常用的是这样的方式docling input/xxx.pdf --to md --to json它会把xxx.pdf解析后输出.md和.json两个文件默认输出到与输入文件相同的目录。也可以用--output指定输出目录适合批量处理时集中收拢文件。如果一次处理多个文件可以直接传一个目录docling input/ --to md --to json --output output/实测下来双栏论文、普通文字 PDF、Word 转换这几个场景结果的准确率都远超过我之前的“pdfplumber 加正则”方案。命令行非常适合先快速验证一个文档的效果或者做小批量的临时转换。2.3 Python 集成只要三步如果想在代码里集成docling 的 Python API 设计得也很简单核心就三个步骤创建转换器、执行转换、导出结果。from docling.document_converter import DocumentConverter converter DocumentConverter() # 转换为 Document 对象 result converter.convert(input/xxx.pdf) # 导出为 Markdown md_text result.document.export_to_markdown() print(md_text) # 导出为字典结构适合进一步做定制化处理 data_dict result.document.export_to_dict() print(data_dict.keys())export_to_markdown拿到的是带标题层级、表格语法的文本export_to_dict拿到的是结构化的文档对象包含页面、块级元素、表格、阅读顺序等元信息。这里其实有个隐藏优势如果你想做自定义切块逻辑可以直接基于 dict 结构操作不用自己去解析 Markdown 的#或表格语法。3. 核心能力拆解它凭什么比普通解析器强3.1 布局分析与阅读顺序重构普通 PDF 解析器把 PDF 当成“从上到下、从左到右”的文本框列表来读这在遇到双栏论文、内部通讯稿、带复杂页眉的页脚时就会出错。docling 的布局分析模型做的是“目标检测”它能识别出页面里的每个区域类型标题、正文、表格、图片、页眉、页脚、页码然后再基于布局信息恢复真正的阅读顺序。举个例子双栏论文的物理文本顺序是“左栏第一行 → 右栏第一行”如果直接按坐标从上到下抽文本模型拿到的上下文就是断的。docling 会识别出左右两个栏再把左栏整个读完后跳到右栏这样切块后的语义就完整了。页眉页脚的处理也很关键。我处理过很多带大页眉的文档传统方案抽出来的文本里每页开头都重复一次公司名这些噪音会严重干扰向量检索。docling 识别出页眉页脚区域后默认不会混入正文输出这对我后续做 embedding 质量提升帮助很大。3.2 表格识别从“一坨文本”到“结构化表格”表格是文档解析里最让人头疼的部分尤其是带合并单元格、跨页表格的文档。pdfplumber 能定位到表格区域但拿到的通常是“单元格文本按坐标排列”的结构还得自己写逻辑判断哪个是表头、哪一格和哪一格合并。docling 专门有个表格结构识别模型TableFormer它学习的是“表格的拓扑结构”输出结果里直接带行列关系、合并单元格信息。转换成 Markdown 之后表格会变成正常的管道符语法| 姓名 | 部门 | 入职时间 | | ---- | ---- | -------- | | 张三 | 技术部 | 2023-01-15 | | 李四 | 产品部 | 2022-08-20 |而export_to_dict里表格信息更完整包含每个单元格的行列索引、是否合并、文本内容等。我通常在保存入库时同时保留两份一份 Markdown 给人看一份 JSON 给程序做精细切块和检索。实测遇到复杂表格时docling 也做不到 100% 还原但比传统方案强太多。尤其是“多行表头”、“竖向合并单元格”这些场景docling 能还原到八九成剩下的通过人工抽查修正即可。3.3 OCR 能力扫描版 PDF 也能处理电子版 PDF 的转换已经很强了但真正让我决定长期用它的是扫描件场景。很多合同、历史档案都是扫描版 PDF本质是图片直接用普通解析器啥也拿不到。docling 的 OCR 通过管道配置开启实测流程是这样from docling.datamodel.pipeline_options import PdfPipelineOptions from docling.document_converter import DocumentConverter pipeline_options PdfPipelineOptions() pipeline_options.do_ocr True converter DocumentConverter(pipeline_optionspipeline_options) result converter.convert(scan/contract.pdf) md_text result.document.export_to_markdown()开启 OCR 后扫描版 PDF 的识别速度会明显变慢而且对清晰度有要求。我建议扫描件的 DPI 至少要在 200 以上否则中文识别错误率会很高。还有一点OCR 结果的版式识别也依赖布局模型所以扫描件最好先做一次图像预处理比如去黑边、纠正倾斜角度效果会好很多。这里要特别说一句OCR 不是默认开启的因为它会明显增加耗时和内存占用。如果一台机器批量处理大量电子版文档最好分开两套管道普通文档不开 OCR扫描件才开。4. 把 docling 接进 RAG 管线的完整实践4.1 文档管道设计扫描 → 解析 → 切块 → 向量化docling 在我这边不是孤立使用的它只是整条 RAG 预处理链路的第一站。我目前的管道是这样的原始文档统一推进inbox目录可能是 PDF、Word、PPT、扫描件docling 批量解析输出 Markdown 和 JSON 到processed目录基于 Markdown 的标题层级做切块每个 chunk 保留“文档编号 标题链 正文”的元信息拼接元信息后调用 Embedding 模型做向量化向量写入向量库同时把原始 Markdown 存入文档数据库方便溯源。这样设计的好处是docling 的解析结果是一次性的后面不管换 Embedding 模型还是换切块策略只要重新跑第三步就行不用再把 PDF 翻出来重新解析一遍。4.2 保留结构信息检索质量才上得去我在实际测试中发现纯文本切块和结构性切块的检索质量差距很大。比如一个产品手册文档结构是“章节 → 小节 → 操作步骤”如果切块时丢掉标题层级检索出来的片段经常“前言不搭后语”。而 docling 输出的 Markdown 天然带#、##、###可以让切块逻辑直接依赖这些结构。我的切块逻辑大致是这样的先把 Markdown 按标题拆开每个二级标题对应一个大的语义块再根据字符数阈值做二次切分。切分时把标题链拼在 chunk 内容的开头[产品手册 故障处理 设备重启] 1. 按住电源键 5 秒...这个做法让检索结果的相关性显著提升尤其是用户提问包含具体章节名时向量匹配更容易命中。另外表格我建议不强制纯文本化。docling 输出的表格如果是 Markdown 语法可以保留原样让 LLM 在生成答案时自行理解表格结构如果用的是某些对表格理解较弱的向量化模型可以在切块时把表格单独抽出来转成摘要文本存入向量库。4.3 大规模批处理要注意的性能问题刚开始我直接用 for 循环逐个文件转换发现效率很低后来琢磨出一套更适合批处理的做法复用 DocumentConverter 实例。转换器内部会加载模型每次重建实例等于反复加载模型非常费时。全局只建一个循环处理文件。控制并发。docling 在 CPU 上的推理开销不小多线程对模型推理帮助有限我更推荐用多进程按目录分片处理。比如 4 个进程每个进程处理不同的子目录。及时关闭不需要的管道能力。只需要文本结构的场景可以考虑关闭 OCR或者关闭表格识别能省不少时间。必要时把模型预加载好。首次解析会触发模型下载和初始化耗时可能接近一分钟我通常在服务启动时先解析一个空模板把模型加载完再进入批处理。性能方面我实测一篇 20 页左右的混排 PDF在 8 核 CPU 机器上单进程解析大概要 15 到 30 秒如果开启 OCR 会翻倍。如果能用 GPU推理时间会明显下降但大部分企业内部知识库场景下CPU 批量跑也能接受关键是并发要做起来。5. 踩坑记录与调参建议5.1 常见问题速查表我整理了一份实际问题对照表基本覆盖了大部分从零接入 docling 时会遇到的问题。问题现象可能原因解决方案首次运行卡住模型下载失败服务器无法访问模型下载源提前在有网络环境机器下载模型复制到内网使用artifacts_path指向本地目录解析结果包含大量页眉页脚布局模型未能识别页眉页脚检查 PDF 原始质量尝试先是否关闭图像嵌入、使用更高分辨率输入OCR 中文识别率低扫描件清晰度不够或缺少中文语言包安装tesseract-ocr-chi-sim提高扫描 DPI先做图像纠偏内存溢出 / Python 进程被杀死同时并发太多模型占用过高控制并发进程数关闭非必要管道能力用多进程替代多线程表格解析后行列错乱原表格排版过于复杂改用 JSON 输出检查单元格坐标必要时人工干预调整模板解析结果文本顺序不对文档内有多栏或不规则文本框确认布局模型已启用更新 docling 到较新版本重复调用 API 时越来越慢全局不断创建 DocumentConverter复用转换器实例只初始化一次输出 Markdown 里图片显示为链接或丢失PDF 中图片没有被正确抽取使用 JSON 输出检查图像块后续单独保存图片文件5.2 影响输出的几个关键参数docling 的很多设置在PdfPipelineOptions里控制我强烈建议先花五分钟把几个关键开关测试一遍再固化到生产代码里。do_ocr是否启用 OCR 识别默认关闭。扫描件场景必须开启电子版 PDF 保持关闭否则性能浪费很明显。do_table_structure是否启用表格结构识别也就是 TableFormer 模型。如果你处理的文档表格很多建议保持开启如果全是纯文本说明书可以关闭以提速。do_ocr开启后还需要关注 OCR 引擎的语言配置。中文文档需要把语言设置为中英文混合否则中文识别会变成乱码。模型缓存路径artifacts_path默认在用户缓存目录。正式环境一定要固定这个路径并把模型文件提前放置好避免每次启动或每台机器都重新下载。还有一点更新版本要谨慎。docling 迭代速度较快新版本可能调整模型或 API。我个人习惯是把当前能稳定工作的版本锁定在requirements.txt确认无误后再统一升级避免“今天还能跑、明天同一个报错”的局面。注意文档解析没有完美方案。就算 docling 效果很好我处理完大批量文档后也会抽检至少 10% 的输出文件尤其是表格和扫描件宁可人工多看一眼也不要让脏数据进向量库。6. 一些我个人比较受用的经验最后分享一个小技巧我在生产环境部署时不是让 docling 直接输出到终端或内存而是先落盘成 Markdown 和 JSON 文件再提交给后续切块任务。这样有两个好处一是可以随时人工查看解析结果确认这段文本是否干净二是后续调整 Embedding 或切块策略时不需要重新解析原始 PDF直接拿落盘结果改逻辑反复试错成本非常低。另外我习惯在文档解析前先做一个文件类型检查真正的 PDF、扫描版 PDF、Word、PPT分开走不同管道。docling 本身支持多格式但不同格式的耗时和失败率差异很大分类后能让任务队列更稳定也方便对特定格式做针对性优化。从我的角度说docling 不是万能的但它是目前让我“省心最多”的文档预处理工具。以前我一天最多手动清理几十份 PDF现在用脚本批量跑完只需要抽查几份结果。如果你也在搭知识库或者做文档智能处理建议先拿几份你最头疼的文档试一下大概率会在第一轮转换后就能看出它和传统解析库的本质差距。
