deepdoctection

GitHub
3.2k 189 较难 1 次阅读 今天Apache-2.0图像语言模型开发框架
AI 解读 由 AI 自动生成,仅供参考

deepdoctection 是一个专为文档智能理解打造的 Python 开源库,旨在帮助开发者高效构建从扫描版 PDF 到结构化数据的提取流水线。它主要解决了复杂文档处理中布局分析困难、OCR 识别精度不一以及后续文本分类难以串联的痛点,让用户无需从零开始整合各类算法。

该工具非常适合需要处理大量非结构化文档的 AI 工程师、数据科学家及研究人员使用。无论是构建自动化归档系统,还是研发复杂的文档问答应用,deepdoctection 都能提供坚实的技术支撑。其核心亮点在于强大的生态整合能力:底层基于 PyTorch,无缝集成了 Detectron2 和 Hugging Face Transformers,支持 LayoutLM、LiLT 等多种前沿预训练模型的微调与推理;同时在 OCR 环节灵活兼容 Tesseract、DocTr 及 AWS Textract。此外,它还提供了完整的管道评估体系和丰富的教程笔记,帮助用户轻松实现文档布局分析、表格识别、语言检测及图像矫正等全流程任务,让文档提取工作变得更加流畅可控。

使用场景

某金融合规团队每天需处理上千份扫描版贷款合同,从中提取借款人信息、金额及条款细节以录入风控系统。

没有 deepdoctection 时

  • 流程割裂严重:开发人员需分别调用 Tesseract 做 OCR、OpenCV 做图像矫正、再写规则解析坐标,代码耦合度高且难以维护。
  • 复杂版面识别率低:面对包含多栏排版、嵌套表格的合同,传统方法无法区分“标题”与“正文”,导致关键数据错位或丢失。
  • 模型迭代困难:若想提升特定字段的识别精度,缺乏统一的微调框架,重新训练和部署 LayoutLM 等模型需要大量重复造轮子的工作。
  • 人工复核成本高:由于自动化结果不可靠,团队被迫保留大量人力进行二次校对,严重拖慢放款审批速度。

使用 deepdoctection 后

  • 一键构建流水线:通过几行代码即可串联起图像去斜、OCR 识别、版面分析及实体分类,自动协调 Detectron2 与 Transformers 完成端到端处理。
  • 精准理解文档结构:利用预训练的 LayoutLM 和 LiLT 模型,能准确识别合同中的表格边界及段落逻辑,即使在手写签名或印章遮挡下也能定位关键字段。
  • 灵活微调与扩展:内置对 Hugging Face 模型的支持,团队可基于历史标注数据快速微调专用模型,并无缝切换至推理环节以适应新合同模板。
  • 可视化调试高效:直接生成带有布局框的可视化图像,开发人员能直观看到识别残差,迅速定位问题并优化策略,大幅减少人工复核比例。

deepdoctection 将原本繁琐破碎的文档处理工程转化为标准化的智能流水线,让非结构化文档数据的提取变得像处理数据库记录一样高效可靠。

运行环境要求

操作系统
  • 未说明
GPU

微调模型时推荐需要 GPU(具体型号、显存大小及 CUDA 版本未在文中明确说明)

内存

未说明

依赖
notesDetectron2 未通过 PyPI 分发,需单独安装(推荐使用提供的 git 源)。建议使用虚拟环境(venv、Conda 或 Mamba)进行安装。提供预构建的 Docker 镜像。核心功能仅支持 PyTorch。
python>=3.10
torch>=2.6
timm
transformers
python-doctr
detectron2
pdfplumber
jdeskew
tesseract-ocr
deepdoctection hero image

快速开始

Deep Doctection Logo

GitHub 仓库星级 PyPI - 版本 PyPI - 许可证


新版

版本 v.1.0 包含了一次重大重构。主要变更包括:

  • 所有深度学习模型仅支持 PyTorch。
  • 支持来自 Hugging Face Hub 的更多微调模型(Bert、RobertA、LayoutLM、LiLT 等)。
  • 拆分为多个小型子包:dd-core、dd-datasets 和 deepdoctection。
  • 核心数据结构的类型验证。
  • 新的测试套件。

用于文档理解的软件包

deepdoctection 是一个 Python 库,用于编排扫描和 PDF 文档的布局分析、OCR 以及文档和标记分类。您可以为自己的文档提取任务构建并运行流水线,开发自定义的文档提取工作流,微调预训练模型,并无缝地将其用于推理。

概述

  • 使用 Detectron2Transformers 在 PyTorch 中进行文档布局分析和表格识别,
  • OCR 支持 TesseractDocTrAWS Textract
  • 使用 LayoutLM 系列、LiLT 以及许多基于 Bert 风格的模型进行文档和标记分类,这些模型还包括滑动窗口等功能。
  • 使用 pdfplumber 对原生 PDF 进行文本挖掘,
  • 基于 Transformer 的 papluca/xlm-roberta-base-language-detection 进行语言检测。
  • 使用 jdeskewTesseract 对图像进行去倾斜和旋转处理。
  • 微调目标检测、文档或标记分类模型,并评估整个流水线。
  • 多个 教程

请查看 入门笔记本,以便快速上手。

有关最新更新,请参阅 发布说明


Hugging Face Space 演示

在 🤗 Hugging Face spaces 上查看带有 OCR 的文档布局分析流水线演示。


示例

以下示例展示了如何使用内置分析器将 PDF 文档分解为其布局结构。

import deepdoctection as dd
from IPython.core.display import HTML
from matplotlib import pyplot as plt

analyzer = dd.get_dd_analyzer()  # 实例化与 Hugging Face space 演示类似的内置分析器

df = analyzer.analyze(path = "/path/to/your/doc.pdf")  # 设置流水线
df.reset_state()                 # 触发一些初始化

doc = iter(df)
page = next(doc) 

image = page.viz(show_figures=True, show_residual_layouts=True)
plt.figure(figsize = (25,17))
plt.axis('off')
plt.imshow(image)

样本

HTML(page.tables[0].html)

表格

print(page.text)

文本


要求

要求

  • Python >= 3.10
  • PyTorch >= 2.6
  • 若要微调模型,建议使用 GPU。

安装

我们建议使用虚拟环境。

快速安装

对于只需使用默认设置解析文档的简单配置,请安装以下内容:

uv pip install timm  # 默认配置所需
uv pip install transformers
uv pip install python-doctr
uv pip install deepdoctection

此配置足以运行 入门笔记本

完整安装

以下安装将为您提供一个通用的配置,以便您可以尝试各种不同的设置。请记住,您始终需要单独安装 PyTorch。

首先,由于 Detectron2 不通过 PyPI 发布,因此需要单独安装。请参考 此处 的说明,或尝试:

uv pip install --no-build-isolation detectron2@git+https://github.com/deepdoctection/detectron2.git

然后安装包含所有依赖项的 deepdoctection:

uv pip install deepdoctection[full]

使用 Conda 或 Mamba 安装

您可以使用 Conda 或 Mamba 通过提供的 environment.yml 文件来安装 deepdoctection:

# 使用 conda
conda env create -f environment.yml
conda activate deepdoctection

# 使用 mamba(更快)
mamba env create -f environment.yml
mamba activate deepdoctection

有关更多信息,请参阅 完整安装指南

从源代码安装

您可以下载仓库或通过以下命令克隆:

git clone https://github.com/deepdoctection/deepdoctection.git

最简单的方式是使用 make 进行安装。需要虚拟环境:

make install-dd

从 Docker Hub 运行 Docker 容器

预先存在的 Docker 镜像可以从 Docker Hub 下载。

此外,还需指定一个工作目录,用于将待处理的文件挂载到容器中。

docker compose up -d

将启动容器。不过,目前尚未暴露任何端点。


致谢

我们感谢所有提供高质量代码和预训练模型的开源库。如果没有它们,开发本框架将是不可能的。

如果你喜欢 deepdoctection……

……你可以通过让更多人了解该项目来轻松支持它。留下一颗星或推荐一下都会有所帮助。

许可证

本项目采用 Apache 2.0 许可证进行分发。更多信息请参阅 LICENSE 文件。

版本历史

v.1.2.82026/04/09
v.1.2.72026/03/31
v.1.2.62026/03/30
v.1.2.52026/03/20
v.1.2.42026/03/14
v.1.2.32026/03/12
v.1.2.22026/03/08
v.1.2.12026/03/04
v.1.2.02026/03/02
v.1.1.02026/02/17
v.1.0.72026/02/13
v.1.0.62026/02/01
v.1.0.52026/01/14
v.1.0.42026/01/08
v.1.0.32026/01/07
v.1.0.22026/01/06
v.1.0.12026/01/04
v.1.0.02025/12/29
v.1.0.0a2025/12/29
v.0.46.22025/10/27

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|6天前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

151.9k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|2天前
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|3天前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|6天前
插件开发框架