[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-HUSTAI--uie_pytorch":3,"tool-HUSTAI--uie_pytorch":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",138956,2,"2026-04-05T11:33:21",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":75,"owner_avatar_url":76,"owner_bio":77,"owner_company":78,"owner_location":78,"owner_email":79,"owner_twitter":78,"owner_website":80,"owner_url":81,"languages":82,"stars":87,"forks":88,"last_commit_at":89,"license":90,"difficulty_score":10,"env_os":91,"env_gpu":92,"env_ram":92,"env_deps":93,"category_tags":99,"github_topics":100,"view_count":23,"oss_zip_url":78,"oss_zip_packed_at":78,"status":16,"created_at":105,"updated_at":106,"faqs":107,"releases":137},3616,"HUSTAI\u002Fuie_pytorch","uie_pytorch","PaddleNLP UIE模型的PyTorch版实现","uie_pytorch 是将百度 PaddleNLP 中的通用信息抽取（UIE）模型迁移至 PyTorch 框架的开源实现。它致力于解决传统信息抽取技术依赖大量标注数据、针对不同任务需单独训练模型以及跨领域泛化能力弱的痛点。通过统一的建模范式，uie_pytorch 能够在一个模型中同时处理实体识别、关系抽取、事件检测、情感分析及观点挖掘等多种任务。\n\n该工具特别适合需要构建灵活文本分析系统的 AI 开发者、算法工程师及科研人员。其核心亮点在于“零样本”与“少样本”学习能力：用户只需用自然语言定义抽取目标（如“时间”、“选手”），无需重新训练即可直接从文本中提取对应信息，极大地降低了数据标注成本和冷启动门槛。此外，项目提供了完整的工具链，支持从数据格式转换、模型微调、效果评估到 ONNX 部署的全流程操作，并针对推理速度进行了优化（支持 FasterTokenizer）。无论是医疗结构化、法律文书分析还是金融文档处理，uie_pytorch 都能帮助开发者快速搭建高效、通用的信息抽取应用。","# 通用信息抽取 UIE(Universal Information Extraction) PyTorch版\n\n**迁移[PaddleNLP](https:\u002F\u002Fgithub.com\u002FPaddlePaddle\u002FPaddleNLP)中的UIE模型到PyTorch上**\n\n* 2022-10-3: 新增对UIE-M系列模型的支持，增加了ErnieM的Tokenizer。ErnieMTokenizer使用C++实现的高性能分词算子FasterTokenizer进行文本预处理加速。需要通过`pip install faster_tokenizer`安装FasterTokenizer库后方可使用。\n\nPyTorch版功能介绍\n- `convert.py`: 自动下载并转换模型，详见[开箱即用](#开箱即用)。\n- `doccano.py`: 转换标注数据，详见[数据标注](#数据标注)。\n- `evaluate.py`: 评估模型，详见[模型评估](#模型评估)。\n- `export_model.py`: 导出ONNX推理模型，详见[模型部署](#模型部署)。\n- `finetune.py`: 微调训练，详见[模型微调](#模型微调)。\n- `model.py`: 模型定义。\n- `uie_predictor.py`: 推理类。\n\n\n**目录**\n\n- [1. 模型简介](#模型简介)\n- [2. 应用示例](#应用示例)\n- [3. 开箱即用](#开箱即用)\n  - [3.1 实体抽取](#实体抽取)\n  - [3.2 关系抽取](#关系抽取)\n  - [3.3 事件抽取](#事件抽取)\n  - [3.4 评论观点抽取](#评论观点抽取)\n  - [3.5 情感分类](#情感分类)\n  - [3.6 跨任务抽取](#跨任务抽取)\n  - [3.7 模型选择](#模型选择)\n  - [3.8 更多配置](#更多配置)\n- [4. 训练定制](#训练定制)\n  - [4.1 代码结构](#代码结构)\n  - [4.2 数据标注](#数据标注)\n  - [4.3 模型微调](#模型微调)\n  - [4.4 模型评估](#模型评估)\n  - [4.5 定制模型一键预测](#定制模型一键预测)\n  - [4.6 实验指标](#实验指标)\n  - [4.7 模型部署](#模型部署)\n\n\u003Ca name=\"模型简介\">\u003C\u002Fa>\n\n## 1. 模型简介\n\n[UIE(Universal Information Extraction)](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2203.12277.pdf)：Yaojie Lu等人在ACL-2022中提出了通用信息抽取统一框架UIE。该框架实现了实体抽取、关系抽取、事件抽取、情感分析等任务的统一建模，并使得不同任务间具备良好的迁移和泛化能力。为了方便大家使用UIE的强大能力，PaddleNLP借鉴该论文的方法，基于ERNIE 3.0知识增强预训练模型，训练并开源了首个中文通用信息抽取模型UIE。该模型可以支持不限定行业领域和抽取目标的关键信息抽取，实现零样本快速冷启动，并具备优秀的小样本微调能力，快速适配特定的抽取目标。\n\n\u003Cdiv align=\"center\">\n    \u003Cimg src=https:\u002F\u002Fuser-images.githubusercontent.com\u002F40840292\u002F167236006-66ed845d-21b8-4647-908b-e1c6e7613eb1.png height=400 hspace='10'\u002F>\n\u003C\u002Fdiv>\n\n#### UIE的优势\n\n- **使用简单**：用户可以使用自然语言自定义抽取目标，无需训练即可统一抽取输入文本中的对应信息。**实现开箱即用，并满足各类信息抽取需求**。\n\n- **降本增效**：以往的信息抽取技术需要大量标注数据才能保证信息抽取的效果，为了提高开发过程中的开发效率，减少不必要的重复工作时间，开放域信息抽取可以实现零样本（zero-shot）或者少样本（few-shot）抽取，**大幅度降低标注数据依赖，在降低成本的同时，还提升了效果**。\n\n- **效果领先**：开放域信息抽取在多种场景，多种任务上，均有不俗的表现。\n\n\u003Ca name=\"应用示例\">\u003C\u002Fa>\n\n## 2. 应用示例\n\nUIE不限定行业领域和抽取目标，以下是一些零样本行业示例：\n\n- 医疗场景-专病结构化\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_507f9e9565aa.png)\n\n- 法律场景-判决书抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_f5461cc7a480.png)\n\n- 金融场景-收入证明、招股书抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_ee0334861afd.png)\n\n- 公安场景-事故报告抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_5743139ddd61.png)\n\n- 旅游场景-宣传册、手册抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_e14d62aa626c.png)\n\n\u003Ca name=\"开箱即用\">\u003C\u002Fa>\n\n## 3. 开箱即用\n\n```uie_predictor```提供通用信息抽取、评价观点抽取等能力，可抽取多种类型的信息，包括但不限于命名实体识别（如人名、地名、机构名等）、关系（如电影的导演、歌曲的发行时间等）、事件（如某路口发生车祸、某地发生地震等）、以及评价维度、观点词、情感倾向等信息。用户可以使用自然语言自定义抽取目标，无需训练即可统一抽取输入文本中的对应信息。**实现开箱即用，并满足各类信息抽取需求**\n\n```uie_predictor```现在可以自动下载模型了，**无需手动convert**，如果想手动转换模型，可以参照以下方法。\n\n**下载并转换模型**，将下载Paddle版的`uie-base`模型到当前目录中，并生成PyTorch版模型`uie_base_pytorch`。\n\n```shell\npython convert.py\n```\n\n如果没有安装paddlenlp，则使用以下命令。这将不会导入paddlenlp，以及不会验证转换结果正确性。\n\n```shell\npython convert.py --no_validate_output\n```\n\n可配置参数说明：\n\n- `input_model`: 输入的模型所在的文件夹，例如存在模型`.\u002Fmodel_path\u002Fmodel_state.pdparams`，则传入`.\u002Fmodel_path`。如果传入`uie-base`或`uie-tiny`等在模型列表中的模型，且当前目录不存在此文件夹时，将自动下载模型。默认值为`uie-base`。\n  \n  支持自动下载的模型\n  - `uie-base`\n  - `uie-medium`\n  - `uie-mini`\n  - `uie-micro`\n  - `uie-nano`\n  - `uie-medical-base`\n  - `uie-tiny` (弃用，已改为`uie-medium`)\n  - `uie-base-en`\n  - `uie-m-base`\n  - `uie-m-large`\n  - `ernie-3.0-base-zh`*\n\n- `output_model`: 输出的模型的文件夹，默认为`uie_base_pytorch`。\n- `no_validate_output`：是否关闭对输出模型的验证，默认打开。\n\n\\* : 使用`ernie-3.0-base-zh`时不会验证模型，需要微调后才能用于预测\n\n\n\u003Ca name=\"实体抽取\">\u003C\u002Fa>\n\n#### 3.1 实体抽取\n\n  命名实体识别（Named Entity Recognition，简称NER），是指识别文本中具有特定意义的实体。在开放域信息抽取中，抽取的类别没有限制，用户可以自己定义。\n\n  - 例如抽取的目标实体类型是\"时间\"、\"选手\"和\"赛事名称\", schema构造如下：\n\n  ```text\n  ['时间', '选手', '赛事名称']\n  ```\n\n    调用示例：\n\n  ```python\n  >>> from uie_predictor import UIEPredictor\n  >>> from pprint import pprint\n\n  >>> schema = ['时间', '选手', '赛事名称'] # Define the schema for entity extraction\n  >>> ie = UIEPredictor(model='uie-base', schema=schema)\n  >>> pprint(ie(\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\")) # Better print results using pprint\n  [{'时间': [{'end': 6,\n            'probability': 0.9857378532924486,\n            'start': 0,\n            'text': '2月8日上午'}],\n    '赛事名称': [{'end': 23,\n              'probability': 0.8503089953268272,\n              'start': 6,\n              'text': '北京冬奥会自由式滑雪女子大跳台决赛'}],\n    '选手': [{'end': 31,\n            'probability': 0.8981548639781138,\n            'start': 28,\n            'text': '谷爱凌'}]}]\n  ```\n\n  - 例如抽取的目标实体类型是\"肿瘤的大小\"、\"肿瘤的个数\"、\"肝癌级别\"和\"脉管内癌栓分级\", schema构造如下：\n\n  ```text\n  ['肿瘤的大小', '肿瘤的个数', '肝癌级别', '脉管内癌栓分级']\n  ```\n\n  在上例中我们已经实例化了一个`UIEPredictor`对象，这里可以通过`set_schema`方法重置抽取目标。\n\n    调用示例：\n\n  ```python\n  >>> schema = ['肿瘤的大小', '肿瘤的个数', '肝癌级别', '脉管内癌栓分级']\n  >>> ie.set_schema(schema)\n  >>> pprint(ie(\"（右肝肿瘤）肝细胞性肝癌（II-III级，梁索型和假腺管型），肿瘤包膜不完整，紧邻肝被膜，侵及周围肝组织，未见脉管内癌栓（MVI分级：M0级）及卫星子灶形成。（肿物1个，大小4.2×4.0×2.8cm）。\"))\n  [{'肝癌级别': [{'end': 20,\n              'probability': 0.9243267447402701,\n              'start': 13,\n              'text': 'II-III级'}],\n    '肿瘤的个数': [{'end': 84,\n              'probability': 0.7538413804059623,\n              'start': 82,\n              'text': '1个'}],\n    '肿瘤的大小': [{'end': 100,\n              'probability': 0.8341128043459491,\n              'start': 87,\n              'text': '4.2×4.0×2.8cm'}],\n    '脉管内癌栓分级': [{'end': 70,\n                'probability': 0.9083292325934664,\n                'start': 67,\n                'text': 'M0级'}]}]\n  ```\n\n  - 例如抽取的目标实体类型是\"person\"和\"organization\"，schema构造如下：\n\n    ```text\n    ['person', 'organization']\n    ```\n\n    英文模型调用示例：\n\n    ```python\n    >>> from uie_predictor import UIEPredictor\n    >>> from pprint import pprint\n    >>> schema = ['Person', 'Organization']\n    >>> ie_en = UIEPredictor(model='uie-base-en', schema=schema)\n    >>> pprint(ie_en('In 1997, Steve was excited to become the CEO of Apple.'))\n    [{'Organization': [{'end': 53,\n                        'probability': 0.9985840259877357,\n                        'start': 48,\n                        'text': 'Apple'}],\n      'Person': [{'end': 14,\n                  'probability': 0.999631971804547,\n                  'start': 9,\n                  'text': 'Steve'}]}]\n    ```\n\n\u003Ca name=\"关系抽取\">\u003C\u002Fa>\n\n#### 3.2 关系抽取\n\n  关系抽取（Relation Extraction，简称RE），是指从文本中识别实体并抽取实体之间的语义关系，进而获取三元组信息，即\u003C主体，谓语，客体>。\n\n  - 例如以\"竞赛名称\"作为抽取主体，抽取关系类型为\"主办方\"、\"承办方\"和\"已举办次数\", schema构造如下：\n\n  ```text\n  {\n    '竞赛名称': [\n      '主办方',\n      '承办方',\n      '已举办次数'\n    ]\n  }\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = {'竞赛名称': ['主办方', '承办方', '已举办次数']} # Define the schema for relation extraction\n  >>> ie.set_schema(schema) # Reset schema\n  >>> pprint(ie('2022语言与智能技术竞赛由中国中文信息学会和中国计算机学会联合主办，百度公司、中国中文信息学会评测工作委员会和中国计算机学会自然语言处理专委会承办，已连续举办4届，成为全球最热门的中文NLP赛事之一。'))\n  [{'竞赛名称': [{'end': 13,\n              'probability': 0.7825402622754041,\n              'relations': {'主办方': [{'end': 22,\n                                    'probability': 0.8421710521379353,\n                                    'start': 14,\n                                    'text': '中国中文信息学会'},\n                                    {'end': 30,\n                                    'probability': 0.7580801847701935,\n                                    'start': 23,\n                                    'text': '中国计算机学会'}],\n                            '已举办次数': [{'end': 82,\n                                      'probability': 0.4671295049136148,\n                                      'start': 80,\n                                      'text': '4届'}],\n                            '承办方': [{'end': 39,\n                                    'probability': 0.8292706618236352,\n                                    'start': 35,\n                                    'text': '百度公司'},\n                                    {'end': 72,\n                                    'probability': 0.6193477885474685,\n                                    'start': 56,\n                                    'text': '中国计算机学会自然语言处理专委会'},\n                                    {'end': 55,\n                                    'probability': 0.7000497331473241,\n                                    'start': 40,\n                                    'text': '中国中文信息学会评测工作委员会'}]},\n              'start': 0,\n              'text': '2022语言与智能技术竞赛'}]}]\n  ```\n\n  - 例如以\"person\"作为抽取主体，抽取关系类型为\"Company\"和\"Position\", schema构造如下：\n\n    ```text\n    {\n      'Person': [\n        'Company',\n        'Position'\n      ]\n    }\n    ```\n\n    英文模型调用示例：\n\n    ```python\n    >>> schema = [{'Person': ['Company', 'Position']}]\n    >>> ie_en.set_schema(schema)\n    >>> pprint(ie_en('In 1997, Steve was excited to become the CEO of Apple.'))\n    [{'Person': [{'end': 14,\n                  'probability': 0.999631971804547,\n                  'relations': {'Company': [{'end': 53,\n                                            'probability': 0.9960158209451642,\n                                            'start': 48,\n                                            'text': 'Apple'}],\n                                'Position': [{'end': 44,\n                                              'probability': 0.8871063806420736,\n                                              'start': 41,\n                                              'text': 'CEO'}]},\n                  'start': 9,\n                  'text': 'Steve'}]}]\n    ```\n\n\u003Ca name=\"事件抽取\">\u003C\u002Fa>\n\n#### 3.3 事件抽取\n\n  事件抽取 (Event Extraction, 简称EE)，是指从自然语言文本中抽取预定义的事件触发词(Trigger)和事件论元(Argument)，组合为相应的事件结构化信息。\n\n  - 例如抽取的目标是\"地震\"事件的\"地震强度\"、\"时间\"、\"震中位置\"和\"震源深度\"这些信息，schema构造如下：\n\n  ```text\n  {\n    '地震触发词': [\n      '地震强度',\n      '时间',\n      '震中位置',\n      '震源深度'\n    ]\n  }\n  ```\n\n    触发词的格式统一为`触发词`或``XX触发词`，`XX`表示具体事件类型，上例中的事件类型是`地震`，则对应触发词为`地震触发词`。\n\n    调用示例：\n\n  ```python\n  >>> schema = {'地震触发词': ['地震强度', '时间', '震中位置', '震源深度']} # Define the schema for event extraction\n  >>> ie.set_schema(schema) # Reset schema\n  >>> ie('中国地震台网正式测定：5月16日06时08分在云南临沧市凤庆县(北纬24.34度，东经99.98度)发生3.5级地震，震源深度10千米。')\n  [{'地震触发词': [{'text': '地震', 'start': 56, 'end': 58, 'probability': 0.9987181623528585, 'relations': {'地震强度': [{'text': '3.5级', 'start': 52, 'end': 56, 'probability': 0.9962985320905915}], '时间': [{'text': '5月16日06时08分', 'start': 11, 'end': 22, 'probability': 0.9882578028575182}], '震中位置': [{'text': '云南临沧市凤庆县(北纬24.34度，东经99.98度)', 'start': 23, 'end': 50, 'probability': 0.8551415716584501}], '震源深度': [{'text': '10千米', 'start': 63, 'end': 67, 'probability': 0.999158304648045}]}}]}]\n  ```\n\n  - 英文模型**暂不支持事件抽取**\n\n\u003Ca name=\"评论观点抽取\">\u003C\u002Fa>\n\n#### 3.4 评论观点抽取\n\n  评论观点抽取，是指抽取文本中包含的评价维度、观点词。\n\n  - 例如抽取的目标是文本中包含的评价维度及其对应的观点词和情感倾向，schema构造如下：\n\n  ```text\n  {\n    '评价维度': [\n      '观点词',\n      '情感倾向[正向，负向]'\n    ]\n  }\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = {'评价维度': ['观点词', '情感倾向[正向，负向]']} # Define the schema for opinion extraction\n  >>> ie.set_schema(schema) # Reset schema\n  >>> pprint(ie(\"店面干净，很清静，服务员服务热情，性价比很高，发现收银台有排队\")) # Better print results using pprint\n  [{'评价维度': [{'end': 20,\n              'probability': 0.9817040258681473,\n              'relations': {'情感倾向[正向，负向]': [{'probability': 0.9966142505350533,\n                                            'text': '正向'}],\n                            '观点词': [{'end': 22,\n                                    'probability': 0.957396472711558,\n                                    'start': 21,\n                                    'text': '高'}]},\n              'start': 17,\n              'text': '性价比'},\n            {'end': 2,\n              'probability': 0.9696849569741168,\n              'relations': {'情感倾向[正向，负向]': [{'probability': 0.9982153274927796,\n                                            'text': '正向'}],\n                            '观点词': [{'end': 4,\n                                    'probability': 0.9945318044652538,\n                                    'start': 2,\n                                    'text': '干净'}]},\n              'start': 0,\n              'text': '店面'}]}]\n  ```\n\n  - 英文模型schema构造如下：\n\n    ```text\n    {\n      'Aspect': [\n        'Opinion',\n        'Sentiment classification [negative, positive]'\n      ]\n    }\n    ```\n\n    调用示例：\n\n    ```python\n    >>> schema = [{'Aspect': ['Opinion', 'Sentiment classification [negative, positive]']}]\n    >>> ie_en.set_schema(schema)\n    >>> pprint(ie_en(\"The teacher is very nice.\"))\n    [{'Aspect': [{'end': 11,\n                  'probability': 0.4301476415932193,\n                  'relations': {'Opinion': [{'end': 24,\n                                            'probability': 0.9072940447883724,\n                                            'start': 15,\n                                            'text': 'very nice'}],\n                                'Sentiment classification [negative, positive]': [{'probability': 0.9998571920670685,\n                                                                                  'text': 'positive'}]},\n                  'start': 4,\n                  'text': 'teacher'}]}]\n    ```\n\n\u003Ca name=\"情感分类\">\u003C\u002Fa>\n\n#### 3.5 情感分类\n\n  - 句子级情感倾向分类，即判断句子的情感倾向是“正向”还是“负向”，schema构造如下：\n\n  ```text\n  '情感倾向[正向，负向]'\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = '情感倾向[正向，负向]' # Define the schema for sentence-level sentiment classification\n  >>> ie.set_schema(schema) # Reset schema\n  >>> ie('这个产品用起来真的很流畅，我非常喜欢')\n  [{'情感倾向[正向，负向]': [{'text': '正向', 'probability': 0.9988661643929895}]}]\n  ```\n\n    英文模型schema构造如下：\n\n    ```text\n    '情感倾向[正向，负向]'\n    ```\n\n    英文模型调用示例：\n\n    ```python\n    >>> schema = 'Sentiment classification [negative, positive]'\n    >>> ie_en.set_schema(schema)\n    >>> ie_en('I am sorry but this is the worst film I have ever seen in my life.')\n    [{'Sentiment classification [negative, positive]': [{'text': 'negative', 'probability': 0.9998415771287057}]}]\n    ```\n\n\u003Ca name=\"跨任务抽取\">\u003C\u002Fa>\n\n#### 3.6 跨任务抽取\n\n  - 例如在法律场景同时对文本进行实体抽取和关系抽取，schema可按照如下方式进行构造：\n\n  ```text\n  [\n    \"法院\",\n    {\n        \"原告\": \"委托代理人\"\n    },\n    {\n        \"被告\": \"委托代理人\"\n    }\n  ]\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = ['法院', {'原告': '委托代理人'}, {'被告': '委托代理人'}]\n  >>> ie.set_schema(schema)\n  >>> pprint(ie(\"北京市海淀区人民法院\\n民事判决书\\n(199x)建初字第xxx号\\n原告：张三。\\n委托代理人李四，北京市 A律师事务所律师。\\n被告：B公司，法定代表人王五，开发公司总经理。\\n委托代理人赵六，北京市 C律师事务所律师。\")) # Better print results using pprint\n  [{'原告': [{'end': 37,\n            'probability': 0.9949814024296764,\n            'relations': {'委托代理人': [{'end': 46,\n                                    'probability': 0.7956844697990384,\n                                    'start': 44,\n                                    'text': '李四'}]},\n            'start': 35,\n            'text': '张三'}],\n    '法院': [{'end': 10,\n            'probability': 0.9221074192336651,\n            'start': 0,\n            'text': '北京市海淀区人民法院'}],\n    '被告': [{'end': 67,\n            'probability': 0.8437349536631089,\n            'relations': {'委托代理人': [{'end': 92,\n                                    'probability': 0.7267121388225029,\n                                    'start': 90,\n                                    'text': '赵六'}]},\n            'start': 64,\n            'text': 'B公司'}]}]\n  ```\n\n\u003Ca name=\"模型选择\">\u003C\u002Fa>\n\n#### 3.7 模型选择\n\n- 多模型选择，满足精度、速度要求\n\n  | 模型 |  结构  | 语言 |\n  | :---: | :--------: | :--------: |\n  | `uie-base` (默认)| 12-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-base-en` | 12-layers, 768-hidden, 12-heads | 英文 |\n  | `uie-medical-base` | 12-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-medium`| 6-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-mini`| 6-layers, 384-hidden, 12-heads | 中文 |\n  | `uie-micro`| 4-layers, 384-hidden, 12-heads | 中文 |\n  | `uie-nano`| 4-layers, 312-hidden, 12-heads | 中文 |\n  | `uie-m-large`| 24-layers, 1024-hidden, 16-heads | 中、英文 |\n  | `uie-m-base`| 12-layers, 768-hidden, 12-heads | 中、英文 |\n\n\n- `uie-nano`调用示例：\n\n  ```python\n  >>> from uie_predictor import UIEPredictor\n\n  >>> schema = ['时间', '选手', '赛事名称']\n  >>> ie = UIEPredictor('uie-nano', schema=schema)\n  >>> ie(\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\")\n  [{'时间': [{'text': '2月8日上午', 'start': 0, 'end': 6, 'probability': 0.6513581678349247}], '选手': [{'text': '谷爱凌', 'start': 28, 'end': 31, 'probability': 0.9819330659468051}], '赛事名称': [{'text': '北京冬奥会自由式滑雪女子大跳台决赛', 'start': 6, 'end': 23, 'probability': 0.4908131110420939}]}]\n  ```\n\n- `uie-m-base`和`uie-m-large`支持中英文混合抽取，调用示例：\n\n  ```python\n  >>> from pprint import pprint\n  >>> from uie_predictor import UIEPredictor\n\n  >>> schema = ['Time', 'Player', 'Competition', 'Score']\n  >>> ie = UIEPredictor(schema=schema, model=\"uie-m-base\", schema_lang=\"en\")\n  >>> pprint(ie([\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\", \"Rafael Nadal wins French Open Final!\"]))\n  [{'Competition': [{'end': 23,\n                    'probability': 0.9373889907291257,\n                    'start': 6,\n                    'text': '北京冬奥会自由式滑雪女子大跳台决赛'}],\n    'Player': [{'end': 31,\n                'probability': 0.6981119555336441,\n                'start': 28,\n                'text': '谷爱凌'}],\n    'Score': [{'end': 39,\n              'probability': 0.9888507878270296,\n              'start': 32,\n              'text': '188.25分'}],\n    'Time': [{'end': 6,\n              'probability': 0.9784080036931151,\n              'start': 0,\n              'text': '2月8日上午'}]},\n  {'Competition': [{'end': 35,\n                    'probability': 0.9851549932171295,\n                    'start': 18,\n                    'text': 'French Open Final'}],\n    'Player': [{'end': 12,\n                'probability': 0.9379371275888104,\n                'start': 0,\n                'text': 'Rafael Nadal'}]}]\n  ```\n\n\u003Ca name=\"更多配置\">\u003C\u002Fa>\n\n#### 3.8 更多配置\n\n```python\n>>> from uie_predictor import UIEPredictor\n\n>>> ie = UIEPredictor('uie_nano',   \n                       schema=schema)  \n```\n\n* `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n* `schema`：定义任务抽取目标，可参考开箱即用中不同任务的调用示例进行配置。\n* `schema_lang`：设置schema的语言，默认为`zh`, 可选有`zh`和`en`。因为中英schema的构造有所不同，因此需要指定schema的语言。该参数只对`uie-m-base`和`uie-m-large`模型有效。\n* `batch_size`：批处理大小，请结合机器情况进行调整，默认为1。\n* `task_path`：设定自定义的模型。\n* `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率在0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n* `use_fp16`：是否使用`fp16`进行加速，默认关闭。`fp16`推理速度更快。如果选择`fp16`，请先确保机器正确安装NVIDIA相关驱动和基础软件，**确保CUDA>=11.2，cuDNN>=8.1.1**，初次使用需按照提示安装相关依赖。其次，需要确保GPU设备的CUDA计算能力（CUDA Compute Capability）大于7.0，典型的设备包括V100、T4、A10、A100、GTX 20系列和30系列显卡等。更多关于CUDA Compute Capability和精度支持情况请参考NVIDIA文档：[GPU硬件与支持精度对照表](https:\u002F\u002Fdocs.nvidia.com\u002Fdeeplearning\u002Ftensorrt\u002Farchives\u002Ftensorrt-840-ea\u002Fsupport-matrix\u002Findex.html#hardware-precision-matrix)。\n\n\u003Ca name=\"训练定制\">\u003C\u002Fa>\n\n## 4. 训练定制\n\n对于简单的抽取目标可以直接使用```UIEPredictor```实现零样本（zero-shot）抽取，对于细分场景我们推荐使用轻定制功能（标注少量数据进行模型微调）以进一步提升效果。下面通过`报销工单信息抽取`的例子展示如何通过5条训练数据进行UIE模型微调。\n\u003Ca name=\"代码结构\">\u003C\u002Fa>\n\n#### 4.1 代码结构\n\n```shell\n.\n├── utils.py          # 数据处理工具\n├── model.py          # 模型组网脚本\n├── doccano.py        # 数据标注脚本\n├── doccano.md        # 数据标注文档\n├── finetune.py       # 模型微调脚本\n├── evaluate.py       # 模型评估脚本\n└── README.md\n```\n\n\u003Ca name=\"数据标注\">\u003C\u002Fa>\n\n#### 4.2 数据标注\n\n我们推荐使用数据标注平台[doccano](https:\u002F\u002Fgithub.com\u002Fdoccano\u002Fdoccano) 进行数据标注，本示例也打通了从标注到训练的通道，即doccano导出数据后可通过[doccano.py](.\u002Fdoccano.py)脚本轻松将数据转换为输入模型时需要的形式，实现无缝衔接。标注方法的详细介绍请参考[doccano数据标注指南](doccano.md)。\n\n原始数据示例：\n\n```text\n深大到双龙28块钱4月24号交通费\n```\n\n抽取的目标(schema)为：\n\n```python\nschema = ['出发地', '目的地', '费用', '时间']\n```\n\n标注步骤如下：\n\n- 在doccano平台上，创建一个类型为``序列标注``的标注项目。\n- 定义实体标签类别，上例中需要定义的实体标签有``出发地``、``目的地``、``费用``和``时间``。\n- 使用以上定义的标签开始标注数据，下面展示了一个doccano标注示例：\n\n\u003Cdiv align=\"center\">\n    \u003Cimg src=https:\u002F\u002Fuser-images.githubusercontent.com\u002F40840292\u002F167336891-afef1ad5-8777-456d-805b-9c65d9014b80.png height=100 hspace='10'\u002F>\n\u003C\u002Fdiv>\n\n- 标注完成后，在doccano平台上导出文件，并将其重命名为``doccano_ext.json``后，放入``.\u002Fdata``目录下。\n\n- 这里我们提供预先标注好的文件[doccano_ext.json](https:\u002F\u002Fbj.bcebos.com\u002Fpaddlenlp\u002Fdatasets\u002Fuie\u002Fdoccano_ext.json)，可直接下载并放入`.\u002Fdata`目录。执行以下脚本进行数据转换，执行后会在`.\u002Fdata`目录下生成训练\u002F验证\u002F测试集文件。\n\n```shell\npython doccano.py \\\n    --doccano_file .\u002Fdata\u002Fdoccano_ext.json \\\n    --task_type ext \\\n    --save_dir .\u002Fdata \\\n    --splits 0.8 0.2 0\n```\n\n\n可配置参数说明：\n\n- ``doccano_file``: 从doccano导出的数据标注文件。\n- ``save_dir``: 训练数据的保存目录，默认存储在``data``目录下。\n- ``negative_ratio``: 最大负例比例，该参数只对抽取类型任务有效，适当构造负例可提升模型效果。负例数量和实际的标签数量有关，最大负例数量 = negative_ratio * 正例数量。该参数只对训练集有效，默认为5。为了保证评估指标的准确性，验证集和测试集默认构造全负例。\n- ``splits``: 划分数据集时训练集、验证集所占的比例。默认为[0.8, 0.1, 0.1]表示按照``8:1:1``的比例将数据划分为训练集、验证集和测试集。\n- ``task_type``: 选择任务类型，可选有抽取和分类两种类型的任务。\n- ``options``: 指定分类任务的类别标签，该参数只对分类类型任务有效。默认为[\"正向\", \"负向\"]。\n- ``prompt_prefix``: 声明分类任务的prompt前缀信息，该参数只对分类类型任务有效。默认为\"情感倾向\"。\n- ``is_shuffle``: 是否对数据集进行随机打散，默认为True。\n- ``seed``: 随机种子，默认为1000.\n- ``separator``: 实体类别\u002F评价维度与分类标签的分隔符，该参数只对实体\u002F评价维度级分类任务有效。默认为\"##\"。\n\n备注：\n- 默认情况下 [doccano.py](.\u002Fdoccano.py) 脚本会按照比例将数据划分为 train\u002Fdev\u002Ftest 数据集\n- 每次执行 [doccano.py](.\u002Fdoccano.py) 脚本，将会覆盖已有的同名数据文件\n- 在模型训练阶段我们推荐构造一些负例以提升模型效果，在数据转换阶段我们内置了这一功能。可通过`negative_ratio`控制自动构造的负样本比例；负样本数量 = negative_ratio * 正样本数量。\n- 对于从doccano导出的文件，默认文件中的每条数据都是经过人工正确标注的。\n\n更多**不同类型任务（关系抽取、事件抽取、评价观点抽取等）的标注规则及参数说明**，请参考[doccano数据标注指南](doccano.md)。\n\n此外，也可以通过数据标注平台 [Label Studio](https:\u002F\u002Flabelstud.io\u002F) 进行数据标注。本示例提供了 [labelstudio2doccano.py](.\u002Flabelstudio2doccano.py) 脚本，将 label studio 导出的 JSON 数据文件格式转换成 doccano 导出的数据文件格式，后续的数据转换与模型微调等操作不变。\n\n```shell\npython labelstudio2doccano.py --labelstudio_file label-studio.json\n```\n\n可配置参数说明：\n\n- ``labelstudio_file``: label studio 的导出文件路径（仅支持 JSON 格式）。\n- ``doccano_file``: doccano 格式的数据文件保存路径，默认为 \"doccano_ext.jsonl\"。\n- ``task_type``: 任务类型，可选有抽取（\"ext\"）和分类（\"cls\"）两种类型的任务，默认为 \"ext\"。\n\n\u003Ca name=\"模型微调\">\u003C\u002Fa>\n\n#### 4.3 模型微调\n\n通过运行以下命令进行模型微调：\n\n```shell\npython finetune.py \\\n    --train_path \".\u002Fdata\u002Ftrain.txt\" \\\n    --dev_path \".\u002Fdata\u002Fdev.txt\" \\\n    --save_dir \".\u002Fcheckpoint\" \\\n    --learning_rate 1e-5 \\\n    --batch_size 16 \\\n    --max_seq_len 512 \\\n    --num_epochs 100 \\\n    --model \"uie_base_pytorch\" \\\n    --seed 1000 \\\n    --logging_steps 10 \\\n    --valid_steps 100 \\\n    --device \"gpu\"\n```\n\n可配置参数说明：\n\n- `train_path`: 训练集文件路径。\n- `dev_path`: 验证集文件路径。\n- `save_dir`: 模型存储路径，默认为`.\u002Fcheckpoint`。\n- `learning_rate`: 学习率，默认为1e-5。\n- `batch_size`: 批处理大小，请结合机器情况进行调整，默认为16。\n- `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n- `num_epochs`: 训练轮数，默认为100。\n- `model`: 选择模型，程序会基于选择的模型进行模型微调，默认为`uie_base_pytorch`。\n- `seed`: 随机种子，默认为1000.\n- `logging_steps`: 日志打印的间隔steps数，默认10。\n- `valid_steps`: evaluate的间隔steps数，默认100。\n- `device`: 选用什么设备进行训练，可选cpu或gpu。\n- `max_model_num`: 保存的模型的个数，不包含`model_best`和`early_stopping`保存的模型，默认为5。\n- `early_stopping`: 是否采用提前停止（Early Stopping），默认不使用。\n\n\u003Ca name=\"模型评估\">\u003C\u002Fa>\n\n#### 4.4 模型评估\n\n通过运行以下命令进行模型评估：\n\n```shell\npython evaluate.py \\\n    --model_path .\u002Fcheckpoint\u002Fmodel_best \\\n    --test_path .\u002Fdata\u002Fdev.txt \\\n    --batch_size 16 \\\n    --max_seq_len 512\n```\n\n评估方式说明：采用单阶段评价的方式，即关系抽取、事件抽取等需要分阶段预测的任务对每一阶段的预测结果进行分别评价。验证\u002F测试集默认会利用同一层级的所有标签来构造出全部负例。\n\n可开启`debug`模式对每个正例类别分别进行评估，该模式仅用于模型调试：\n\n```shell\npython evaluate.py \\\n    --model_path .\u002Fcheckpoint\u002Fmodel_best \\\n    --test_path .\u002Fdata\u002Fdev.txt \\\n    --debug\n```\n\n输出打印示例：\n\n```text\n[2022-09-14 03:13:58,877] [    INFO] - -----------------------------\n[2022-09-14 03:13:58,877] [    INFO] - Class Name: 疾病\n[2022-09-14 03:13:58,877] [    INFO] - Evaluation Precision: 0.89744 | Recall: 0.83333 | F1: 0.86420\n[2022-09-14 03:13:59,145] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,145] [    INFO] - Class Name: 手术治疗\n[2022-09-14 03:13:59,145] [    INFO] - Evaluation Precision: 0.90000 | Recall: 0.85714 | F1: 0.87805\n[2022-09-14 03:13:59,439] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,440] [    INFO] - Class Name: 检查\n[2022-09-14 03:13:59,440] [    INFO] - Evaluation Precision: 0.77778 | Recall: 0.56757 | F1: 0.65625\n[2022-09-14 03:13:59,708] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,709] [    INFO] - Class Name: X的手术治疗\n[2022-09-14 03:13:59,709] [    INFO] - Evaluation Precision: 0.90000 | Recall: 0.85714 | F1: 0.87805\n[2022-09-14 03:13:59,893] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,893] [    INFO] - Class Name: X的实验室检查\n[2022-09-14 03:13:59,894] [    INFO] - Evaluation Precision: 0.71429 | Recall: 0.55556 | F1: 0.62500\n[2022-09-14 03:14:00,057] [    INFO] - -----------------------------\n[2022-09-14 03:14:00,058] [    INFO] - Class Name: X的影像学检查\n[2022-09-14 03:14:00,058] [    INFO] - Evaluation Precision: 0.69231 | Recall: 0.45000 | F1: 0.54545\n```\n\n可配置参数说明：\n\n- `model_path`: 进行评估的模型文件夹路径，路径下需包含模型权重文件`pytorch_model.bin`及配置文件`config.json`。\n- `test_path`: 进行评估的测试集文件。\n- `batch_size`: 批处理大小，请结合机器情况进行调整，默认为16。\n- `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n- `device`: 选用进行训练的设备，可选`cpu`或`gpu`。\n\n\u003Ca name=\"定制模型一键预测\">\u003C\u002Fa>\n\n#### 4.5 定制模型一键预测\n\n`UIEPredictor`装载定制模型，通过`task_path`指定模型权重文件的路径，路径下需要包含训练好的模型权重文件`pytorch_model.bin`。\n\n```python\n>>> from pprint import pprint\n>>> from uie_predictor import UIEPredictor\n\n>>> schema = ['出发地', '目的地', '费用', '时间']\n# 设定抽取目标和定制化模型权重路径\n>>> my_ie = UIEPredictor(model='uie-base',task_path='.\u002Fcheckpoint\u002Fmodel_best', schema=schema)\n>>> pprint(my_ie(\"城市内交通费7月5日金额114广州至佛山\"))\n[{'出发地': [{'end': 17,\n           'probability': 0.9975287467835301,\n           'start': 15,\n           'text': '广州'}],\n  '时间': [{'end': 10,\n          'probability': 0.9999476678061399,\n          'start': 6,\n          'text': '7月5日'}],\n  '目的地': [{'end': 20,\n           'probability': 0.9998511131226735,\n           'start': 18,\n           'text': '佛山'}],\n  '费用': [{'end': 15,\n          'probability': 0.9994474579292856,\n          'start': 12,\n          'text': '114'}]}]\n```\n\n\u003Ca name=\"实验指标\">\u003C\u002Fa>\n\n#### 4.6 实验指标\n\n我们在互联网、医疗、金融三大垂类自建测试集上进行了实验：\n\n\u003Ctable>\n\u003Ctr>\u003Cth row_span='2'>\u003Cth colspan='2'>金融\u003Cth colspan='2'>医疗\u003Cth colspan='2'>互联网\n\u003Ctr>\u003Ctd>\u003Cth>0-shot\u003Cth>5-shot\u003Cth>0-shot\u003Cth>5-shot\u003Cth>0-shot\u003Cth>5-shot\n\u003Ctr>\u003Ctd>uie-base (12L768H)\u003Ctd>46.43\u003Ctd>70.92\u003Ctd>\u003Cb>71.83\u003C\u002Fb>\u003Ctd>85.72\u003Ctd>78.33\u003Ctd>81.86\n\u003Ctr>\u003Ctd>uie-medium (6L768H)\u003Ctd>41.11\u003Ctd>64.53\u003Ctd>65.40\u003Ctd>75.72\u003Ctd>78.32\u003Ctd>79.68\n\u003Ctr>\u003Ctd>uie-mini (6L384H)\u003Ctd>37.04\u003Ctd>64.65\u003Ctd>60.50\u003Ctd>78.36\u003Ctd>72.09\u003Ctd>76.38\n\u003Ctr>\u003Ctd>uie-micro (4L384H)\u003Ctd>37.53\u003Ctd>62.11\u003Ctd>57.04\u003Ctd>75.92\u003Ctd>66.00\u003Ctd>70.22\n\u003Ctr>\u003Ctd>uie-nano (4L312H)\u003Ctd>38.94\u003Ctd>66.83\u003Ctd>48.29\u003Ctd>76.74\u003Ctd>62.86\u003Ctd>72.35\n\u003Ctr>\u003Ctd>uie-m-large (24L1024H)\u003Ctd>\u003Cb>49.35\u003C\u002Fb>\u003Ctd>\u003Cb>74.55\u003C\u002Fb>\u003Ctd>70.50\u003Ctd>\u003Cb>92.66\u003C\u002Fb>\u003Ctd>\u003Cb>78.49\u003C\u002Fb>\u003Ctd>\u003Cb>83.02\u003C\u002Fb>\n\u003Ctr>\u003Ctd>uie-m-base (12L768H)\u003Ctd>38.46\u003Ctd>74.31\u003Ctd>63.37\u003Ctd>87.32\u003Ctd>76.27\u003Ctd>80.13\n\u003C\u002Ftable>\n\n0-shot表示无训练数据直接通过```UIEPredictor```进行预测，5-shot表示每个类别包含5条标注数据进行模型微调。**实验表明UIE在垂类场景可以通过少量数据（few-shot）进一步提升效果**。\n\n\u003Ca name=\"模型部署\">\u003C\u002Fa>\n\n#### 4.7 模型部署\n\n以下是UIE Python端的部署流程，包括环境准备、模型导出和使用示例。\n\n- 环境准备\n  UIE的部署分为CPU和GPU两种情况，请根据你的部署环境安装对应的依赖。\n\n  - CPU端\n\n    CPU端的部署请使用如下命令安装所需依赖\n\n    ```shell\n    pip install onnx onnxruntime\n    ```\n  - GPU端\n\n    为了在GPU上获得最佳的推理性能和稳定性，请先确保机器已正确安装NVIDIA相关驱动和基础软件，确保**CUDA >= 11.2，cuDNN >= 8.1.1**，并使用以下命令安装所需依赖\n\n    ```shell\n    pip install onnx onnxconverter_common onnxruntime-gpu\n    ```\n\n    如需使用半精度（FP16）部署，请确保GPU设备的CUDA计算能力 (CUDA Compute Capability) 大于7.0，典型的设备包括V100、T4、A10、A100、GTX 20系列和30系列显卡等。\n    更多关于CUDA Compute Capability和精度支持情况请参考NVIDIA文档：[GPU硬件与支持精度对照表](https:\u002F\u002Fdocs.nvidia.com\u002Fdeeplearning\u002Ftensorrt\u002Farchives\u002Ftensorrt-840-ea\u002Fsupport-matrix\u002Findex.html#hardware-precision-matrix)\n\n\n- 模型导出\n\n  将训练后的动态图参数导出为静态图参数：\n\n  ```shell\n  python export_model.py --model_path .\u002Fcheckpoint\u002Fmodel_best --output_path .\u002Fexport\n  ```\n\n  可配置参数说明：\n\n  - `model_path`: 动态图训练保存的参数路径，路径下包含模型参数文件`pytorch_model.bin`和模型配置文件`config.json`。\n  - `output_path`: 静态图参数导出路径，默认导出路径为`model_path`，即保存到输入模型同目录下。\n\n- 推理\n\n  - CPU端推理样例\n\n    在CPU端，请使用如下命令进行部署\n\n    ```shell\n    python uie_predictor.py --task_path .\u002Fexport --engine onnx --device cpu\n    ```\n\n    可配置参数说明：\n    - `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n    - `task_path`: 用于推理的ONNX模型文件所在文件夹。例如模型文件路径为`.\u002Fexport\u002Finference.onnx`，则传入`.\u002Fexport`。如果不设置，将自动下载`model`对应的模型。\n    - `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n    - `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n    - `engine`: 可选值为`pytorch`和`onnx`。推理使用的推理引擎。\n\n  - GPU端推理样例\n\n    在GPU端，请使用如下命令进行部署\n\n    ```shell\n    python uie_predictor.py --task_path .\u002Fexport --engine onnx --device gpu --use_fp16\n    ```\n\n    可配置参数说明：\n    - `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n    - `task_path`: 用于推理的ONNX模型文件所在文件夹。例如模型文件路径为`.\u002Fexport\u002Finference.onnx`，则传入`.\u002Fexport\u002Finference`。如果不设置，将自动下载`model`对应的模型。\n    - `use_fp16`: 是否使用FP16进行加速，默认关闭。\n    - `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n    - `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n    - `engine`: 可选值为`pytorch`和`onnx`。推理使用的推理引擎。\n","# 通用信息抽取 UIE(Universal Information Extraction) PyTorch版\n\n**迁移[PaddleNLP](https:\u002F\u002Fgithub.com\u002FPaddlePaddle\u002FPaddleNLP)中的UIE模型到PyTorch上**\n\n* 2022-10-3: 新增对UIE-M系列模型的支持，增加了ErnieM的Tokenizer。ErnieMTokenizer使用C++实现的高性能分词算子FasterTokenizer进行文本预处理加速。需要通过`pip install faster_tokenizer`安装FasterTokenizer库后方可使用。\n\nPyTorch版功能介绍\n- `convert.py`: 自动下载并转换模型，详见[开箱即用](#开箱即用)。\n- `doccano.py`: 转换标注数据，详见[数据标注](#数据标注)。\n- `evaluate.py`: 评估模型，详见[模型评估](#模型评估)。\n- `export_model.py`: 导出ONNX推理模型，详见[模型部署](#模型部署)。\n- `finetune.py`: 微调训练，详见[模型微调](#模型微调)。\n- `model.py`: 模型定义。\n- `uie_predictor.py`: 推理类。\n\n\n**目录**\n\n- [1. 模型简介](#模型简介)\n- [2. 应用示例](#应用示例)\n- [3. 开箱即用](#开箱即用)\n  - [3.1 实体抽取](#实体抽取)\n  - [3.2 关系抽取](#关系抽取)\n  - [3.3 事件抽取](#事件抽取)\n  - [3.4 评论观点抽取](#评论观点抽取)\n  - [3.5 情感分类](#情感分类)\n  - [3.6 跨任务抽取](#跨任务抽取)\n  - [3.7 模型选择](#模型选择)\n  - [3.8 更多配置](#更多配置)\n- [4. 训练定制](#训练定制)\n  - [4.1 代码结构](#代码结构)\n  - [4.2 数据标注](#数据标注)\n  - [4.3 模型微调](#模型微调)\n  - [4.4 模型评估](#模型评估)\n  - [4.5 定制模型一键预测](#定制模型一键预测)\n  - [4.6 实验指标](#实验指标)\n  - [4.7 模型部署](#模型部署)\n\n\u003Ca name=\"模型简介\">\u003C\u002Fa>\n\n## 1. 模型简介\n\n[UIE(Universal Information Extraction)](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2203.12277.pdf)：Yaojie Lu等人在ACL-2022中提出了通用信息抽取统一框架UIE。该框架实现了实体抽取、关系抽取、事件抽取、情感分析等任务的统一建模，并使得不同任务间具备良好的迁移和泛化能力。为了方便大家使用UIE的强大能力，PaddleNLP借鉴该论文的方法，基于ERNIE 3.0知识增强预训练模型，训练并开源了首个中文通用信息抽取模型UIE。该模型可以支持不限定行业领域和抽取目标的关键信息抽取，实现零样本快速冷启动，并具备优秀的小样本微调能力，快速适配特定的抽取目标。\n\n\u003Cdiv align=\"center\">\n    \u003Cimg src=https:\u002F\u002Fuser-images.githubusercontent.com\u002F40840292\u002F167236006-66ed845d-21b8-4647-908b-e1c6e7613eb1.png height=400 hspace='10'\u002F>\n\u003C\u002Fdiv>\n\n#### UIE的优势\n\n- **使用简单**：用户可以使用自然语言自定义抽取目标，无需训练即可统一抽取输入文本中的对应信息。**实现开箱即用，并满足各类信息抽取需求**。\n\n- **降本增效**：以往的信息抽取技术需要大量标注数据才能保证信息抽取的效果，为了提高开发过程中的开发效率，减少不必要的重复工作时间，开放域信息抽取可以实现零样本（zero-shot）或者少样本（few-shot）抽取，**大幅度降低标注数据依赖，在降低成本的同时，还提升了效果**。\n\n- **效果领先**：开放域信息抽取在多种场景，多种任务上，均有不俗的表现。\n\n\u003Ca name=\"应用示例\">\u003C\u002Fa>\n\n## 2. 应用示例\n\nUIE不限定行业领域和抽取目标，以下是一些零样本行业示例：\n\n- 医疗场景-专病结构化\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_507f9e9565aa.png)\n\n- 法律场景-判决书抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_f5461cc7a480.png)\n\n- 金融场景-收入证明、招股书抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_ee0334861afd.png)\n\n- 公安场景-事故报告抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_5743139ddd61.png)\n\n- 旅游场景-宣传册、手册抽取\n\n![image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_readme_e14d62aa626c.png)\n\n\u003Ca name=\"开箱即用\">\u003C\u002Fa>\n\n## 3. 开箱即用\n\n```uie_predictor```提供通用信息抽取、评价观点抽取等能力，可抽取多种类型的信息，包括但不限于命名实体识别（如人名、地名、机构名等）、关系（如电影的导演、歌曲的发行时间等）、事件（如某路口发生车祸、某地发生地震等）、以及评价维度、观点词、情感倾向等信息。用户可以使用自然语言自定义抽取目标，无需训练即可统一抽取输入文本中的对应信息。**实现开箱即用，并满足各类信息抽取需求**\n\n```uie_predictor```现在可以自动下载模型了，**无需手动convert**，如果想手动转换模型，可以参照以下方法。\n\n**下载并转换模型**，将下载Paddle版的`uie-base`模型到当前目录中，并生成PyTorch版模型`uie_base_pytorch`。\n\n```shell\npython convert.py\n```\n\n如果没有安装paddlenlp，则使用以下命令。这将不会导入paddlenlp，以及不会验证转换结果正确性。\n\n```shell\npython convert.py --no_validate_output\n```\n\n可配置参数说明：\n\n- `input_model`: 输入的模型所在的文件夹，例如存在模型`.\u002Fmodel_path\u002Fmodel_state.pdparams`，则传入`.\u002Fmodel_path`。如果传入`uie-base`或`uie-tiny`等在模型列表中的模型，且当前目录不存在此文件夹时，将自动下载模型。默认值为`uie-base`。\n  \n  支持自动下载的模型\n  - `uie-base`\n  - `uie-medium`\n  - `uie-mini`\n  - `uie-micro`\n  - `uie-nano`\n  - `uie-medical-base`\n  - `uie-tiny` (弃用，已改为`uie-medium`)\n  - `uie-base-en`\n  - `uie-m-base`\n  - `uie-m-large`\n  - `ernie-3.0-base-zh`*\n\n- `output_model`: 输出的模型的文件夹，默认为`uie_base_pytorch`。\n- `no_validate_output`：是否关闭对输出模型的验证，默认打开。\n\n\\* : 使用`ernie-3.0-base-zh`时不会验证模型，需要微调后才能用于预测\n\n\n\u003Ca name=\"实体抽取\">\u003C\u002Fa>\n\n#### 3.1 实体抽取\n\n  命名实体识别（Named Entity Recognition，简称NER），是指识别文本中具有特定意义的实体。在开放域信息抽取中，抽取的类别没有限制，用户可以自己定义。\n\n  - 例如抽取的目标实体类型是\"时间\"、\"选手\"和\"赛事名称\", schema构造如下：\n\n  ```text\n  ['时间', '选手', '赛事名称']\n  ```\n\n    调用示例：\n\n  ```python\n  >>> from uie_predictor import UIEPredictor\n  >>> from pprint import pprint\n\n  >>> schema = ['时间', '选手', '赛事名称'] # Define the schema for entity extraction\n  >>> ie = UIEPredictor(model='uie-base', schema=schema)\n  >>> pprint(ie(\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\")) # Better print results using pprint\n  [{'时间': [{'end': 6,\n            'probability': 0.9857378532924486,\n            'start': 0,\n            'text': '2月8日上午'}],\n    '赛事名称': [{'end': 23,\n              'probability': 0.8503089953268272,\n              'start': 6,\n              'text': '北京冬奥会自由式滑雪女子大跳台决赛'}],\n    '选手': [{'end': 31,\n            'probability': 0.8981548639781138,\n            'start': 28,\n            'text': '谷爱凌'}]}]\n  ```\n\n  - 例如抽取的目标实体类型是\"肿瘤的大小\"、\"肿瘤的个数\"、\"肝癌级别\"和\"脉管内癌栓分级\", schema构造如下：\n\n  ```text\n  ['肿瘤的大小', '肿瘤的个数', '肝癌级别', '脉管内癌栓分级']\n  ```\n\n  在上例中我们已经实例化了一个`UIEPredictor`对象，这里可以通过`set_schema`方法重置抽取目标。\n\n    调用示例：\n\n  ```python\n  >>> schema = ['肿瘤的大小', '肿瘤的个数', '肝癌级别', '脉管内癌栓分级']\n  >>> ie.set_schema(schema)\n  >>> pprint(ie(\"（右肝肿瘤）肝细胞性肝癌（II-III级，梁索型和假腺管型），肿瘤包膜不完整，紧邻肝被膜，侵及周围肝组织，未见脉管内癌栓（MVI分级：M0级）及卫星子灶形成。（肿物1个，大小4.2×4.0×2.8cm）。\"))\n  [{'肝癌级别': [{'end': 20,\n              'probability': 0.9243267447402701,\n              'start': 13,\n              'text': 'II-III级'}],\n    '肿瘤的个数': [{'end': 84,\n              'probability': 0.7538413804059623,\n              'start': 82,\n              'text': '1个'}],\n    '肿瘤的大小': [{'end': 100,\n              'probability': 0.8341128043459491,\n              'start': 87,\n              'text': '4.2×4.0×2.8cm'}],\n    '脉管内癌栓分级': [{'end': 70,\n                'probability': 0.9083292325934664,\n                'start': 67,\n                'text': 'M0级'}]}]\n  ```\n\n  - 例如抽取的目标实体类型是\"person\"和\"organization\"，schema构造如下：\n\n    ```text\n    ['person', 'organization']\n    ```\n\n    英文模型调用示例：\n\n    ```python\n    >>> from uie_predictor import UIEPredictor\n    >>> from pprint import pprint\n    >>> schema = ['Person', 'Organization']\n    >>> ie_en = UIEPredictor(model='uie-base-en', schema=schema)\n    >>> pprint(ie_en('In 1997, Steve was excited to become the CEO of Apple.'))\n    [{'Organization': [{'end': 53,\n                        'probability': 0.9985840259877357,\n                        'start': 48,\n                        'text': 'Apple'}],\n      'Person': [{'end': 14,\n                  'probability': 0.999631971804547,\n                  'start': 9,\n                  'text': 'Steve'}]}]\n    ```\n\n\u003Ca name=\"关系抽取\">\u003C\u002Fa>\n\n#### 3.2 关系抽取\n\n  关系抽取（Relation Extraction，简称RE），是指从文本中识别实体并抽取实体之间的语义关系，进而获取三元组信息，即\u003C主体，谓语，客体>。\n\n  - 例如以\"竞赛名称\"作为抽取主体，抽取关系类型为\"主办方\"、\"承办方\"和\"已举办次数\", schema构造如下：\n\n  ```text\n  {\n    '竞赛名称': [\n      '主办方',\n      '承办方',\n      '已举办次数'\n    ]\n  }\n  ```\n\n    调用示例：\n\n```python\n  >>> schema = {'竞赛名称': ['主办方', '承办方', '已举办次数']} # 定义关系抽取的模式\n  >>> ie.set_schema(schema) # 重置模式\n  >>> pprint(ie('2022语言与智能技术竞赛由中国中文信息学会和中国计算机学会联合主办，百度公司、中国中文信息学会评测工作委员会和中国计算机学会自然语言处理专委会承办，已连续举办4届，成为全球最热门的中文NLP赛事之一。'))\n  [{'竞赛名称': [{'end': 13,\n              'probability': 0.7825402622754041,\n              'relations': {'主办方': [{'end': 22,\n                                    'probability': 0.8421710521379353,\n                                    'start': 14,\n                                    'text': '中国中文信息学会'},\n                                    {'end': 30,\n                                    'probability': 0.7580801847701935,\n                                    'start': 23,\n                                    'text': '中国计算机学会'}],\n                            '已举办次数': [{'end': 82,\n                                      'probability': 0.4671295049136148,\n                                      'start': 80,\n                                      'text': '4届'}],\n                            '承办方': [{'end': 39,\n                                    'probability': 0.8292706618236352,\n                                    'start': 35,\n                                    'text': '百度公司'},\n                                    {'end': 72,\n                                    'probability': 0.6193477885474685,\n                                    'start': 56,\n                                    'text': '中国计算机学会自然语言处理专委会'},\n                                    {'end': 55,\n                                    'probability': 0.7000497331473241,\n                                    'start': 40,\n                                    'text': '中国中文信息学会评测工作委员会'}]},\n              'start': 0,\n              'text': '2022语言与智能技术竞赛'}]}]\n  ```\n\n  - 例如以\"person\"作为抽取主体，抽取关系类型为\"Company\"和\"Position\", schema构造如下：\n\n    ```text\n    {\n      'Person': [\n        'Company',\n        'Position'\n      ]\n    }\n    ```\n\n    英文模型调用示例：\n\n    ```python\n    >>> schema = [{'Person': ['Company', 'Position']}]\n    >>> ie_en.set_schema(schema)\n    >>> pprint(ie_en('In 1997, Steve was excited to become the CEO of Apple.'))\n    [{'Person': [{'end': 14,\n                  'probability': 0.999631971804547,\n                  'relations': {'Company': [{'end': 53,\n                                            'probability': 0.9960158209451642,\n                                            'start': 48,\n                                            'text': 'Apple'}],\n                                'Position': [{'end': 44,\n                                              'probability': 0.8871063806420736,\n                                              'start': 41,\n                                              'text': 'CEO'}]},\n                  'start': 9,\n                  'text': 'Steve'}]}]\n    ```\n\n\u003Ca name=\"事件抽取\">\u003C\u002Fa>\n\n#### 3.3 事件抽取\n\n  事件抽取 (Event Extraction, 简称EE)，是指从自然语言文本中抽取预定义的事件触发词(Trigger)和事件论元(Argument)，组合为相应的事件结构化信息。\n\n  - 例如抽取的目标是\"地震\"事件的\"地震强度\"、\"时间\"、\"震中位置\"和\"震源深度\"这些信息，schema构造如下：\n\n  ```text\n  {\n    '地震触发词': [\n      '地震强度',\n      '时间',\n      '震中位置',\n      '震源深度'\n    ]\n  }\n  ```\n\n    触发词的格式统一为`触发词`或``XX触发词`，`XX`表示具体事件类型，上例中的事件类型是`地震`，则对应触发词为`地震触发词`。\n\n    调用示例：\n\n  ```python\n  >>> schema = {'地震触发词': ['地震强度', '时间', '震中位置', '震源深度']} # 定义事件抽取的模式\n  >>> ie.set_schema(schema) # 重置模式\n  >>> ie('中国地震台网正式测定：5月16日06时08分在云南临沧市凤庆县(北纬24.34度，东经99.98度)发生3.5级地震，震源深度10千米。')\n  [{'地震触发词': [{'text': '地震', 'start': 56, 'end': 58, 'probability': 0.9987181623528585, 'relations': {'地震强度': [{'text': '3.5级', 'start': 52, 'end': 56, 'probability': 0.9962985320905915}], '时间': [{'text': '5月16日06时08分', 'start': 11, 'end': 22, 'probability': 0.9882578028575182}], '震中位置': [{'text': '云南临沧市凤庆县(北纬24.34度，东经99.98度)', 'start': 23, 'end': 50, 'probability': 0.8551415716584501}], '震源深度': [{'text': '10千米', 'start': 63, 'end': 67, 'probability': 0.999158304648045}]}}]}]\n  ```\n\n  - 英文模型**暂不支持事件抽取**\n\n\u003Ca name=\"评论观点抽取\">\u003C\u002Fa>\n\n#### 3.4 评论观点抽取\n\n  评论观点抽取，是指抽取文本中包含的评价维度、观点词。\n\n  - 例如抽取的目标是文本中包含的评价维度及其对应的观点词和情感倾向，schema构造如下：\n\n  ```text\n  {\n    '评价维度': [\n      '观点词',\n      '情感倾向[正向，负向]'\n    ]\n  }\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = {'评价维度': ['观点词', '情感倾向[正向，负向]']} # 定义观点抽取的模式\n  >>> ie.set_schema(schema) # 重置模式\n  >>> pprint(ie(\"店面干净，很清静，服务员服务热情，性价比很高，发现收银台有排队\")) # 使用pprint更好地展示结果\n  [{'评价维度': [{'end': 20,\n              'probability': 0.9817040258681473,\n              'relations': {'情感倾向[正向，负向]': [{'probability': 0.9966142505350533,\n                                            'text': '正向'}],\n                            '观点词': [{'end': 22,\n                                    'probability': 0.957396472711558,\n                                    'start': 21,\n                                    'text': '高'}]},\n              'start': 17,\n              'text': '性价比'},\n            {'end': 2,\n              'probability': 0.9696849569741168,\n              'relations': {'情感倾向[正向，负向]': [{'probability': 0.9982153274927796,\n                                            'text': '正向'}],\n                            '观点词': [{'end': 4,\n                                    'probability': 0.9945318044652538,\n                                    'start': 2,\n                                    'text': '干净'}]},\n              'start': 0,\n              'text': '店面'}]}]\n  ```\n\n  - 英文模型schema构造如下：\n\n    ```text\n    {\n      'Aspect': [\n        'Opinion',\n        'Sentiment classification [negative, positive]'\n      ]\n    }\n    ```\n\n    调用示例：\n\n    ```python\n    >>> schema = [{'Aspect': ['Opinion', 'Sentiment classification [negative, positive]']}]\n    >>> ie_en.set_schema(schema)\n    >>> pprint(ie_en(\"The teacher is very nice.\"))\n    [{'Aspect': [{'end': 11,\n                  'probability': 0.4301476415932193,\n                  'relations': {'Opinion': [{'end': 24,\n                                            'probability': 0.9072940447883724,\n                                            'start': 15,\n                                            'text': 'very nice'}],\n                                'Sentiment classification [negative, positive]': [{'probability': 0.9998571920670685,\n                                                                                  'text': 'positive'}]},\n                  'start': 4,\n                  'text': 'teacher'}]}]\n    ```\n\n\u003Ca name=\"情感分类\">\u003C\u002Fa>\n\n#### 3.5 情感分类\n\n  - 句子级情感倾向分类，即判断句子的情感倾向是“正向”还是“负向”，schema构造如下：\n\n  ```text\n  '情感倾向[正向，负向]'\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = '情感倾向[正向，负向]' # 定义句子级情感分类的模式\n  >>> ie.set_schema(schema) # 重置模式\n  >>> ie('这个产品用起来真的很流畅，我非常喜欢')\n  [{'情感倾向[正向，负向]': [{'text': '正向', 'probability': 0.9988661643929895}]}]\n  ```\n\n    英文模型schema构造如下：\n\n    ```text\n    '情感倾向[正向，负向]'\n    ```\n\n    英文模型调用示例：\n\n```python\n    >>> schema = '情感分类 [负面, 正面]'\n    >>> ie_en.set_schema(schema)\n    >>> ie_en('我很抱歉，但这是我一生中见过的最糟糕的电影。')\n    [{'情感分类 [负面, 正面]': [{'text': '负面', 'probability': 0.9998415771287057}]}]\n    ```\n\n\u003Ca name=\"跨任务抽取\">\u003C\u002Fa>\n\n#### 3.6 跨任务抽取\n\n  - 例如在法律场景同时对文本进行实体抽取和关系抽取，schema可按照如下方式进行构造：\n\n  ```text\n  [\n    \"法院\",\n    {\n        \"原告\": \"委托代理人\"\n    },\n    {\n        \"被告\": \"委托代理人\"\n    }\n  ]\n  ```\n\n    调用示例：\n\n  ```python\n  >>> schema = ['法院', {'原告': '委托代理人'}, {'被告': '委托代理人'}]\n  >>> ie.set_schema(schema)\n  >>> pprint(ie(\"北京市海淀区人民法院\\n民事判决书\\n(199x)建初字第xxx号\\n原告：张三。\\n委托代理人李四，北京市 A律师事务所律师。\\n被告：B公司，法定代表人王五，开发公司总经理。\\n委托代理人赵六，北京市 C律师事务所律师。\")) # Better print results using pprint\n  [{'原告': [{'end': 37,\n            'probability': 0.9949814024296764,\n            'relations': {'委托代理人': [{'end': 46,\n                                    'probability': 0.7956844697990384,\n                                    'start': 44,\n                                    'text': '李四'}]},\n            'start': 35,\n            'text': '张三'}],\n    '法院': [{'end': 10,\n            'probability': 0.9221074192336651,\n            'start': 0,\n            'text': '北京市海淀区人民法院'}],\n    '被告': [{'end': 67,\n            'probability': 0.8437349536631089,\n            'relations': {'委托代理人': [{'end': 92,\n                                    'probability': 0.7267121388225029,\n                                    'start': 90,\n                                    'text': '赵六'}]},\n            'start': 64,\n            'text': 'B公司'}]}]\n  ```\n\n\u003Ca name=\"模型选择\">\u003C\u002Fa>\n\n#### 3.7 模型选择\n\n- 多模型选择，满足精度、速度要求\n\n  | 模型 |  结构  | 语言 |\n  | :---: | :--------: | :--------: |\n  | `uie-base` (默认)| 12-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-base-en` | 12-layers, 768-hidden, 12-heads | 英文 |\n  | `uie-medical-base` | 12-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-medium`| 6-layers, 768-hidden, 12-heads | 中文 |\n  | `uie-mini`| 6-layers, 384-hidden, 12-heads | 中文 |\n  | `uie-micro`| 4-layers, 384-hidden, 12-heads | 中文 |\n  | `uie-nano`| 4-layers, 312-hidden, 12-heads | 中文 |\n  | `uie-m-large`| 24-layers, 1024-hidden, 16-heads | 中、英文 |\n  | `uie-m-base`| 12-layers, 768-hidden, 12-heads | 中、英文 |\n\n\n- `uie-nano`调用示例：\n\n  ```python\n  >>> from uie_predictor import UIEPredictor\n\n  >>> schema = ['时间', '选手', '赛事名称']\n  >>> ie = UIEPredictor('uie-nano', schema=schema)\n  >>> ie(\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\")\n  [{'时间': [{'text': '2月8日上午', 'start': 0, 'end': 6, 'probability': 0.6513581678349247}], '选手': [{'text': '谷爱凌', 'start': 28, 'end': 31, 'probability': 0.9819330659468051}], '赛事名称': [{'text': '北京冬奥会自由式滑雪女子大跳台决赛', 'start': 6, 'end': 23, 'probability': 0.4908131110420939}]}]\n  ```\n\n- `uie-m-base`和`uie-m-large`支持中英文混合抽取，调用示例：\n\n  ```python\n  >>> from pprint import pprint\n  >>> from uie_predictor import UIEPredictor\n\n  >>> schema = ['Time', 'Player', 'Competition', 'Score']\n  >>> ie = UIEPredictor(schema=schema, model=\"uie-m-base\", schema_lang=\"en\")\n  >>> pprint(ie([\"2月8日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以188.25分获得金牌！\", \"Rafael Nadal wins French Open Final!\"]))\n  [{'Competition': [{'end': 23,\n                    'probability': 0.9373889907291257,\n                    'start': 6,\n                    'text': '北京冬奥会自由式滑雪女子大跳台决赛'}],\n    'Player': [{'end': 31,\n                'probability': 0.6981119555336441,\n                'start': 28,\n                'text': '谷爱凌'}],\n    'Score': [{'end': 39,\n              'probability': 0.9888507878270296,\n              'start': 32,\n              'text': '188.25分'}],\n    'Time': [{'end': 6,\n              'probability': 0.9784080036931151,\n              'start': 0,\n              'text': '2月8日上午'}]},\n  {'Competition': [{'end': 35,\n                    'probability': 0.9851549932171295,\n                    'start': 18,\n                    'text': 'French Open Final'}],\n    'Player': [{'end': 12,\n                'probability': 0.9379371275888104,\n                'start': 0,\n                'text': 'Rafael Nadal'}]}]\n  ```\n\n\u003Ca name=\"更多配置\">\u003C\u002Fa>\n\n#### 3.8 更多配置\n\n```python\n>>> from uie_predictor import UIEPredictor\n\n>>> ie = UIEPredictor('uie_nano',   \n                       schema=schema)  \n```\n\n* `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n* `schema`：定义任务抽取目标，可参考开箱即用中不同任务的调用示例进行配置。\n* `schema_lang`：设置schema的语言，默认为`zh`, 可选有`zh`和`en`。因为中英schema的构造有所不同，因此需要指定schema的语言。该参数只对`uie-m-base`和`uie-m-large`模型有效。\n* `batch_size`：批处理大小，请结合机器情况进行调整，默认为1。\n* `task_path`：设定自定义的模型。\n* `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率在0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n* `use_fp16`：是否使用`fp16`进行加速，默认关闭。`fp16`推理速度更快。如果选择`fp16`，请先确保机器正确安装NVIDIA相关驱动和基础软件，**确保CUDA>=11.2，cuDNN>=8.1.1**，初次使用需按照提示安装相关依赖。其次，需要确保GPU设备的CUDA计算能力（CUDA Compute Capability）大于7.0，典型的设备包括V100、T4、A10、A100、GTX 20系列和30系列显卡等。更多关于CUDA Compute Capability和精度支持情况请参考NVIDIA文档：[GPU硬件与支持精度对照表](https:\u002F\u002Fdocs.nvidia.com\u002Fdeeplearning\u002Ftensorrt\u002Farchives\u002Ftensorrt-840-ea\u002Fsupport-matrix\u002Findex.html#hardware-precision-matrix)。\n\n\u003Ca name=\"训练定制\">\u003C\u002Fa>\n\n## 4. 训练定制\n\n对于简单的抽取目标可以直接使用```UIEPredictor```实现零样本（zero-shot）抽取，对于细分场景我们推荐使用轻定制功能（标注少量数据进行模型微调）以进一步提升效果。下面通过`报销工单信息抽取`的例子展示如何通过5条训练数据进行UIE模型微调。\n\u003Ca name=\"代码结构\">\u003C\u002Fa>\n\n#### 4.1 代码结构\n\n```shell\n.\n├── utils.py          # 数据处理工具\n├── model.py          # 模型组网脚本\n├── doccano.py        # 数据标注脚本\n├── doccano.md        # 数据标注文档\n├── finetune.py       # 模型微调脚本\n├── evaluate.py       # 模型评估脚本\n└── README.md\n```\n\n\u003Ca name=\"数据标注\">\u003C\u002Fa>\n\n#### 4.2 数据标注\n\n我们推荐使用数据标注平台[doccano](https:\u002F\u002Fgithub.com\u002Fdoccano\u002Fdoccano) 进行数据标注，本示例也打通了从标注到训练的通道，即doccano导出数据后可通过[doccano.py](.\u002Fdoccano.py)脚本轻松将数据转换为输入模型时需要的形式，实现无缝衔接。标注方法的详细介绍请参考[doccano数据标注指南](doccano.md)。\n\n原始数据示例：\n\n```text\n深大到双龙28块钱4月24号交通费\n```\n\n抽取的目标(schema)为：\n\n```python\nschema = ['出发地', '目的地', '费用', '时间']\n```\n\n标注步骤如下：\n\n- 在doccano平台上，创建一个类型为``序列标注``的标注项目。\n- 定义实体标签类别，上例中需要定义的实体标签有``出发地``、``目的地``、``费用``和``时间``。\n- 使用以上定义的标签开始标注数据，下面展示了一个doccano标注示例：\n\n\u003Cdiv align=\"center\">\n    \u003Cimg src=https:\u002F\u002Fuser-images.githubusercontent.com\u002F40840292\u002F167336891-afef1ad5-8777-456d-805b-9c65d9014b80.png height=100 hspace='10'\u002F>\n\u003C\u002Fdiv>\n\n- 标注完成后，在doccano平台上导出文件，并将其重命名为``doccano_ext.json``后，放入``.\u002Fdata``目录下。\n\n- 这里我们提供预先标注好的文件[doccano_ext.json](https:\u002F\u002Fbj.bcebos.com\u002Fpaddlenlp\u002Fdatasets\u002Fuie\u002Fdoccano_ext.json)，可直接下载并放入`.\u002Fdata`目录。执行以下脚本进行数据转换，执行后会在`.\u002Fdata`目录下生成训练\u002F验证\u002F测试集文件。\n\n```shell\npython doccano.py \\\n    --doccano_file .\u002Fdata\u002Fdoccano_ext.json \\\n    --task_type ext \\\n    --save_dir .\u002Fdata \\\n    --splits 0.8 0.2 0\n```\n\n\n可配置参数说明：\n\n- ``doccano_file``: 从doccano导出的数据标注文件。\n- ``save_dir``: 训练数据的保存目录，默认存储在``data``目录下。\n- ``negative_ratio``: 最大负例比例，该参数只对抽取类型任务有效，适当构造负例可提升模型效果。负例数量和实际的标签数量有关，最大负例数量 = negative_ratio * 正例数量。该参数只对训练集有效，默认为5。为了保证评估指标的准确性，验证集和测试集默认构造全负例。\n- ``splits``: 划分数据集时训练集、验证集所占的比例。默认为[0.8, 0.1, 0.1]表示按照``8:1:1``的比例将数据划分为训练集、验证集和测试集。\n- ``task_type``: 选择任务类型，可选有抽取和分类两种类型的任务。\n- ``options``: 指定分类任务的类别标签，该参数只对分类类型任务有效。默认为[\"正向\", \"负向\"]。\n- ``prompt_prefix``: 声明分类任务的prompt前缀信息，该参数只对分类类型任务有效。默认为\"情感倾向\"。\n- ``is_shuffle``: 是否对数据集进行随机打散，默认为True。\n- ``seed``: 随机种子，默认为1000.\n- ``separator``: 实体类别\u002F评价维度与分类标签的分隔符，该参数只对实体\u002F评价维度级分类任务有效。默认为\"##\".\n\n备注：\n- 默认情况下 [doccano.py](.\u002Fdoccano.py) 脚本会按照比例将数据划分为 train\u002Fdev\u002Ftest 数据集\n- 每次执行 [doccano.py](.\u002Fdoccano.py) 脚本，将会覆盖已有的同名数据文件\n- 在模型训练阶段我们推荐构造一些负例以提升模型效果，在数据转换阶段我们内置了这一功能。可通过`negative_ratio`控制自动构造的负样本比例；负样本数量 = negative_ratio * 正样本数量。\n- 对于从doccano导出的文件，默认文件中的每条数据都是经过人工正确标注的。\n\n更多**不同类型任务（关系抽取、事件抽取、评价观点抽取等）的标注规则及参数说明**，请参考[doccano数据标注指南](doccano.md)。\n\n此外，也可以通过数据标注平台 [Label Studio](https:\u002F\u002Flabelstud.io\u002F) 进行数据标注。本示例提供了 [labelstudio2doccano.py](.\u002Flabelstudio2doccano.py) 脚本，将 label studio 导出的 JSON 数据文件格式转换成 doccano 导出的数据文件格式，后续的数据转换与模型微调等操作不变。\n\n```shell\npython labelstudio2doccano.py --labelstudio_file label-studio.json\n```\n\n可配置参数说明：\n\n- ``labelstudio_file``: label studio 的导出文件路径（仅支持 JSON 格式）。\n- ``doccano_file``: doccano 格式的数据文件保存路径，默认为 \"doccano_ext.jsonl\"。\n- ``task_type``: 任务类型，可选有抽取（\"ext\"）和分类（\"cls\"）两种类型的任务，默认为 \"ext\"。\n\n\u003Ca name=\"模型微调\">\u003C\u002Fa>\n\n#### 4.3 模型微调\n\n通过运行以下命令进行模型微调：\n\n```shell\npython finetune.py \\\n    --train_path \".\u002Fdata\u002Ftrain.txt\" \\\n    --dev_path \".\u002Fdata\u002Fdev.txt\" \\\n    --save_dir \".\u002Fcheckpoint\" \\\n    --learning_rate 1e-5 \\\n    --batch_size 16 \\\n    --max_seq_len 512 \\\n    --num_epochs 100 \\\n    --model \"uie_base_pytorch\" \\\n    --seed 1000 \\\n    --logging_steps 10 \\\n    --valid_steps 100 \\\n    --device \"gpu\"\n```\n\n可配置参数说明：\n\n- `train_path`: 训练集文件路径。\n- `dev_path`: 验证集文件路径。\n- `save_dir`: 模型存储路径，默认为`.\u002Fcheckpoint`。\n- `learning_rate`: 学习率，默认为1e-5。\n- `batch_size`: 批处理大小，请结合机器情况进行调整，默认为16。\n- `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n- `num_epochs`: 训练轮数，默认为100。\n- `model`: 选择模型，程序会基于选择的模型进行模型微调，默认为`uie_base_pytorch`。\n- `seed`: 随机种子，默认为1000.\n- `logging_steps`: 日志打印的间隔steps数，默认10。\n- `valid_steps`: evaluate的间隔steps数，默认100。\n- `device`: 选用什么设备进行训练，可选cpu或gpu。\n- `max_model_num`: 保存的模型的个数，不包含`model_best`和`early_stopping`保存的模型，默认为5。\n- `early_stopping`: 是否采用提前停止（Early Stopping），默认 nicht verwendet.\n\n\u003Ca name=\"模型评估\">\u003C\u002Fa>\n\n#### 4.4 模型评估\n\n通过运行以下命令进行模型评估：\n\n```shell\npython evaluate.py \\\n    --model_path .\u002Fcheckpoint\u002Fmodel_best \\\n    --test_path .\u002Fdata\u002Fdev.txt \\\n    --batch_size 16 \\\n    --max_seq_len 512\n```\n\n评估方式说明：采用单阶段评价的方式，即关系抽取、事件抽取等需要分阶段预测的任务对每一阶段的预测结果进行分别评价。验证\u002F测试集默认会利用同一层级的所有标签来构造出全部负例。\n\n可开启`debug`模式对每个正例类别分别进行评估，该模式仅用于模型调试：\n\n```shell\npython evaluate.py \\\n    --model_path .\u002Fcheckpoint\u002Fmodel_best \\\n    --test_path .\u002Fdata\u002Fdev.txt \\\n    --debug\n```\n\n输出打印示例：\n\n```text\n[2022-09-14 03:13:58,877] [    INFO] - -----------------------------\n[2022-09-14 03:13:58,877] [    INFO] - Class Name: 疾病\n[2022-09-14 03:13:58,877] [    INFO] - Evaluation Precision: 0.89744 | Recall: 0.83333 | F1: 0.86420\n[2022-09-14 03:13:59,145] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,145] [    INFO] - Class Name: 手术治疗\n[2022-09-14 03:13:59,145] [    INFO] - Evaluation Precision: 0.90000 | Recall: 0.85714 | F1: 0.87805\n[2022-09-14 03:13:59,439] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,440] [    INFO] - Class Name: 检查\n[2022-09-14 03:13:59,440] [    INFO] - Evaluation Precision: 0.77778 | Recall: 0.56757 | F1: 0.65625\n[2022-09-14 03:13:59,708] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,709] [    INFO] - Class Name: X's手术治疗\n[2022-09-14 03:13:59,709] [    INFO] - Evaluation Precision: 0.90000 | Recall: 0.85714 | F1: 0.87805\n[2022-09-14 03:13:59,893] [    INFO] - -----------------------------\n[2022-09-14 03:13:59,894] [    INFO] - Class Name: X的实验室检查\n[2022-09-14 03:13:59,894] [    INFO] - Evaluation Precision: 0.71429 | Recall: 0.55556 | F1: 0.62500\n[2022-09-14 03:14:00,057] [    INFO] - -----------------------------\n[2022-09-14 03:14:00,058] [    INFO] - Class Name: X的影像学检查\n[2022-09-14 03:14:00,058] [    INFO] - Evaluation Precision: 0.69231 | Recall: 0.45000 | F1: 0.54545\n```\n\n可配置参数说明：\n\n- `model_path`: 进行评估的模型文件夹路径，路径下需包含模型权重文件`pytorch_model.bin`及配置文件`config.json`。\n- `test_path`: 进行评估的测试集文件。\n- `batch_size`: 批处理大小，请结合机器情况进行调整，默认为16。\n- `max_seq_len`: 文本最大切分长度，输入超过最大 length时会对 input text进行 automatic cut, default is 512.\n- `device`: 选用进行 training 的 equipment, can be cpu or gpu.\n\n\u003Ca name=\"定制模型一键预测\">\u003C\u002Fa>\n\n#### 4.5 定制模型一键预测\n\n`UIEPredictor`装载定制模型，通过`task_path`指定模型权重文件的路径，路径下需要包含训练好的模型权重文件`pytorch_model.bin`。\n\n```python\n>>> from pprint import pprint\n>>> from uie_predictor import UIEPredictor\n\n>>> schema = ['出发地', '目的地', '费用', '时间']\n\n# 设置抽取目标和定制化模型权重路径\n>>> my_ie = UIEPredictor(model='uie-base',task_path='.\u002Fcheckpoint\u002Fmodel_best', schema=schema)\n>>> pprint(my_ie(\"城市内交通费7月5日金额114广州至佛山\"))\n[{'出发地': [{'end': 17,\n           'probability': 0.9975287467835301,\n           'start': 15,\n           'text': '广州'}],\n  '时间': [{'end': 10,\n          'probability': 0.9999476678061399,\n          'start': 6,\n          'text': '7月5日'}],\n  '目的地': [{'end': 20,\n           'probability': 0.9998511131226735,\n           'start': 18,\n           'text': '佛山'}],\n  '费用': [{'end': 15,\n          'probability': 0.9994474579292856,\n          'start': 12,\n          'text': '114'}]}]\n```\n\n\u003Ca name=\"实验指标\">\u003C\u002Fa>\n\n#### 4.6 实验指标\n\n我们在互联网、医疗、金融三大垂类自建测试集上进行了实验：\n\n\u003Ctable>\n\u003Ctr>\u003Cth row_span='2'>\u003Cth colspan='2'>金融\u003Cth colspan='2'>医疗\u003Cth colspan='2'>互联网\n\u003Ctr>\u003Ctd>\u003Cth>0-shot\u003Cth>5-shot\u003Cth>0-shot\u003Cth>5-shot\u003Cth>0-shot\u003Cth>5-shot\n\u003Ctr>\u003Ctd>uie-base (12L768H)\u003Ctd>46.43\u003Ctd>70.92\u003Ctd>\u003Cb>71.83\u003C\u002Fb>\u003Ctd>85.72\u003Ctd>78.33\u003Ctd>81.86\n\u003Ctr>\u003Ctd>uie-medium (6L768H)\u003Ctd>41.11\u003Ctd>64.53\u003Ctd>65.40\u003Ctd>75.72\u003Ctd>78.32\u003Ctd>79.68\n\u003Ctr>\u003Ctd>uie-mini (6L384H)\u003Ctd>37.04\u003Ctd>64.65\u003Ctd>60.50\u003Ctd>78.36\u003Ctd>72.09\u003Ctd>76.38\n\u003Ctr>\u003Ctd>uie-micro (4L384H)\u003Ctd>37.53\u003Ctd>62.11\u003Ctd>57.04\u003Ctd>75.92\u003Ctd>66.00\u003Ctd>70.22\n\u003Ctr>\u003Ctd>uie-nano (4L312H)\u003Ctd>38.94\u003Ctd>66.83\u003Ctd>48.29\u003Ctd>76.74\u003Ctd>62.86\u003Ctd>72.35\n\u003Ctr>\u003Ctd>uie-m-large (24L1024H)\u003Ctd>\u003Cb>49.35\u003C\u002Fb>\u003Ctd>\u003Cb>74.55\u003C\u002Fb>\u003Ctd>70.50\u003Ctd>\u003Cb>92.66\u003C\u002Fb>\u003Ctd>\u003Cb>78.49\u003C\u002Fb>\u003Ctd>\u003Cb>83.02\u003C\u002Fb>\n\u003Ctr>\u003Ctd>uie-m-base (12L768H)\u003Ctd>38.46\u003Ctd>74.31\u003Ctd>63.37\u003Ctd>87.32\u003Ctd>76.27\u003Ctd>80.13\n\u003C\u002Ftable>\n\n0-shot表示无训练数据直接通过```UIEPredictor```进行预测，5-shot表示每个类别包含5条标注数据进行模型微调。**实验表明UIE在垂类场景可以通过少量数据（few-shot）进一步提升效果**。\n\n\u003Ca name=\"模型部署\">\u003C\u002Fa>\n\n#### 4.7 模型部署\n\n以下是UIE Python端的部署流程，包括环境准备、模型导出和使用示例。\n\n- 环境准备\n  UIE的部署分为CPU和GPU两种情况，请根据你的部署环境安装对应的依赖。\n\n  - CPU端\n\n    CPU端的部署请使用如下命令安装所需依赖\n\n    ```shell\n    pip install onnx onnxruntime\n    ```\n  - GPU端\n\n    为了在GPU上获得最佳的推理性能和稳定性，请先确保机器已正确安装NVIDIA相关驱动和基础软件，确保**CUDA >= 11.2，cuDNN >= 8.1.1**，并使用以下命令安装所需依赖\n\n    ```shell\n    pip install onnx onnxconverter_common onnxruntime-gpu\n    ```\n\n    如需使用半精度（FP16）部署，请确保GPU设备的CUDA计算能力 (CUDA Compute Capability) 大于7.0，典型的设备包括V100、T4、A10、A100、GTX 20系列和30系列显卡等。\n    更多关于CUDA Compute Capability和精度支持情况请参考NVIDIA文档：[GPU硬件与支持精度对照表](https:\u002F\u002Fdocs.nvidia.com\u002Fdeeplearning\u002Ftensorrt\u002Farchives\u002Ftensorrt-840-ea\u002Fsupport-matrix\u002Findex.html#hardware-precision-matrix)\n\n\n- 模型导出\n\n  将训练后的动态图参数导出为静态图参数：\n\n  ```shell\n  python export_model.py --model_path .\u002Fcheckpoint\u002Fmodel_best --output_path .\u002Fexport\n  ```\n\n  可配置参数说明：\n\n  - `model_path`: 动态图训练保存的参数路径，路径下包含模型参数文件`pytorch_model.bin`和模型配置文件`config.json`。\n  - `output_path`: 静态图参数导出路径，默认导出路径为`model_path`，即保存到输入模型同目录下。\n\n- 推理\n\n  - CPU端推理样例\n\n    在CPU端，请使用如下命令进行部署\n\n    ```shell\n    python uie_predictor.py --task_path .\u002Fexport --engine onnx --device cpu\n    ```\n\n    可配置参数说明：\n    - `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n    - `task_path`: 用于推理的ONNX模型文件所在文件夹。例如模型文件路径为`.\u002Fexport\u002Finference.onnx`，则传入`.\u002Fexport`。如果不设置，将自动下载`model`对应的模型。\n    - `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n    - `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n    - `engine`: 可选值为`pytorch`和`onnx`。推理使用的推理引擎。\n\n  - GPU端推理样例\n\n    在GPU端，请使用如下命令进行部署\n\n    ```shell\n    python uie_predictor.py --task_path .\u002Fexport --engine onnx --device gpu --use_fp16\n    ```\n\n    可配置参数说明：\n    - `model`：选择任务使用的模型，默认为`uie-base`，可选有`uie-base`, `uie-medium`, `uie-mini`, `uie-micro`, `uie-nano`和`uie-medical-base`, `uie-base-en`。\n    - `task_path`: 用于推理的ONNX模型文件所在文件夹。例如模型文件路径为`.\u002Fexport\u002Finference.onnx`，则传入`.\u002Fexport\u002Finference`。如果不设置，将自动下载`model`对应的模型。\n    - `use_fp16`: 是否使用FP16进行加速，默认关闭。\n    - `position_prob`：模型对于span的起始位置\u002F终止位置的结果概率0~1之间，返回结果去掉小于这个阈值的结果，默认为0.5，span的最终概率输出为起始位置概率和终止位置概率的乘积。\n    - `max_seq_len`: 文本最大切分长度，输入超过最大长度时会对输入文本进行自动切分，默认为512。\n    - `engine`: 可选值为`pytorch`和`onnx`。推理使用的推理引擎。","# uie_pytorch 快速上手指南\n\n## 1. 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux, macOS 或 Windows\n*   **Python 版本**: Python 3.7 - 3.10\n*   **深度学习框架**: PyTorch (建议 1.8.0 及以上版本)\n*   **可选加速组件**: 若需使用高性能分词算子（针对 UIE-M 系列模型），需安装 `faster_tokenizer`。\n\n## 2. 安装步骤\n\n### 2.1 安装基础依赖\n首先克隆项目代码并安装必要的 Python 依赖包：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FPaddlePaddle\u002FPaddleNLP.git\ncd PaddleNLP\u002Fapplications\u002Finformation_extraction\u002Fuie_pytorch\npip install -r requirements.txt\n```\n\n> **提示**：如果下载速度较慢，推荐使用国内镜像源加速安装：\n> ```bash\n> pip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n> ```\n\n### 2.2 安装高性能分词器（可选）\n如果您计划使用 `uie-m-base` 或 `uie-m-large` 等 UIE-M 系列模型，需要安装 C++ 实现的高性能分词库：\n\n```bash\npip install faster_tokenizer\n```\n\n## 3. 基本使用\n\nuie_pytorch 提供了开箱即用的预测能力，支持自动下载模型。您只需定义抽取目标（Schema），即可进行实体、关系、事件等多种信息的抽取。\n\n### 3.1 最简单的使用示例（实体抽取）\n\n以下示例演示如何无需训练，直接抽取文本中的“时间”、“选手”和“赛事名称”。\n\n```python\nfrom uie_predictor import UIEPredictor\nfrom pprint import pprint\n\n# 1. 定义抽取目标 Schema\nschema = ['时间', '选手', '赛事名称']\n\n# 2. 初始化预测器 (自动下载 uie-base 模型)\nie = UIEPredictor(model='uie-base', schema=schema)\n\n# 3. 执行抽取\ntext = \"2 月 8 日上午北京冬奥会自由式滑雪女子大跳台决赛中中国选手谷爱凌以 188.25 分获得金牌！\"\nresults = ie(text)\n\n# 4. 打印结果\npprint(results)\n```\n\n**输出示例：**\n```text\n[{'时间': [{'end': 6, 'probability': 0.9857, 'start': 0, 'text': '2 月 8 日上午'}],\n  '赛事名称': [{'end': 23, 'probability': 0.8503, 'start': 6, 'text': '北京冬奥会自由式滑雪女子大跳台决赛'}],\n  '选手': [{'end': 31, 'probability': 0.8981, 'start': 28, 'text': '谷爱凌'}]}]\n```\n\n### 3.2 切换抽取任务\n\n通过 `set_schema` 方法，同一个模型实例可以灵活切换到关系抽取或事件抽取任务，无需重新加载模型。\n\n**关系抽取示例：**\n```python\n# 定义关系抽取 Schema：以\"竞赛名称\"为主体，抽取其\"主办方\"\nschema_rel = {'竞赛名称': ['主办方']}\nie.set_schema(schema_rel)\n\ntext_rel = \"2022 语言与智能技术竞赛由中国中文信息学会和中国计算机学会联合主办。\"\npprint(ie(text_rel))\n```\n\n**事件抽取示例：**\n```python\n# 定义事件抽取 Schema：抽取\"地震\"事件的强度、时间等\nschema_event = {'地震触发词': ['地震强度', '时间', '震中位置']}\nie.set_schema(schema_event)\n\ntext_event = \"5 月 16 日 06 时 08 分在云南临沧市凤庆县发生 3.5 级地震，震源深度 10 千米。\"\npprint(ie(text_event))\n```\n\n### 3.3 常用模型选择\n\n在初始化 `UIEPredictor` 时，可通过 `model` 参数指定不同规模的模型：\n\n*   `uie-base`: 通用基准模型（默认）\n*   `uie-medium`: 中等规模模型（原 uie-tiny）\n*   `uie-mini`, `uie-micro`, `uie-nano`: 轻量级模型，适合资源受限场景\n*   `uie-medical-base`: 医疗领域专用模型\n*   `uie-base-en`: 英文通用模型\n*   `uie-m-base`, `uie-m-large`: 基于 ErnieM 的大规模模型（需安装 `faster_tokenizer`）\n\n例如使用医疗模型：\n```python\nie_med = UIEPredictor(model='uie-medical-base', schema=['疾病', '症状'])\n```","某金融科技公司风控团队需要从每日数千份非结构化的企业新闻舆情中，快速提取“涉事公司”、“风险类型”及“涉及金额”等关键要素，以构建实时预警系统。\n\n### 没有 uie_pytorch 时\n- **标注成本高昂**：面对不断涌现的新型风险事件（如“供应链断裂”、“高管失联”），每次新增抽取目标都需要人工标注数百条数据，耗时数周。\n- **模型迭代僵化**：传统 NER 模型固定了实体类别，一旦业务需求变更（如增加“处罚机构”字段），必须重新训练整个模型，开发周期长。\n- **技术栈迁移困难**：团队主流架构为 PyTorch，而原版 UIE 基于 PaddlePaddle，跨框架复用模型需要复杂的转换工作或重写代码，阻碍了新技术落地。\n- **冷启动效果差**：在缺乏历史标注数据的突发舆情场景中，旧模型无法进行零样本抽取，导致预警系统出现盲区。\n\n### 使用 uie_pytorch 后\n- **零样本快速响应**：利用 uie_pytorch 的自然语言 Schema 定义能力，仅需输入 `['涉事公司', '风险类型', '涉及金额']` 即可直接抽取，无需任何标注数据，新任务上线从周级缩短至分钟级。\n- **灵活定制抽取目标**：业务方随时调整关注点（如临时增加“监管文件号”），开发人员只需修改 Schema 列表，uie_pytorch 即可即时适配，无需重新训练模型。\n- **无缝融入现有架构**：作为原生 PyTorch 实现，uie_pytorch 可直接通过 `pip` 安装并集成到团队现有的 GPU 推理集群中，消除了跨框架部署的兼容性障碍。\n- **小样本微调增效**：针对特定金融术语，仅需少量标注数据配合 `finetune.py` 进行微调，即可显著提升抽取准确率，兼顾了通用性与专业性。\n\nuie_pytorch 通过统一框架和零样本能力，将非结构化文本转化为结构化数据的门槛降至最低，实现了风控情报处理的降本增效。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FHUSTAI_uie_pytorch_0c53137d.png","HUSTAI","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FHUSTAI_c4a24859.png","HUST Artificial Intelligence and Embedded Lab",null,"sheli@hust.edu.cn","https:\u002F\u002Fhustai.github.io\u002Fzh\u002F","https:\u002F\u002Fgithub.com\u002FHUSTAI",[83],{"name":84,"color":85,"percentage":86},"Python","#3572A5",100,686,121,"2026-03-24T12:23:25","Apache-2.0","","未说明",{"notes":94,"python":92,"dependencies":95},"README 中未明确列出具体的操作系统、GPU、内存及 Python 版本要求。该工具是将 PaddleNLP 的 UIE 模型迁移至 PyTorch 的版本。若需使用 ErnieM 系列模型的高性能分词，需额外安装 `faster_tokenizer`（依赖 C++ 实现）。支持自动下载多种预训练模型（如 uie-base, uie-m-large 等）。",[96,97,98],"torch","paddlenlp (可选，用于模型转换验证)","faster_tokenizer (可选，用于 ErnieMTokenizer 加速)",[26,13],[101,102,103,104],"information-extraction","pytorch","transformers","uie","2026-03-27T02:49:30.150509","2026-04-06T05:36:47.974704",[108,113,118,123,127,132],{"id":109,"question_zh":110,"answer_zh":111,"source_url":112},16587,"运行 evaluate.py 时报错 AttributeError: 'Namespace' object has no attribute 'max_seq_le' 怎么办？","这是代码中的拼写错误。在 evaluate.py 第 119 行，应将 `args.max_seq_le` 修改为 `args.max_seq_len`。修复该拼写错误后即可正常运行。","https:\u002F\u002Fgithub.com\u002FHUSTAI\u002Fuie_pytorch\u002Fissues\u002F13",{"id":114,"question_zh":115,"answer_zh":116,"source_url":117},16582,"关系抽取和事件抽取的微调数据格式是否一致？","是的，在该项目中关系抽取和事件抽取的数据格式是一致的。主要区别在于 relation 的映射关系：事件抽取中 entities 会包含 trigger word，relations 里通常以 trigger word 为 from_id，其余角色为 to_id；而关系抽取中 entities 可能没有 trigger word，relations 直接表示不同实体间的关系。","https:\u002F\u002Fgithub.com\u002FHUSTAI\u002Fuie_pytorch\u002Fissues\u002F34",{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},16583,"如何将 PaddlePaddle 版本的 UIE 模型转换为 PyTorch 版本？","可以使用项目中的 convert.py 脚本进行转换。命令格式为：`python convert.py -i path\u002Fto\u002Fyour\u002Fpaddle_model -o path\u002Fto\u002Foutput_model`。注意：目前代码通过字符串判断模型类型（如 'uie-m'），如果转换 uie-m 或其他变体模型失败，可能需要手动修改 convert.py 中的判断逻辑（参考第 436 行附近代码）。","https:\u002F\u002Fgithub.com\u002FHUSTAI\u002Fuie_pytorch\u002Fissues\u002F12",{"id":124,"question_zh":125,"answer_zh":126,"source_url":122},16584,"情感分类等其它 UIE 相关模型是否也可以转换？","是的，UIE 相关的其他任务模型（如情感分类）理论上也可以通过 convert.py 进行转换，只要其结构与标准 UIE 模型兼容。若遇到报错，需检查模型名称匹配逻辑或调整转换脚本。",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},16585,"在 ARM64 (aarch64) 架构下 Docker 部署后推理无结果或返回 502 错误怎么办？","在 ARM64 架构（如麒麟 v10）上动态图推理可能存在兼容性问题导致无响应或 502 错误。解决方案是改用静态图模型引擎 ONNX 进行部署。请参考项目文档中的“模型部署”章节（第 4.7 节）配置 ONNX 推理后端。","https:\u002F\u002Fgithub.com\u002FHUSTAI\u002Fuie_pytorch\u002Fissues\u002F32",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},16586,"执行 convert.py 时提示 ImportError: cannot import name 'ModelOutput' 如何解决？","该错误是由于 transformers 库版本不兼容导致的。请使用支持的版本：transformers 4.20.0 或 4.23.0 及以上版本可以正常工作，而 4.5.1 等旧版本不支持。建议升级 transformers：`pip install --upgrade transformers==4.23.0`。","https:\u002F\u002Fgithub.com\u002FHUSTAI\u002Fuie_pytorch\u002Fissues\u002F2",[]]