[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-FudanDISC--DISC-LawLLM":3,"tool-FudanDISC--DISC-LawLLM":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74939,"2026-04-05T23:16:38",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70626,"2026-04-05T22:51:36",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":79,"owner_website":81,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":10,"env_os":92,"env_gpu":93,"env_ram":94,"env_deps":95,"category_tags":103,"github_topics":104,"view_count":45,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":109,"updated_at":110,"faqs":111,"releases":152},945,"FudanDISC\u002FDISC-LawLLM","DISC-LawLLM","[中文法律大模型] DISC-LawLLM: an intelligent legal system powered by large language models (LLMs) to provide a wide range of legal services. ","DISC-LawLLM 是复旦大学数据智能与社会计算实验室开源的中文法律大模型，专注于为用户提供专业、智能的法律服务。它基于大语言模型技术，能够处理法律咨询、协议撰写、法条检索、司法考试辅助等多种法律场景需求。\n\n这款模型主要解决了通用大模型在法律领域专业性不足、法律知识储备有限、缺乏法律推理能力等问题。通过针对性的训练数据构建和检索增强技术，DISC-LawLLM 在法律文本理解、法理逻辑推理和司法知识应用方面表现突出，在权威法律评测基准 Lawbench 上的成绩仅次于 GPT-4，超越了 GPT-3.5 及其他法律专用模型。\n\nDISC-LawLLM 适合多类用户使用：普通民众可通过它获取基础法律咨询和文书帮助；法律从业者能借助其进行案例检索、合同审核等辅助工作；研究人员和开发者则可以基于开源的模型权重、训练数据集及评测基准，开展法律 AI 的进一步研究与二次开发。\n\n技术亮点方面，DISC-LawLLM 采用法律三段论推理理论设计指令数据，显著提升了法理推理能力；同时配备检索增强模块，确保回答能够准确引用法律依据。项目已开源 7B 和 13B 两个版本的模型权重，以及完整的 D","DISC-LawLLM 是复旦大学数据智能与社会计算实验室开源的中文法律大模型，专注于为用户提供专业、智能的法律服务。它基于大语言模型技术，能够处理法律咨询、协议撰写、法条检索、司法考试辅助等多种法律场景需求。\n\n这款模型主要解决了通用大模型在法律领域专业性不足、法律知识储备有限、缺乏法律推理能力等问题。通过针对性的训练数据构建和检索增强技术，DISC-LawLLM 在法律文本理解、法理逻辑推理和司法知识应用方面表现突出，在权威法律评测基准 Lawbench 上的成绩仅次于 GPT-4，超越了 GPT-3.5 及其他法律专用模型。\n\nDISC-LawLLM 适合多类用户使用：普通民众可通过它获取基础法律咨询和文书帮助；法律从业者能借助其进行案例检索、合同审核等辅助工作；研究人员和开发者则可以基于开源的模型权重、训练数据集及评测基准，开展法律 AI 的进一步研究与二次开发。\n\n技术亮点方面，DISC-LawLLM 采用法律三段论推理理论设计指令数据，显著提升了法理推理能力；同时配备检索增强模块，确保回答能够准确引用法律依据。项目已开源 7B 和 13B 两个版本的模型权重，以及完整的 DISC-Law-SFT 训练数据集和 DISC-Law-Eval 评测体系，为法律 AI 的学术研究和技术落地提供了扎实的基础资源。","\u003Cdiv align=\"center\">\n\nZH | [EN](.\u002FREADME-en.md)\n\n\u003Ch1>DISC-LawLLM\u003C\u002Fh1>\n  \n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-Huggingface%20Repo-green.svg)](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM)\n[![license](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fmodelscope\u002Fmodelscope.svg)](.\u002FLICENSE)\n\n[Demo](http:\u002F\u002Flaw.fudan-disc.com) | [技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.11325) | [论文](https:\u002F\u002Flink.springer.com\u002Fchapter\u002F10.1007\u002F978-981-97-5569-1_19)\n\n\u003C\u002Fdiv>\n\nDISC-LawLLM 是一个旨在为用户提供专业、智能、全面的**法律服务**的法律领域大模型，由[复旦大学数据智能与社会计算实验室 (Fudan-DISC)](http:\u002F\u002Ffudan-disc.com) 开发并开源。\n\n我们将在该项目中开源如下资源：\n* [DISC-Law-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)\n* [DISC-LawLLM-7B 模型权重](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B) \n* [DISC-LawLLM-13B 模型权重](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) \n* [DISC-Law-Eval Benchmark](.\u002Feval\u002F)\n\n您可以通过访问这个[链接](https:\u002F\u002Flaw.fudan-disc.com)来在线体验我们的 DISC-LawLLM。\n\n## 新闻\n**[2025\u002F05\u002F20]** 🎉 由于新版transformer不支持Baichun，我们在8卡A100上全量微调了基于Qwen2.5-instruct 7B的 [**LawLLM-7B**](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B)\n\n**[2024\u002F10\u002F15]** 🎉 我们开源了DISC-Law-SFT 数据集中的[法律问答部分](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)（DISC-Law-SFT-Pair-QA-released.jsonl和DISC-Law-SFT-Triplet-QA-released.jsonl）\n\n**[2024\u002F03\u002F15]** 🎉🥳✨我们的论文 “[LawLLM: Intelligent Legal System with Legal Reasoning and Verifiable Retrieval](https:\u002F\u002Flink.springer.com\u002Fchapter\u002F10.1007\u002F978-981-97-5569-1_19)” 被 DASFAA 2024 (**CCF-B**) 的 Research Track 录用为长文.✨\n\n**[2023\u002F12\u002F20]** 🎉 我们在最新的法律评测Benchmark [Lawbench](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FLawBench) 上的评测了DISC-LawLLM，[结果](#模型在lawbench上的测试结果)仅次于**GPT-4**，超出了**GPT3.5**和目前所有的法律大模型。\n\n**[2023\u002F11\u002F20]** 🎉 我们开源了 DISC-Law-Eval Benchmark 的评测代码，更多详情请在[此处](.\u002Feval\u002FREADME.md)查看。\n\n**[2023\u002F10\u002F19]** 我们开源了 DISC-Law-Eval Benchmark 中的[评测数据集](.\u002Feval\u002Fdatasets\u002F)（包括标准答案）。\n\n**[2023\u002F09\u002F26]** DISC-LawLLM v1.0 已正式发布，开源 [DISC-LawLLM-13B 模型](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) 和 [DISC-Law-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)。\n\n## 目录\n\n- [概述](#概述)\n- [推理和部署](#推理和部署)\n- [模型微调](#模型微调)\n- [DISC-Law-Eval Benchmark](#disc-law-eval-benchmark)\n- [致谢](#致谢)\n- [声明](#声明)\n- [引用](#引用)\n- [协议](#协议)\n\n## 概述\n\n![Image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_553944bd7fbe.png)\n\n\u003Cp>\u003C\u002Fp>\n\nDISC-LawLLM 是一个具有法律推理和知识检索能力的智能法律系统，它面向不同群体，能在不同应用场景下提供帮助，主要有以下几个特点：\n\n* **法律文本处理能力：** 针对法律语言的理解与生成能力，包括信息抽取、文本摘要等，我们基于现有的 NLP 司法任务公开数据和真实世界的法律相关文本进行了微调数据的构建。\n* **法律推理思维能力：** 针对智慧司法领域任务的需求，我们使用法律三段论这一法理推理理论设计了指令数据，有效地提高了模型的法理推理能力。\n* **司法领域知识遵循能力：** 我们为智能法律处理系统配备了检索增强的模块，增强了系统对于背景知识的的检索和遵循能力。\n\n除此之外，我们的研究过程还包括了如下贡献：\n\n* **高质量的训练数据集和普遍有效的训练范式**\n* **完备的法律模型测评框架和测评数据集**\n\n\n### 模型在Lawbench上的测试结果\nDISC-LawLLM在[Lawbench](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FLawBench)上的评测结果仅次于GPT-4，超出了目前所有的法律大模型。以下是DISC-LawLLM和其他模型在Lawbench上Zero-shot、One-shot的平均分数排序：\n#### Zero-shot 性能\n![lawbench1](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_880938b1a05a.png)\n#### One-shot 性能\n![lawbench2](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_cf6d4215fbb0.png)\n\n\n### 模型效果演示\n\n#### 法律咨询\n\n![consult_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_2467b0e27b32.gif)\n\n#### 协议撰写\n\n![document_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_e25faadfb039.gif)\n\n#### 司法专业工具\n\n![tool_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_bfe63a47646a.gif)\n\n#### 考试助手\n\n![exam_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_97fbc1b669d5.gif)\n\n#### 法条检索\n\n![law_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_233c4090aaf4.gif)\n\n#### 带检索的法律咨询\n\n![consult_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_3d08b6357f20.gif)\n\n### DISC-Law-SFT 数据集\n\n不同场景下的法律智能应用通常需要结合法律文本理解和生成的多种基本能力。为此，我们构建了一个高质量的监督微调数据集 DISC-Law-SFT，包括法律信息提取、判决预测、文档摘要和法律问题解答，确保覆盖不同司法应用场景。DISC-Law-SFT 包括两个子集，即 DISC-Law-SFT-Pair 和 DISC-Law-SFT-Triplet。前者旨在为 LLM 引入法律推理能力，后者则有助于提高模型利用外部知识的能力，具体的构建细节请参照我们的[技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.11325)。数据集的分布如下所示：\n\n\u003Cimg src=\"\" alt=\"\" width=\"\"\u002F>\n\n\u003Ctable>\n  \u003Ctr>\n    \u003Cth>数据集\u003C\u002Fth>\n    \u003Cth>对应任务\u002F来源\u003C\u002Fth>\n    \u003Cth>样本量\u003C\u002Fth>\n    \u003Cth>对应情境\u003C\u002Fth>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"10\">DISC-Law-SFT-Pair\u003C\u002Ftd>\n    \u003Ctd>司法要素提取\u003C\u002Ftd>\n    \u003Ctd>32K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"7\">法律专业人员助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法事件检测\u003C\u002Ftd>\n    \u003Ctd>27K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>案件分类\u003C\u002Ftd>\n    \u003Ctd>20K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>判决预测\u003C\u002Ftd>\n    \u003Ctd>11K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>类案匹配\u003C\u002Ftd>\n    \u003Ctd>8K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法摘要\u003C\u002Ftd>\n    \u003Ctd>9K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>舆情摘要\u003C\u002Ftd>\n    \u003Ctd>6K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律问答\u003C\u002Ftd>\n    \u003Ctd>93K\u003C\u002Ftd>\n    \u003Ctd>法律咨询服务\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法阅读理解\u003C\u002Ftd>\n    \u003Ctd>38K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">法律考试助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律考试\u003C\u002Ftd>\n    \u003Ctd>12K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"2\">DISC-Law-SFT-Triplet\u003C\u002Ftd>\n    \u003Ctd>判决预测\u003C\u002Ftd>\n    \u003Ctd>16K\u003C\u002Ftd>\n    \u003Ctd>法律专业人员助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律问答\u003C\u002Ftd>\n    \u003Ctd>23K\u003C\u002Ftd>\n    \u003Ctd>法律咨询服务\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"2\">General\u003C\u002Ftd>\n    \u003Ctd>Alpaca-GPT4\u003C\u002Ftd>\n    \u003Ctd>48K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">通用场景\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>Firefly\u003C\u002Ftd>\n    \u003Ctd>60K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>总计\u003C\u002Ftd>\n    \u003Ctd colspan=\"3\">403K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n我们总共发布了近30万条训练数据，其中包括 DISC-Law-SFT-Pair 和 DISC-Law-SFT-Triplet。您可以访问这个[链接](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)下载数据集。\n\n### 检索增强模块\n\n我们在 DISC-LawLLM 的基础上增加了一个基于开源检索框架 [Langchain-Chatchat](https:\u002F\u002Fgithub.com\u002Fchatchat-space\u002FLangchain-Chatchat) 的检索模块。我们的知识库目前包括法条库和法考题库。\n\n* 法条库包含 800 多部国家地方法律、条例和规定，其中包括《宪法》、《刑法》、《行政诉讼法》、《保险法》、《劳动法》、《著作权法》、《民法典》、《专利法》、《专属经济区和大陆架法》、《中国人民解放军选举全国人民代表大会和县级以上地方各级人民代表大会代表的办法》、《反分裂国家法》、《出境入境边防检查条例》、《国务院关于鼓励台湾同胞投资的规定》、《境内外国人宗教活动管理规定》等。\n* 法考题库包含 2.4 万道法律相关的考试题目。\n\n在未来，我们会增加更加丰富的知识库。我们还将进一步深入探索检索增强的 DISC-LawLLM，包括但不限于检索器与 LLM 的联合训练机制，各位有兴趣可以与我们一起交流。\n\n## 推理和部署\n### DISC-LawLLM 13B\n开源版本的 DISC-LawLLM 是基于 [Baichuan-13B-Base](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B) 进行微调训练得到的。您可以直接从 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) 上下载我们的模型权重，或者根据下面的代码样例自动获取。推理前请安装依赖：\n⚠️注意transformer版本使用**4.29.1**\n```\npip install -r requirements.txt\n```\n\n### Python\n\n```python\nimport torch\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation.utils import GenerationConfig\n\nmodel_path = \"ShengbinYue\u002FDISC-LawLLM\"\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path, torch_dtype=torch.float16, device_map=\"auto\", trust_remote_code=True\n)\nmodel.generation_config = GenerationConfig.from_pretrained(model_path)\ntokenizer = AutoTokenizer.from_pretrained(\n    model_path, use_fast=False, trust_remote_code=True,\n)\n\nmessages = [\n    {\"role\": \"user\", \"content\": \"生产销售假冒伪劣商品罪如何判刑？\"},\n]\nresponse = model.chat(tokenizer, messages)\n```\n\n#### 命令行工具\n\n```\npython cli_demo.py\n```\n\n#### 网页 Demo\n\n依靠 streamlit 工具运行以下命令，会在本地启动一个 web 服务，把控制台给出的地址输入浏览器即可访问：\n\n```\nstreamlit run web_demo.py --server.port 8888\n```\n\n此外，目前版本的 DISC-LawLLM 是以 Baichuan-13B 作为基座的，您可以参照 [Baichuan-13B](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B) 的介绍来进行 int8 或 int4 量化推理部署以及 CPU 部署。\n\n### DISC-LawLLM-7B\n由于DISC-LawLLM-13B模型基于baichuan基座训练，对新版本transformer和vllm不友好，我们推出了基于[Qwen2.5-instruct 7B](https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen2.5-7B-Instruct)全量微调的 **LawLLM-7B**，其推理速度更快，方便开发人员使用。\n在这里我们提供基于VLLM的推理方法，详细可以参考[huggface页面](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B)。\n```\npip install vllm\n```\n推理代码如下\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom vllm import LLM, SamplingParams\n\nmodel_name ='ShengbinYue\u002FLawLLM-7B'\n\nsampling_params = SamplingParams(\n    temperature=0.1,\n    top_p=0.9,\n    top_k=50,\n    max_tokens=4096\n)\nllm = LLM(model=model_name)\n\ntokenizer = AutoTokenizer.from_pretrained(model_name)\nprompt =  \"生产销售假冒伪劣商品罪如何判刑？\"\n\nmessages = [\n    {\"role\": \"system\", \"content\": \"你是LawLLM，一个由复旦大学DISC实验室创造的法律助手。\"},\n    {\"role\": \"user\", \"content\": prompt}\n]\ntext = tokenizer.apply_chat_template(\n    messages,\n    tokenize=False,\n    add_generation_prompt=True\n)\n\noutputs = llm.generate([text], sampling_params)\nfor output in outputs:\n    prompt = output.prompt\n    generated_text = output.outputs[0].text\n    print(f\"Prompt: {prompt!r}, Generated text: {generated_text!r}\")\n```\n\n\n## 模型微调\n\n开发者可以对 DISC-LawLLM 13B 或 7B 进行微调使用。在此可以参照与 DISC-LawLLM 兼容的微调工具 [LLaMA Factory](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory)。\n\n- 首先，下载[LLaMA Factory](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory)。\n- 按其要求[安装依赖](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory?tab=readme-ov-file#getting-started)。\n- 按照要求，将数据处理成对应格式，参考[Data](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory\u002Ftree\u002Fmain\u002Fdata)。\n- 开始训练\n\n我们给出**全量**和 **LoRA** 两种微调示例。\n### 全量微调\n\n我们在 8 * Nvidia A100 80 GB 的环境下进行了全量微调测试。使用 [lawllm_full_sft.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_full_sft.yaml)，训练启动脚本示例如下：\n\n```\nllamafactory-cli train lawllm_full_sft.yaml\n```\n\n\n### LoRA 微调\n\n我们在 4 * Nvidia A100 80G 显卡上进行了 LoRA 微调测试。使用 [lawllm_lora_sft.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_lora_sft.yaml)，训练启动脚本示例如下：\n\n```\nllamafactory-cli train lawllm_lora_sft.yaml\n```\n使用 [lawllm_merge_lora.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_merge_lora.yaml)，lora 合并脚本如下：\n```\nllamafactory-cli export lawllm_merge_lora.yaml\n```\n\n## DISC-Law-Eval-Benchmark\n\n受司法考试构成的启发，我们开发了一个公平的评估框架 —— DISC-Law-Eval Benchmark，从客观和主观两个角度对法律大语言模型的性能进行评估，以考察模型在中国法律领域的性能。您可以点击在[这里](.\u002Feval\u002FREADME.md)查看 DISC-Law-Eval Benchmark 的更多详情。我们还开发了名为 [ml3m](https:\u002F\u002Fgithub.com\u002FCharlie-XIAO\u002Fml3m) 的 Python 套件，取自 **M**ultilevel **L**egal **LLM**。您可以在[这里](https:\u002F\u002Fcharlie-xiao.github.io\u002F)查看其技术文档。\n\n### 客观评测\n\n为了客观、定量地评估智能法律系统的法律知识和推理能力，客观的评价数据集由一系列中国法律标准化考试和知识竞赛的单项和多项选择题组成，并根据内容复杂性和演绎难度，将问题分为困难、中等和简单三个层次。它可以提供一个更具挑战性和可靠的方法来衡量模型是否可以利用其知识来推理正确的答案。我们通过一系列[正则表达式](.\u002Feval\u002Fsrc\u002Feval.py#L5)来匹配模型回复中所选择的选项，并将其与标准答案比对，最终通过计算模型回答争取的题目的百分比来衡量模型的客观题答题性能。你可以在[这里](.\u002Feval\u002Fdatasets\u002Fobjective\u002F)查看我们的客观评测集。数据集具体构成如下：\n\n\u003Ctable>\n  \u003Ctr>\n    \u003Cth>科目\u003C\u002Fth>\n    \u003Cth>难度等级\u003C\u002Fth>\n    \u003Cth>单选题数量\u003C\u002Fth>\n    \u003Cth>多选题数量\u003C\u002Fth>\n    \u003Cth>总数\u003C\u002Fth>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>NJE：国家统一法律职业资格考试\u003C\u002Ftd>\n    \u003Ctd rowspan=\"3\">困难\u003C\u002Ftd>\n    \u003Ctd>537\u003C\u002Ftd>\n    \u003Ctd>463\u003C\u002Ftd>\n    \u003Ctd>1000\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>PAE：专利代理人考试\u003C\u002Ftd>\n    \u003Ctd>118\u003C\u002Ftd>\n    \u003Ctd>276\u003C\u002Ftd>\n    \u003Ctd>394\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>CPA：注册会计师资格考试\u003C\u002Ftd>\n    \u003Ctd>197\u003C\u002Ftd>\n    \u003Ctd>120\u003C\u002Ftd>\n    \u003Ctd>317\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>UNGEE：法学专硕全国统考试题\u003C\u002Ftd>\n    \u003Ctd>中等\u003C\u002Ftd>\n    \u003Ctd>320\u003C\u002Ftd>\n    \u003Ctd>87\u003C\u002Ftd>\n    \u003Ctd>407\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>LBK：法律基础知识题库\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">简单\u003C\u002Ftd>\n    \u003Ctd>275\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>275\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>PFE：事业编、公务员考试法律试题\u003C\u002Ftd>\n    \u003Ctd>170\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>170\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### 主观评测\n\n在主观评测部分，我们采用问答题形式进行评估，模拟主观考试问题的过程。我们从法律咨询、在线论坛、与司法相关的出版物和法律文件中手工构建了一个高质量的测试集。我们用 GPT-3.5 Turbo 作为裁判模型来评估模型的输出，并基于标准答案用准确性、完整性和清晰度这三个标准提供 1-5 的评分。详见 [ml3m 文档](https:\u002F\u002Fcharlie-xiao.github.io\u002Fml3m\u002Fmodules\u002Fml3m.qa.html#ml3m.qa.QaOpenAIEvaluator)。\n\n主观题数据集从来源于法律咨询、网上发帖、司法相关出版物和法律文书中手动构建的一个高质量的测试集，其中包括 300 个示例，涵盖了法律知识问答、法律咨询和判决预测等场景。你可以在[这里](.\u002Feval\u002Fdatasets\u002Fsubjective\u002F)查看我们的主观评测集。\n\n### 评测结果\n\n客观题评测采用 few-shot 方式，结果（%）如下：\n\n|        模型        |  NJE 单选   |  NJE 多选   |  PAE 单选   |  PAE 多选   |  CPA 单选   |  CPA 多选   | UNGEE 单选  | UNGEE 多选  |  PFE 单选   |  LBK 单选   |   平均   |\n|:----------------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|\n|     ChatGLM      |   31.66   |   1.08    |   27.97   |   2.90    |   37.06   |   13.33   |   39.69   |   20.69   |   37.65   |   42.91   |   24.66   |\n|  Baichuan-Chat   |   31.47   |   10.15   |   29.66   |   8.70    |   35.53   |   19.17   |   50.00   |   27.59   |   53.12   |   53.45   |   30.78   |\n| Chinese-Alpaca-2 |   25.70   |   10.15   |   30.51   |   11.59   |   32.99   |   19.17   |   40.94   |   21.84   |   44.12   |   43.27   |   26.73   |\n|  GPT-3.5-turbo   |   36.50   |   10.58   |   37.29   |   17.03   | **42.13** | **21.67** | **51.25** | **28.74** |   53.53   |   54.18   |   34.10   |\n|     LexiLaw      |   20.11   |   7.56    |   23.73   |   10.14   |   24.87   |   19.17   |   31.56   |   16.09   |   31.76   |   40.36   |   21.50   |\n|      LawGPT      |   22.91   |   6.26    |   31.36   |   7.61    |   25.38   |   16.67   |   30.31   |   13.79   |   34.71   |   29.09   |   20.60   |\n|   Lawyer LLaMa   |   35.75   |   5.62    |   32.20   |   6.52    |   29.95   |   13.33   |   32.50   |   14.94   |   39.41   |   39.64   |   25.05   |\n|     ChatLaw      |   27.56   |   7.99    |   31.36   |   9.42    |   35.53   |   11.67   |   35.62   |   17.24   |   42.35   |   41.09   |   25.20   |\n|   DISC-LawLLM    | **42.09** | **19.87** | **40.68** | **18.48** |   39.59   |   19.17   |   50.94   |   25.29   | **57.06** | **54.91** | **37.10** |\n\n主观题评测分数为 1-5，结果如下：\n\n|        模型        | 准确性  | 完整性  | 清晰性  |  平均  |\n|:----------------:|:----:|:----:|:----:|:----:|\n|     ChatGLM      | 2.64 | 2.75 | 3.23 | 2.87 |\n|  Baichuan-Chat   | 3.22 | **3.34** | 3.18 | 3.25 |\n| Chinese-Alpaca-2 | 3.13 | 3.23 | 3.17 | 3.17 |\n|     LexiLaw      | 3.06 | 2.62 | 3.00 | 2.90 |\n|      LawGPT      | 3.02 | 2.58 | 2.96 | 2.86 |\n|   Lawyer LLaMa   | 3.13 | 2.83 | 3.35 | 3.10 |\n|     ChatLaw      | 3.31 | 2.90 | 3.35 | 3.19 |\n|   DISC-LawLLM    | **3.46** | 3.12 | **3.59** | **3.39** |\n\n## 致谢\n\n本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：\n\n- [**Baichuan-13B**](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)\n- [**Langchain-Chatchat**](https:\u002F\u002Fgithub.com\u002Fchatchat-space\u002FLangchain-Chatchat)\n- [**LLaMA Efficient Tuning**](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning)\n- [**FireFly**](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly)\n\n同样感谢其他限于篇幅未能列举的为本项目提供了重要帮助的工作。\n\n## 声明\n\nDISC-LawLLM 有着目前大语言模型尚无法克服的问题和缺陷，尽管它能够在许多任务和情境上提供法律服务，但模型应当仅供用户参考使用，并不能替代专业律师和法律专家，我们希望 DISC-LawLLM 的用户以批判性的眼光去评估模型。我们不对因使用 DISC-LawLLM 所引发的任何问题、风险或不良后果承担责任。\n\n## 引用\n\n如果我们的项目对您的研究和工作有帮助，请如下引用我们的项目：\n\n```\n@misc{yue2023disclawllm,\n    title={DISC-LawLLM: Fine-tuning Large Language Models for Intelligent Legal Services}, \n    author={Shengbin Yue and Wei Chen and Siyuan Wang and Bingxuan Li and Chenchen Shen and Shujun Liu and Yuxuan Zhou and Yao Xiao and Song Yun and Xuanjing Huang and Zhongyu Wei},\n    year={2023},\n    eprint={2309.11325},\n    archivePrefix={arXiv},\n    primaryClass={cs.CL}\n}\n\n@inproceedings{yue2024lawllm,\n  title={LawLLM: Intelligent Legal System with Legal Reasoning and Verifiable Retrieval},\n  author={Yue, Shengbin and Liu, Shujun and Zhou, Yuxuan and Shen, Chenchen and Wang, Siyuan and Xiao, Yao and Li, Bingxuan and Song, Yun and Shen, Xiaoyu and Chen, Wei and others},\n  booktitle={International Conference on Database Systems for Advanced Applications},\n  pages={304--321},\n  year={2024},\n  organization={Springer}\n}\n```\n\n## 协议\n\nDISC-LawLLM 可在 Apache 许可证下使用。请查看 [LICENSE](.\u002FLICENSE) 文件获取更多信息。\n\n## Star History\n\n\u003Cpicture>\n    \u003Csource media=\"(prefers-color-scheme: dark)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png&theme=dark\" \u002F>\n    \u003Csource media=\"(prefers-color-scheme: light)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png\" \u002F>\n    \u003Cimg alt=\"Star History Chart\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png\" \u002F>\n\u003C\u002Fpicture>\n","\u003Cdiv align=\"center\">\n\n[EN](.\u002FREADME-en.md) | 中文\n\n\u003Ch1>DISC-LawLLM\u003C\u002Fh1>\n  \n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-Huggingface%20Repo-green.svg)](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM)\n[![license](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fmodelscope\u002Fmodelscope.svg)](.\u002FLICENSE)\n\n[Demo](http:\u002F\u002Flaw.fudan-disc.com) | [技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.11325) | [论文](https:\u002F\u002Flink.springer.com\u002Fchapter\u002F10.1007\u002F978-981-97-5569-1_19)\n\n\u003C\u002Fdiv>\n\nDISC-LawLLM 是一个旨在为用户提供专业、智能、全面的**法律服务**的法律领域大模型，由[复旦大学数据智能与社会计算实验室 (Fudan-DISC)](http:\u002F\u002Ffudan-disc.com) 开发并开源。\n\n我们将在该项目中开源如下资源：\n* [DISC-Law-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)\n* [DISC-LawLLM-7B 模型权重](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B) \n* [DISC-LawLLM-13B 模型权重](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) \n* [DISC-Law-Eval Benchmark](.\u002Feval\u002F)\n\n您可以通过访问这个[链接](https:\u002F\u002Flaw.fudan-disc.com)来在线体验我们的 DISC-LawLLM。\n\n## 新闻\n**[2025\u002F05\u002F20]** 🎉 由于新版 transformer 不支持 Baichuan，我们在 8 卡 A100 上全量微调了基于 Qwen2.5-instruct 7B 的 [**LawLLM-7B**](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B)\n\n**[2024\u002F10\u002F15]** 🎉 我们开源了 DISC-Law-SFT 数据集中的[法律问答部分](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)（DISC-Law-SFT-Pair-QA-released.jsonl 和 DISC-Law-SFT-Triplet-QA-released.jsonl）\n\n**[2024\u002F03\u002F15]** 🎉🥳✨我们的论文 \"[LawLLM: Intelligent Legal System with Legal Reasoning and Verifiable Retrieval](https:\u002F\u002Flink.springer.com\u002Fchapter\u002F10.1007\u002F978-981-97-5569-1_19)\" 被 DASFAA 2024 (**CCF-B**) 的 Research Track 录用为长文.✨\n\n**[2023\u002F12\u002F20]** 🎉 我们在最新的法律评测 Benchmark [Lawbench](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FLawBench) 上评测了 DISC-LawLLM，[结果](#模型在lawbench上的测试结果)仅次于 **GPT-4**，超出了 **GPT-3.5** 和目前所有的法律大模型。\n\n**[2023\u002F11\u002F20]** 🎉 我们开源了 DISC-Law-Eval Benchmark 的评测代码，更多详情请在[此处](.\u002Feval\u002FREADME.md)查看。\n\n**[2023\u002F10\u002F19]** 我们开源了 DISC-Law-Eval Benchmark 中的[评测数据集](.\u002Feval\u002Fdatasets\u002F)（包括标准答案）。\n\n**[2023\u002F09\u002F26]** DISC-LawLLM v1.0 已正式发布，开源 [DISC-LawLLM-13B 模型](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) 和 [DISC-Law-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)。\n\n## 目录\n\n- [概述](#概述)\n- [推理和部署](#推理和部署)\n- [模型微调](#模型微调)\n- [DISC-Law-Eval Benchmark](#disc-law-eval-benchmark)\n- [致谢](#致谢)\n- [声明](#声明)\n- [引用](#引用)\n- [协议](#协议)\n\n## 概述\n\n![Image](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_553944bd7fbe.png)\n\n\u003Cp>\u003C\u002Fp>\n\nDISC-LawLLM 是一个具有法律推理和知识检索能力的智能法律系统，它面向不同群体，能在不同应用场景下提供帮助，主要有以下几个特点：\n\n* **法律文本处理能力：** 针对法律语言的理解与生成能力，包括信息抽取、文本摘要等，我们基于现有的 NLP 司法任务公开数据和真实世界的法律相关文本进行了微调数据的构建。\n* **法律推理思维能力：** 针对智慧司法领域任务的需求，我们使用法律三段论这一法理推理理论设计了指令数据，有效地提高了模型的法理推理能力。\n* **司法领域知识遵循能力：** 我们为智能法律处理系统配备了检索增强的模块，增强了系统对于背景知识的检索和遵循能力。\n\n除此之外，我们的研究过程还包括了如下贡献：\n\n* **高质量的训练数据集和普遍有效的训练范式**\n* **完备的法律模型测评框架和测评数据集**\n\n\n### 模型在 Lawbench 上的测试结果\nDISC-LawLLM 在 [Lawbench](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FLawBench) 上的评测结果仅次于 GPT-4，超出了目前所有的法律大模型。以下是 DISC-LawLLM 和其他模型在 Lawbench 上 Zero-shot、One-shot 的平均分数排序：\n#### Zero-shot 性能\n![lawbench1](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_880938b1a05a.png)\n#### One-shot 性能\n![lawbench2](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_cf6d4215fbb0.png)\n\n\n### 模型效果演示\n\n#### 法律咨询\n\n![consult_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_2467b0e27b32.gif)\n\n#### 协议撰写\n\n![document_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_e25faadfb039.gif)\n\n#### 司法专业工具\n\n![tool_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_bfe63a47646a.gif)\n\n#### 考试助手\n\n![exam_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_97fbc1b669d5.gif)\n\n#### 法条检索\n\n![law_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_233c4090aaf4.gif)\n\n#### 带检索的法律咨询\n\n![consult_ref_demo](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_3d08b6357f20.gif)\n\n### DISC-Law-SFT 数据集\n\n不同场景下的法律智能应用通常需要结合法律文本理解和生成的多种基本能力。为此，我们构建了一个高质量的监督微调（Supervised Fine-Tuning, SFT）数据集 DISC-Law-SFT，包括法律信息提取、判决预测、文档摘要和法律问题解答，确保覆盖不同司法应用场景。DISC-Law-SFT 包括两个子集，即 DISC-Law-SFT-Pair 和 DISC-Law-SFT-Triplet。前者旨在为 LLM（Large Language Model，大语言模型）引入法律推理能力，后者则有助于提高模型利用外部知识的能力，具体的构建细节请参照我们的[技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2309.11325)。数据集的分布如下所示：\n\n\u003Cimg src=\"\" alt=\"\" width=\"\"\u002F>\n\n\u003Ctable>\n  \u003Ctr>\n    \u003Cth>数据集\u003C\u002Fth>\n    \u003Cth>对应任务\u002F来源\u003C\u002Fth>\n    \u003Cth>样本量\u003C\u002Fth>\n    \u003Cth>对应情境\u003C\u002Fth>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"10\">DISC-Law-SFT-Pair\u003C\u002Ftd>\n    \u003Ctd>司法要素提取\u003C\u002Ftd>\n    \u003Ctd>32K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"7\">法律专业人员助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法事件检测\u003C\u002Ftd>\n    \u003Ctd>27K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>案件分类\u003C\u002Ftd>\n    \u003Ctd>20K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>判决预测\u003C\u002Ftd>\n    \u003Ctd>11K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>类案匹配\u003C\u002Ftd>\n    \u003Ctd>8K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法摘要\u003C\u002Ftd>\n    \u003Ctd>9K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>舆情摘要\u003C\u002Ftd>\n    \u003Ctd>6K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律问答\u003C\u002Ftd>\n    \u003Ctd>93K\u003C\u002Ftd>\n    \u003Ctd>法律咨询服务\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>司法阅读理解\u003C\u002Ftd>\n    \u003Ctd>38K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">法律考试助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律考试\u003C\u002Ftd>\n    \u003Ctd>12K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"2\">DISC-Law-SFT-Triplet\u003C\u002Ftd>\n    \u003Ctd>判决预测\u003C\u002Ftd>\n    \u003Ctd>16K\u003C\u002Ftd>\n    \u003Ctd>法律专业人员助手\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>法律问答\u003C\u002Ftd>\n    \u003Ctd>23K\u003C\u002Ftd>\n    \u003Ctd>法律咨询服务\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd rowspan=\"2\">General\u003C\u002Ftd>\n    \u003Ctd>Alpaca-GPT4\u003C\u002Ftd>\n    \u003Ctd>48K\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">通用场景\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>Firefly\u003C\u002Ftd>\n    \u003Ctd>60K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>总计\u003C\u002Ftd>\n    \u003Ctd colspan=\"3\">403K\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n我们总共发布了近 30 万条训练数据，其中包括 DISC-Law-SFT-Pair 和 DISC-Law-SFT-Triplet。您可以访问这个[链接](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT)下载数据集。\n\n### 检索增强模块\n\n我们在 DISC-LawLLM 的基础上增加了一个基于开源检索框架 [Langchain-Chatchat](https:\u002F\u002Fgithub.com\u002Fchatchat-space\u002FLangchain-Chatchat) 的检索模块。我们的知识库目前包括法条库和法考题库。\n\n* 法条库包含 800 多部国家地方法律、条例和规定，其中包括《宪法》、《刑法》、《行政诉讼法》、《保险法》、《劳动法》、《著作权法》、《民法典》、《专利法》、《专属经济区和大陆架法》、《中国人民解放军选举全国人民代表大会和县级以上地方各级人民代表大会代表的办法》、《反分裂国家法》、《出境入境边防检查条例》、《国务院关于鼓励台湾同胞投资的规定》、《境内外国人宗教活动管理规定》等。\n* 法考题库包含 2.4 万道法律相关的考试题目。\n\n在未来，我们会增加更加丰富的知识库。我们还将进一步深入探索检索增强的 DISC-LawLLM，包括但不限于检索器与 LLM 的联合训练机制，各位有兴趣可以与我们一起交流。\n\n## 推理和部署\n### DISC-LawLLM 13B\n开源版本的 DISC-LawLLM 是基于 [Baichuan-13B-Base](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B) 进行微调训练得到的。您可以直接从 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) 上下载我们的模型权重，或者根据下面的代码样例自动获取。推理前请安装依赖：\n⚠️注意 transformer 版本使用 **4.29.1**\n```\npip install -r requirements.txt\n```\n\n### Python\n\n```python\nimport torch\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation.utils import GenerationConfig\n\nmodel_path = \"ShengbinYue\u002FDISC-LawLLM\"\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path, torch_dtype=torch.float16, device_map=\"auto\", trust_remote_code=True\n)\nmodel.generation_config = GenerationConfig.from_pretrained(model_path)\ntokenizer = AutoTokenizer.from_pretrained(\n    model_path, use_fast=False, trust_remote_code=True,\n)\n\nmessages = [\n    {\"role\": \"user\", \"content\": \"生产销售假冒伪劣商品罪如何判刑？\"},\n]\nresponse = model.chat(tokenizer, messages)\n```\n\n#### 命令行工具\n\n```\npython cli_demo.py\n```\n\n#### 网页 Demo\n\n依靠 streamlit 工具运行以下命令，会在本地启动一个 web 服务，把控制台给出的地址输入浏览器即可访问：\n\n```\nstreamlit run web_demo.py --server.port 8888\n```\n\n此外，目前版本的 DISC-LawLLM 是以 Baichuan-13B 作为基座的，您可以参照 [Baichuan-13B](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B) 的介绍来进行 int8 或 int4 量化推理部署以及 CPU 部署。\n\n### DISC-LawLLM-7B\n由于 DISC-LawLLM-13B 模型基于 Baichuan 基座训练，对新版本 transformer 和 vLLM 不友好，我们推出了基于 [Qwen2.5-instruct 7B](https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen2.5-7B-Instruct) 全量微调的 **LawLLM-7B**，其推理速度更快，方便开发人员使用。\n在这里我们提供基于 vLLM 的推理方法，详细可以参考 [Hugging Face 页面](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B)。\n```\npip install vllm\n```\n推理代码如下\n```python\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom vllm import LLM, SamplingParams\n\nmodel_name ='ShengbinYue\u002FLawLLM-7B'\n\nsampling_params = SamplingParams(\n    temperature=0.1,\n    top_p=0.9,\n    top_k=50,\n    max_tokens=4096\n)\nllm = LLM(model=model_name)\n\ntokenizer = AutoTokenizer.from_pretrained(model_name)\nprompt =  \"生产销售假冒伪劣商品罪如何判刑？\"\n\nmessages = [\n    {\"role\": \"system\", \"content\": \"你是LawLLM，一个由复旦大学DISC实验室创造的法律助手。\"},\n    {\"role\": \"user\", \"content\": prompt}\n]\ntext = tokenizer.apply_chat_template(\n    messages,\n    tokenize=False,\n    add_generation_prompt=True\n)\n\noutputs = llm.generate([text], sampling_params)\nfor output in outputs:\n    prompt = output.prompt\n    generated_text = output.outputs[0].text\n    print(f\"Prompt: {prompt!r}, Generated text: {generated_text!r}\")\n```\n\n\n## 模型微调\n\n开发者可以对 DISC-LawLLM 13B 或 7B 进行微调使用。在此可以参照与 DISC-LawLLM 兼容的微调工具 [LLaMA-Factory](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory)。\n\n- 首先，下载 [LLaMA-Factory](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory)。\n- 按其要求[安装依赖](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory?tab=readme-ov-file#getting-started)。\n- 按照要求，将数据处理成对应格式，参考 [Data](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Factory\u002Ftree\u002Fmain\u002Fdata)。\n- 开始训练\n\n我们给出**全量**和 **LoRA（Low-Rank Adaptation，低秩适配）** 两种微调示例。\n### 全量微调\n\n我们在 8 * Nvidia A100 80 GB 的环境下进行了全量微调测试。使用 [lawllm_full_sft.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_full_sft.yaml)，训练启动脚本示例如下：\n\n```\nllamafactory-cli train lawllm_full_sft.yaml\n```\n\n\n### LoRA 微调\n\n我们在 4 * Nvidia A100 80G 显卡上进行了 LoRA 微调测试。使用 [lawllm_lora_sft.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_lora_sft.yaml)，训练启动脚本示例如下：\n\n```\nllamafactory-cli train lawllm_lora_sft.yaml\n```\n使用 [lawllm_merge_lora.yaml](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fblob\u002Fmain\u002Flawllm_merge_lora.yaml)，LoRA 合并脚本如下：\n```\nllamafactory-cli export lawllm_merge_lora.yaml\n```\n\n## DISC-Law-Eval-Benchmark\n\n受司法考试构成的启发，我们开发了一个公平的评估框架 —— DISC-Law-Eval Benchmark，从客观和主观两个角度对法律大语言模型的性能进行评估，以考察模型在中国法律领域的性能。您可以点击[这里](.\u002Feval\u002FREADME.md)查看 DISC-Law-Eval Benchmark 的更多详情。我们还开发了名为 [ml3m](https:\u002F\u002Fgithub.com\u002FCharlie-XIAO\u002Fml3m) 的 Python 套件，取自 **M**ultilevel **L**egal **LLM**。您可以在[这里](https:\u002F\u002Fcharlie-xiao.github.io\u002F)查看其技术文档。\n\n### 客观评测\n\n为了客观、定量地评估智能法律系统的法律知识和推理能力，客观的评价数据集由一系列中国法律标准化考试和知识竞赛的单项和多项选择题组成，并根据内容复杂性和演绎难度，将问题分为困难、中等和简单三个层次。它可以提供一个更具挑战性和可靠的方法来衡量模型是否可以利用其知识来推理正确的答案。我们通过一系列[正则表达式](.\u002Feval\u002Fsrc\u002Feval.py#L5)来匹配模型回复中所选择的选项，并将其与标准答案比对，最终通过计算模型回答正确的题目的百分比来衡量模型的客观题答题性能。你可以在[这里](.\u002Feval\u002Fdatasets\u002Fobjective\u002F)查看我们的客观评测集。数据集具体构成如下：\n\n\u003Ctable>\n  \u003Ctr>\n    \u003Cth>科目\u003C\u002Fth>\n    \u003Cth>难度等级\u003C\u002Fth>\n    \u003Cth>单选题数量\u003C\u002Fth>\n    \u003Cth>多选题数量\u003C\u002Fth>\n    \u003Cth>总数\u003C\u002Fth>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>NJE：国家统一法律职业资格考试\u003C\u002Ftd>\n    \u003Ctd rowspan=\"3\">困难\u003C\u002Ftd>\n    \u003Ctd>537\u003C\u002Ftd>\n    \u003Ctd>463\u003C\u002Ftd>\n    \u003Ctd>1000\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>PAE：专利代理人考试\u003C\u002Ftd>\n    \u003Ctd>118\u003C\u002Ftd>\n    \u003Ctd>276\u003C\u002Ftd>\n    \u003Ctd>394\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>CPA：注册会计师资格考试\u003C\u002Ftd>\n    \u003Ctd>197\u003C\u002Ftd>\n    \u003Ctd>120\u003C\u002Ftd>\n    \u003Ctd>317\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>UNGEE：法学专硕全国统考试题\u003C\u002Ftd>\n    \u003Ctd>中等\u003C\u002Ftd>\n    \u003Ctd>320\u003C\u002Ftd>\n    \u003Ctd>87\u003C\u002Ftd>\n    \u003Ctd>407\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>LBK：法律基础知识题库\u003C\u002Ftd>\n    \u003Ctd rowspan=\"2\">简单\u003C\u002Ftd>\n    \u003Ctd>275\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>275\u003C\u002Ftd>\n  \u003C\u002Ftr>\n  \u003Ctr>\n    \u003Ctd>PFE：事业编、公务员考试法律试题\u003C\u002Ftd>\n    \u003Ctd>170\u003C\u002Ftd>\n    \u003Ctd>-\u003C\u002Ftd>\n    \u003Ctd>170\u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n### 主观评测\n\n在主观评测部分，我们采用问答题形式进行评估，模拟主观考试问题的过程。我们从法律咨询、在线论坛、与司法相关的出版物和法律文件中手工构建了一个高质量的测试集。我们用 GPT-3.5 Turbo 作为裁判模型来评估模型的输出，并基于标准答案用准确性、完整性和清晰度这三个标准提供 1-5 的评分。详见 [ml3m 文档](https:\u002F\u002Fcharlie-xiao.github.io\u002Fml3m\u002Fmodules\u002Fml3m.qa.html#ml3m.qa.QaOpenAIEvaluator)。\n\n主观题数据集从来源于法律咨询、网上发帖、司法相关出版物和法律文书中手动构建的一个高质量的测试集，其中包括 300 个示例，涵盖了法律知识问答、法律咨询和判决预测等场景。你可以在[这里](.\u002Feval\u002Fdatasets\u002Fsubjective\u002F)查看我们的主观评测集。\n\n### 评测结果\n\n客观题评测采用 few-shot 方式，结果（%）如下：\n\n|        模型        |  NJE 单选   |  NJE 多选   |  PAE 单选   |  PAE 多选   |  CPA 单选   |  CPA 多选   | UNGEE 单选  | UNGEE 多选  |  PFE 单选   |  LBK 单选   |   平均   |\n|:----------------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|:---------:|\n|     ChatGLM      |   31.66   |   1.08    |   27.97   |   2.90    |   37.06   |   13.33   |   39.69   |   20.69   |   37.65   |   42.91   |   24.66   |\n|  Baichuan-Chat   |   31.47   |   10.15   |   29.66   |   8.70    |   35.53   |   19.17   |   50.00   |   27.59   |   53.12   |   53.45   |   30.78   |\n| Chinese-Alpaca-2 |   25.70   |   10.15   |   30.51   |   11.59   |   32.99   |   19.17   |   40.94   |   21.84   |   44.12   |   43.27   |   26.73   |\n|  GPT-3.5-turbo   |   36.50   |   10.58   |   37.29   |   17.03   | **42.13** | **21.67** | **51.25** | **28.74** |   53.53   |   54.18   |   34.10   |\n|     LexiLaw      |   20.11   |   7.56    |   23.73   |   10.14   |   24.87   |   19.17   |   31.56   |   16.09   |   31.76   |   40.36   |   21.50   |\n|      LawGPT      |   22.91   |   6.26    |   31.36   |   7.61    |   25.38   |   16.67   |   30.31   |   13.79   |   34.71   |   29.09   |   20.60   |\n|   Lawyer LLaMa   |   35.75   |   5.62    |   32.20   |   6.52    |   29.95   |   13.33   |   32.50   |   14.94   |   39.41   |   39.64   |   25.05   |\n|     ChatLaw      |   27.56   |   7.99    |   31.36   |   9.42    |   35.53   |   11.67   |   35.62   |   17.24   |   42.35   |   41.09   |   25.20   |\n|   DISC-LawLLM    | **42.09** | **19.87** | **40.68** | **18.48** |   39.59   |   19.17   |   50.94   |   25.29   | **57.06** | **54.91** | **37.10** |\n\n主观题评测分数为 1-5，结果如下：\n\n|        模型        | 准确性  | 完整性  | 清晰性  |  平均  |\n|:----------------:|:----:|:----:|:----:|:----:|\n|     ChatGLM      | 2.64 | 2.75 | 3.23 | 2.87 |\n|  Baichuan-Chat   | 3.22 | **3.34** | 3.18 | 3.25 |\n| Chinese-Alpaca-2 | 3.13 | 3.23 | 3.17 | 3.17 |\n|     LexiLaw      | 3.06 | 2.62 | 3.00 | 2.90 |\n|      LawGPT      | 3.02 | 2.58 | 2.96 | 2.86 |\n|   Lawyer LLaMa   | 3.13 | 2.83 | 3.35 | 3.10 |\n|     ChatLaw      | 3.31 | 2.90 | 3.35 | 3.19 |\n|   DISC-LawLLM    | **3.46** | 3.12 | **3.59** | **3.39** |\n\n## 致谢\n\n本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：\n\n- [**Baichuan-13B**](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)\n- [**Langchain-Chatchat**](https:\u002F\u002Fgithub.com\u002Fchatchat-space\u002FLangchain-Chatchat)\n- [**LLaMA Efficient Tuning**](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning)\n- [**FireFly**](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly)\n\n同样感谢其他限于篇幅未能列举的为本项目提供了重要帮助的工作。\n\n## 声明\n\nDISC-LawLLM 有着目前大语言模型尚无法克服的问题和缺陷，尽管它能够在许多任务和情境上提供法律服务，但模型应当仅供用户参考使用，并不能替代专业律师和法律专家，我们希望 DISC-LawLLM 的用户以批判性的眼光去评估模型。我们不对因使用 DISC-LawLLM 所引发的任何问题、风险或不良后果承担责任。\n\n## 引用\n\n如果我们的项目对您的研究和工作有帮助，请如下引用我们的项目：\n\n```\n@misc{yue2023disclawllm,\n    title={DISC-LawLLM: Fine-tuning Large Language Models for Intelligent Legal Services}, \n    author={Shengbin Yue and Wei Chen and Siyuan Wang and Bingxuan Li and Chenchen Shen and Shujun Liu and Yuxuan Zhou and Yao Xiao and Song Yun and Xuanjing Huang and Zhongyu Wei},\n    year={2023},\n    eprint={2309.11325},\n    archivePrefix={arXiv},\n    primaryClass={cs.CL}\n}\n\n@inproceedings{yue2024lawllm,\n  title={LawLLM: Intelligent Legal System with Legal Reasoning and Verifiable Retrieval},\n  author={Yue, Shengbin and Liu, Shujun and Zhou, Yuxuan and Shen, Chenchen and Wang, Siyuan and Xiao, Yao and Li, Bingxuan and Song, Yun and Shen, Xiaoyu and Chen, Wei and others},\n  booktitle={International Conference on Database Systems for Advanced Applications},\n  pages={304--321},\n  year={2024},\n  organization={Springer}\n}\n```\n\n## 协议\n\nDISC-LawLLM 可在 Apache 许可证（Apache License）下使用。请查看 [LICENSE](.\u002FLICENSE) 文件获取更多信息。\n\n## Star History\n\n\u003Cpicture>\n    \u003Csource media=\"(prefers-color-scheme: dark)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png&theme=dark\" \u002F>\n    \u003Csource media=\"(prefers-color-scheme: light)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png\" \u002F>\n    \u003Cimg alt=\"Star History Chart\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_readme_deb81dfaf039.png\" \u002F>\n\u003C\u002Fpicture>","# DISC-LawLLM 快速上手指南\n\n## 环境准备\n\n### 系统要求\n- **GPU**: NVIDIA GPU，显存 ≥ 24GB（13B 模型）或 ≥ 16GB（7B 模型）\n- **Python**: 3.8+\n- **CUDA**: 11.7+\n\n### 前置依赖\n```bash\n# 创建虚拟环境（推荐）\nconda create -n lawllm python=3.10\nconda activate lawllm\n```\n\n## 安装步骤\n\n### 方式一：使用 7B 模型（推荐，兼容性好）\n\n```bash\n# 安装 vLLM 加速推理\npip install vllm transformers -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 方式二：使用 13B 模型（原版）\n\n```bash\n# 克隆仓库\ngit clone https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM.git\ncd DISC-LawLLM\n\n# 安装依赖（注意：transformers 必须指定 4.29.1）\npip install transformers==4.29.1 -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n## 基本使用\n\n### 7B 模型快速推理（vLLM 加速）\n\n```python\nfrom transformers import AutoTokenizer\nfrom vllm import LLM, SamplingParams\n\nmodel_name = 'ShengbinYue\u002FLawLLM-7B'\n\n# 配置采样参数\nsampling_params = SamplingParams(\n    temperature=0.1,\n    top_p=0.9,\n    top_k=50,\n    max_tokens=4096\n)\n\n# 加载模型（自动下载）\nllm = LLM(model=model_name)\ntokenizer = AutoTokenizer.from_pretrained(model_name)\n\n# 构建对话\nprompt = \"生产销售假冒伪劣商品罪如何判刑？\"\nmessages = [\n    {\"role\": \"system\", \"content\": \"你是LawLLM，一个由复旦大学DISC实验室创造的法律助手。\"},\n    {\"role\": \"user\", \"content\": prompt}\n]\n\n# 应用对话模板\ntext = tokenizer.apply_chat_template(\n    messages,\n    tokenize=False,\n    add_generation_prompt=True\n)\n\n# 生成回复\noutputs = llm.generate([text], sampling_params)\nprint(outputs[0].outputs[0].text)\n```\n\n### 13B 模型推理\n\n```python\nimport torch\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation.utils import GenerationConfig\n\nmodel_path = \"ShengbinYue\u002FDISC-LawLLM\"\n\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path,\n    torch_dtype=torch.float16,\n    device_map=\"auto\",\n    trust_remote_code=True\n)\nmodel.generation_config = GenerationConfig.from_pretrained(model_path)\n\ntokenizer = AutoTokenizer.from_pretrained(\n    model_path,\n    use_fast=False,\n    trust_remote_code=True\n)\n\n# 单轮对话\nmessages = [{\"role\": \"user\", \"content\": \"生产销售假冒伪劣商品罪如何判刑？\"}]\nresponse = model.chat(tokenizer, messages)\nprint(response)\n```\n\n### 启动网页 Demo（13B）\n\n```bash\nstreamlit run web_demo.py --server.port 8888\n```\n\n访问控制台输出的本地地址即可使用。\n\n---\n\n## 模型下载（国内加速）\n\n| 资源 | HuggingFace | 国内镜像 |\n|:---|:---|:---|\n| LawLLM-7B | [ShengbinYue\u002FLawLLM-7B](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FLawLLM-7B) | 通过 `modelscope` 或 `hf-mirror.com` |\n| DISC-LawLLM-13B | [ShengbinYue\u002FDISC-LawLLM](https:\u002F\u002Fhuggingface.co\u002FShengbinYue\u002FDISC-LawLLM) | 同上 |\n| 训练数据集 | [DISC-Law-SFT](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FShengbinYue\u002FDISC-Law-SFT) | 同上 |\n\n**设置镜像加速**：\n```bash\nexport HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com\n```\n\n## 在线体验\n\n无需部署，直接访问：[http:\u002F\u002Flaw.fudan-disc.com](http:\u002F\u002Flaw.fudan-disc.com)","某二线城市基层法律援助中心，王律师每天需要接待15-20位前来咨询劳动纠纷、婚姻财产分割等常见法律问题的务工人员，同时要在48小时内完成3-5份起诉状或调解协议的起草。\n\n### 没有 DISC-LawLLM 时\n\n- 面对农民工关于\"工地受伤没签合同怎么索赔\"的咨询，王律师需要手动翻阅《工伤保险条例》《劳动合同法》相关条款，再结合自身经验组织语言，单次咨询耗时40分钟以上\n- 起草一份离婚财产分割协议时，常因遗漏\"夫妻共同债务认定\"或\"股权分割特殊条款\"等细节，导致当事人反复修改2-3次才能定稿\n- 遇到涉及最新司法解释的问题（如2024年彩礼返还新规），需要临时检索北大法宝等数据库，现场等待检索结果让当事人干等，体验极差\n- 每周累计花费6-8小时在重复性法律检索和文书模板整理上，挤压了复杂案件的研究时间\n\n### 使用 DISC-LawLLM 后\n\n- 输入\"未签劳动合同的农民工在工地摔伤，包工头拒赔\"案情描述，DISC-LawLLM 自动援引《工伤保险条例》第14条、第62条，并以\"法律三段论\"结构给出\"确认事实劳动关系→申请工伤认定→劳动仲裁\"的完整维权路径，单次咨询压缩至15分钟\n- 调用协议撰写功能，输入财产类型和分割意向后，系统自动生成包含债务隔离条款、股权评估机制的标准化协议，一次通过率提升至90%\n- 开启检索增强模式询问彩礼问题，DISC-LawLLM 实时关联《民法典婚姻家庭编解释（一）》第5条及2024年最高法典型案例，3秒内给出带依据的答复\n- 将节省的6小时\u002F周投入疑难案件研究，月度办案量提升30%的同时，当事人满意度评分从3.8升至4.6\n\nDISC-LawLLM 通过法律推理能力与检索增强的深度融合，让基层法律服务从\"经验驱动\"转向\"知识+智能双驱动\"，真正实现专业法律资源的普惠化。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-LawLLM_880938b1.png","FudanDISC","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FFudanDISC_b90c866e.jpg","Fudan University Data Intelligence and Social Computing (DISC) Lab",null,"disclab@fudan.edu.cn","http:\u002F\u002Ffudan-disc.com\u002F","https:\u002F\u002Fgithub.com\u002FFudanDISC",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,893,90,"2026-04-04T17:38:50","Apache-2.0","Linux","必需 NVIDIA GPU，全量微调需 8×A100 80GB，LoRA 微调需 4×A100 80GB，推理支持 INT8\u002FINT4 量化及 CPU 部署","未说明",{"notes":96,"python":94,"dependencies":97},"DISC-LawLLM-13B 基于 Baichuan-13B 基座，必须使用 transformers 4.29.1 版本，新版 transformer 不支持 Baichuan；DISC-LawLLM-7B 基于 Qwen2.5-instruct 7B，支持 vLLM 推理，兼容性更好。微调需使用 LLaMA-Factory 工具，支持全量微调和 LoRA 微调两种方式。",[98,99,100,101,102],"torch","transformers==4.29.1","vllm","streamlit","accelerate",[15],[105,106,107,108],"domain-llm","legal-intelligence","legal-llm","nlp","2026-03-27T02:49:30.150509","2026-04-06T08:52:29.786709",[112,117,122,127,132,137,142,147],{"id":113,"question_zh":114,"answer_zh":115,"source_url":116},4164,"检索模块使用什么Embedding模型？","检索模块目前仅为实验性功能，团队暂未公开具体的Embedding模型实现细节和评估结果。但从实验观察来看，该功能确实能带来直接的性能提升。如需了解更多技术细节，建议关注后续更新。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F7",{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},4165,"在线Demo无法访问怎么办？","在线Demo服务可能会因服务器维护而暂时不可用。如遇到访问问题，可以：1）稍后重试；2）检查网络连接；3）关注项目更新获取维护状态。维护完成后服务会恢复正常，API调用速度也会恢复。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F42",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},4166,"LoRA微调后模型没有效果怎么办？","微调效果不明显可能是训练数据量不足。建议至少准备数百条高质量训练样本，而非仅使用少量测试数据。同时检查：1）学习率设置（可尝试1e-5）；2）训练轮数（num_train_epochs）；3）LoRA参数（lora_rank=8, lora_target=W_pack）；4）确保使用正确的template（baichuan2）。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F24",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},4167,"如何确保知识扩展（Knowledge Expansion）中ChatGPT生成内容的正确性？","团队采取以下措施减少幻觉：1）始终提供正确答案作为基准，而非仅给问题；2）查找相关法律条款作为附加材料，避免模型编造法律依据；3）使用三段论法则（法律条款+案件事实→结论）引导ChatGPT的推理过程；4）对QA数据以专业律师回答为基准，人工筛选高质量样本。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F19",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},4168,"评估数据集是否会公开？","评估数据集（含答案）和评估脚本将会发布，支持本地评估而无需上传结果。与C-Eval仅公开题目不同，DISC-Law-Eval将提供完整答案，方便用户自行验证模型性能。发布时间需遵循团队计划安排。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F13",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},4169,"问答训练集是如何构建的？","构建流程：1）收集开源法律数据集（通常只有问答）；2）使用GPT-3.5 Turbo精炼数据。三种核心方法：\n- 行为塑造（Behavior Shaping）：采用法律三段论（法条+事实→结论）引导输出\n- 知识扩展（Knowledge Expansion）：对选择题提供正确选项，让模型生成完整推理过程\n- 思维发展（Thinking Development）：通过给定正确答案和参考资料，避免模型产生幻觉","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F10",{"id":143,"question_zh":144,"answer_zh":145,"source_url":146},4170,"DISC-Law-SFT-Pair中各类数据的作用是什么？","各类数据用于培养模型不同能力：文件摘要（jud_doc_sum）、阅读理解（jud_read_compre）、案件分类（leg_case_cls）、要素抽取（leg_ele_extra）、事件检测（leg_eve_detec）、舆情摘要（op_sum）、司法考试（exam）、判决预测（sent_pred）、类案匹配（sim_case_match）。数据比例可能并非最优，建议根据实际需求通过试错调整。DISC-Law-SFT-Triplet的设计目的详见技术报告。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F20",{"id":148,"question_zh":149,"answer_zh":150,"source_url":151},4171,"运行Web Demo时出现连接错误（OSError）如何解决？","该错误通常与Hugging Face模型下载或网络连接有关。解决方案：1）检查网络连接，确保能访问Hugging Face；2）尝试重新下载模型；3）检查模型文件是否完整；4）如使用本地模型，确认路径配置正确。具体错误需根据完整报错信息进一步排查。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-LawLLM\u002Fissues\u002F21",[]]