[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-FudanDISC--DISC-MedLLM":3,"tool-FudanDISC--DISC-MedLLM":65},[4,17,27,35,48,57],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",148568,2,"2026-04-09T23:34:24",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,3,"2026-04-06T11:19:32",[15,26,14,13],"图像",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":10,"last_commit_at":33,"category_tags":34,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":10,"last_commit_at":41,"category_tags":42,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",85052,"2026-04-08T11:03:08",[26,43,44,45,14,46,15,13,47],"数据工具","视频","插件","其他","音频",{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":54,"last_commit_at":55,"category_tags":56,"status":16},5784,"funNLP","fighting41love\u002FfunNLP","funNLP 是一个专为中文自然语言处理（NLP）打造的超级资源库，被誉为\"NLP 民工的乐园”。它并非单一的软件工具，而是一个汇集了海量开源项目、数据集、预训练模型和实用代码的综合性平台。\n\n面对中文 NLP 领域资源分散、入门门槛高以及特定场景数据匮乏的痛点，funNLP 提供了“一站式”解决方案。这里不仅涵盖了分词、命名实体识别、情感分析、文本摘要等基础任务的标准工具，还独特地收录了丰富的垂直领域资源，如法律、医疗、金融行业的专用词库与数据集，甚至包含古诗词生成、歌词创作等趣味应用。其核心亮点在于极高的全面性与实用性，从基础的字典词典到前沿的 BERT、GPT-2 模型代码，再到高质量的标注数据和竞赛方案，应有尽有。\n\n无论是刚刚踏入 NLP 领域的学生、需要快速验证想法的算法工程师，还是从事人工智能研究的学者，都能在这里找到急需的“武器弹药”。对于开发者而言，它能大幅减少寻找数据和复现模型的时间；对于研究者，它提供了丰富的基准测试资源和前沿技术参考。funNLP 以开放共享的精神，极大地降低了中文自然语言处理的开发与研究成本，是中文 AI 社区不可或缺的宝藏仓库。",79857,1,"2026-04-08T20:11:31",[15,43,46],{"id":58,"name":59,"github_repo":60,"description_zh":61,"stars":62,"difficulty_score":23,"last_commit_at":63,"category_tags":64,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[14,26,13,15,46],{"id":66,"github_repo":67,"name":68,"description_en":69,"description_zh":70,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":79,"owner_website":81,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":23,"env_os":92,"env_gpu":93,"env_ram":92,"env_deps":94,"category_tags":101,"github_topics":79,"view_count":10,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":102,"updated_at":103,"faqs":104,"releases":135},6105,"FudanDISC\u002FDISC-MedLLM","DISC-MedLLM","Repository of DISC-MedLLM, it is a comprehensive solution that leverages Large Language Models (LLMs) to provide accurate and truthful medical response in end-to-end conversational healthcare services.","DISC-MedLLM 是由复旦大学数据智能与社会计算实验室研发的医疗领域大语言模型，专为端到端的医疗健康对话服务而设计。它旨在解决通用大模型在医疗场景中容易产生幻觉、缺乏专业深度以及难以模拟真实医患沟通习惯的痛点，能够提供准确、可信且符合人类偏好的疾病问诊与治疗方案咨询服务。\n\n这款工具非常适合医疗 AI 开发者、研究人员进行二次开发与学术探索，同时也适用于需要高质量医疗问答能力的普通用户或医疗机构。DISC-MedLLM 的独特之处在于其创新的数据构建策略：它不仅利用医学知识图谱注入丰富的专业知识，还基于真实医患对话记录重构了多轮问询场景，确保模型具备连贯的追问能力。此外，项目特别引入了“人在回路”机制，通过人工筛选构建行为偏好数据集，有效弥合了机器回答过于简练与患者期望获得详尽背景支持之间的差距，使回复更加自然、贴心且具备人文关怀。无论是作为研究基座还是实际应用，DISC-MedLLM 都为智慧医疗提供了坚实的技术支撑。","# DISC-MedLLM\r\n\r\n\u003Cdiv align=\"center\">\r\n  \r\n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-Huggingface%20Repo-green.svg)](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM)\r\n[![license](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fmodelscope\u002Fmodelscope.svg)](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDICS-MedLLM\u002Fblob\u002Fmain\u002FLICENSE)\r\n\u003Cbr>\r\n\u003C\u002Fdiv>\r\n\u003Cdiv align=\"center\">\r\n\r\n[Demo](http:\u002F\u002Fmed.fudan-disc.com) | [技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.14346)\r\n\u003Cbr>\r\n中文 | [EN](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fblob\u002Fmain\u002FREADME_EN.md)\r\n\u003C\u002Fdiv>\r\n  \r\nDISC-MedLLM 是一个专门针对医疗健康对话式场景而设计的医疗领域大模型，由[复旦大学数据智能与社会计算实验室 (Fudan-DISC)](http:\u002F\u002Ffudan-disc.com) 开发并开源。\r\n\r\n该项目包含下列开源资源:\r\n* [DISC-Med-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FFlmc\u002FDISC-Med-SFT) (不包括行为偏好训练数据)\r\n* DISC-MedLLM 的[模型权重](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM)\r\n\r\n您可以通过访问这个[链接](http:\u002F\u002Fmed.fudan-disc.com)来试用我们的模型。\r\n\r\n## 概述\r\n\r\nDISC-MedLLM 是一个专为医疗健康对话场景而打造的领域大模型，它可以满足您的各种医疗保健需求，包括疾病问诊和治疗方案咨询等，为您提供高质量的健康支持服务。\r\n\r\nDISC-MedLLM 有效地对齐了医疗场景下的人类偏好，弥合了通用语言模型输出与真实世界医疗对话之间的差距，这一点在实验结果中有所体现。\r\n\r\n得益于我们以目标为导向的策略，以及基于真实医患对话数据和知识图谱，引入LLM in the loop 和 Human in the loop的多元数据构造机制，DISC-MedLLM 有以下几个特点：\r\n\r\n* **可靠丰富的专业知识**，我们以医学知识图谱作为信息源，通过采样三元组，并使用通用大模型的语言能力进行对话样本的构造。\r\n* **多轮对话的问询能力**，我们以真实咨询对话纪录作为信息源，使用大模型进行对话重建，构建过程中要求模型完全对齐对话中的医学信息。\r\n* **对齐人类偏好的回复**，病人希望在咨询的过程中获得更丰富的支撑信息和背景知识，但人类医生的回答往往简练；我们通过人工筛选，构建符合人类偏好的高质量的小规模行为微调样本，对齐病人的需求。\r\n\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_544c788eb2e7.png\" alt=\"data-construction\" width=\"85%\"\u002F>\r\n\r\n## 模型效果演示\r\n### 疾病问诊\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_efa4a2d950ac.gif\" alt=\"sample1\" width=\"60%\"\u002F>\r\n\r\n### 治疗方案咨询\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_897f90785576.gif\" alt=\"sample2\" width=\"60%\"\u002F>\r\n\r\n## 数据集\r\n\r\n为了训练 DISC-MedLLM ，我们构建了一个高质量的数据集，命名为 DISC-Med-SFT，其中包含了超过47万个衍生于现有的医疗数据集重新构建得到的样本。我们采用了目标导向的策略，通过对于精心选择的几个数据源进行重构来得到SFT数据集。这些数据的作用在于帮助模型学习医疗领域知识，将行为模式与人类偏好对齐，并对齐真实世界在线医疗对话的分布情况。\r\n\r\n\u003C!-- \u003Cstyle type=\"text\u002Fcss\">\r\n.tg  {border-collapse:collapse;border-spacing:0;}\r\n.tg td{border-color:black;border-style:solid;border-width:1px;font-family:Arial, sans-serif;font-size:14px;\r\n  overflow:hidden;padding:10px 5px;word-break:normal;}\r\n.tg th{border-color:black;border-style:solid;border-width:1px;font-family:Arial, sans-serif;font-size:14px;\r\n  font-weight:normal;overflow:hidden;padding:10px 5px;word-break:normal;}\r\n.tg .tg-9wq8{border-color:inherit;text-align:center;vertical-align:middle}\r\n.tg .tg-c3ow{border-color:inherit;text-align:center;vertical-align:top}\r\n\u003C\u002Fstyle> -->\r\n\u003Ctable class=\"tg\" style=\"undefined;table-layout: fixed; width: 442px\">\r\n\u003Ccolgroup>\r\n\u003Ccol style=\"width: 204.428571px\">\r\n\u003Ccol style=\"width: 135.428571px\">\r\n\u003Ccol style=\"width: 102.428571px\">\r\n\u003C\u002Fcolgroup>\r\n\u003Cthead>\r\n  \u003Ctr>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>数据集\u003C\u002Fth>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>数据来源\u003C\u002Fth>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>样本量\u003C\u002Fth>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n  \u003C\u002Ftr>\r\n\u003C\u002Fthead>\r\n\u003Ctbody>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\" rowspan=\"2\">重构AI医患对话\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">MedDialog\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">400k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\">cMedQA2\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">20k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">知识图谱问答对\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">CMeKG\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">50k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">行为偏好数据集\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">人为筛选\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">2k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\" rowspan=\"3\">其他\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">MedMCQA\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">8k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">MOSS-SFT\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">33k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">Alpaca-GPT4-zh\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">1k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n\u003C\u002Ftbody>\r\n\u003C\u002Ftable>\r\n\r\n\r\n\u003Cbr>\r\n\r\n\r\n### 下载\r\n\r\n我们总共发布了近47万条训练数据，其中包括重构AI医患对话和知识图谱问答对。您可以访问这个[链接](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FFlmc\u002FDISC-Med-SFT)下载数据集。\r\n\r\n\u003Cbr>\r\n\r\n\r\n## 部署\r\n\r\n当前版本的 DISC-MedLLM 是基于[Baichuan-13B-Base](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)训练得到的。您可以直接从 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM) 上下载我们的模型权重，或者根据下列代码样例中的方式自动获取。\r\n\r\n首先，您需要安装项目的依赖环境。\r\n```shell\r\npip install -r requirements.txt\r\n```\r\n\r\n### 利用Hugging Face的transformers模块来进行推理\r\n```python\r\n>>> import torch\r\n>>> from transformers import AutoModelForCausalLM, AutoTokenizer\r\n>>> from transformers.generation.utils import GenerationConfig\r\n>>> tokenizer = AutoTokenizer.from_pretrained(\"Flmc\u002FDISC-MedLLM\", use_fast=False, trust_remote_code=True)\r\n>>> model = AutoModelForCausalLM.from_pretrained(\"Flmc\u002FDISC-MedLLM\", device_map=\"auto\", torch_dtype=torch.float16, trust_remote_code=True)\r\n>>> model.generation_config = GenerationConfig.from_pretrained(\"Flmc\u002FDISC-MedLLM\")\r\n>>> messages = []\r\n>>> messages.append({\"role\": \"user\", \"content\": \"我感觉自己颈椎非常不舒服，每天睡醒都会头痛\"})\r\n>>> response = model.chat(tokenizer, messages)\r\n>>> print(response)\r\n```\r\n\r\n### 运行命令行Demo\r\n```shell\r\npython cli_demo.py\r\n```\r\n### 运行网页版Demo\r\n```shell\r\nstreamlit run web_demo.py --server.port 8888\r\n```\r\n\r\n此外，由于目前版本的 DISC-MedLLM 是以 Baichuan-13B 作为基座的，您可以参考 [Baichuan-13B 项目](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)的介绍来进行 int8 或 int4 量化推理部署。然而需要注意的是，使用模型量化可能会导致性能的下降。\r\n\u003Cbr>\r\n\r\n## 对模型进行微调\r\n您可以使用与我们的数据集结构相同的数据对我们的模型进行微调。我们的训练代码在 [Firefly](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly) 的基础上进行了修改，使用了不同的数据结构和对话格式。这里我们只提供全参数微调的代码：\r\n```shell\r\ndeepspeed --num_gpus={num_gpus} .\u002Ftrain\u002Ftrain.py --train_args_file .\u002Ftrain\u002Ftrain_args\u002Fsft.json\r\n```\r\n> 请您在开始进行模型训练前检查 `sft.json` 中的设置。\r\n\r\n\u003Cbr>如果您想使用其他训练代码来微调我们的模型，请使用如下对话格式。\r\n```shell\r\n\u003C\\b>\u003C$user_token>content\u003C$assistant_token>content\u003C\\s>\u003C$user_token>content ...\r\n```\r\n我们使用的 `user_token` 和 `assistant_token` 分别为 `195` and `196`，这和 Baichuan-13B-Chat 是相同的。\r\n\r\n## 模型评测\r\n\u003C!-- We compare our model with three general-purpose LLMs and two conversational Chinese medical domain LLMs. Specifically, these are GPT-3.5 and GPT-4 from OpenAI, the aligned conversational version of our backbone model Baichuan-13B-Base, Baichuan-13B-Chat, and the open-source Chinese conversational medical model HuatuoGPT-13B (trained from Ziya-Llama-13B) and BianQue-2. Our evaluation approach encompasses two key dimensions: an assessment of conversational aptitude using GPT-4 as a reference judge, and a comprehensive benchmark evaluation. -->\r\n\r\n我们从两个角度评估了模型的性能，包括在单轮QA问题中提供准确答案的能力以及在多轮对话中完成系统性问诊、解决咨询需求的能力。\r\n\r\n* 在单轮对话评测中，我们构建了一个基准测试数据集，其中包含从两个公开医疗数据集中收集的多项选择题，并评估模型回答的准确性。\r\n* 对于多轮对话评测，我们首先构建了一些高质量的诊疗对话案例，然后让 GPT-3.5 扮演这些案例中的患者角色，并与扮演医生角色的模型进行对话。我们利用 GPT-4 来评估整段每段对话的**主动性**、**准确性**, **帮助性**和**语言质量**。\r\n\r\n您可以在 `eval\u002F` 目录下查看测试数据集、各个模型生成的对话结果以及 GPT-4 提供的打分结果。\u003Cbr>\r\n\r\n### 单轮QA评测\r\n我们在评测中选用了 [MLEC-QA](https:\u002F\u002Fgithub.com\u002FJudenpech\u002FMLEC-QA) 和考研306（西医综合）的单项选择题。\r\n\u003C!-- The MLEC-QA contains questions from the China NMLEC, categorized into Clinic, Stomatology, Public Health, Traditional Chinese Medicine, and Integrated Traditional Chinese and Western Medicine. We selected 1,362 questions (10% of the test set) for evaluation. From Western Medicine 306, we used a combined 270 questions from 2020 and 2021. Our study involved both zero-shot and few-shot approaches, with examples from MLEC-QA's validation set and 2019 Western Medicine 306 questions for the few-shot samples. -->\r\n\r\n#### Few-shot  \r\n\r\n| 模型             | MLEC-QA 临床 | MLEC-QA 中西医结合 | MLEC-QA 公共卫生 | MLEC-QA 口腔 | MLEC-QA 中医 | 考研306西医综合 | 平均 |\r\n|-------------------|----------------|-------------|----------------------|---------------------|------------|----------|---------|\r\n| GPT-3.5           | 58.63          | 45.9        | 53.51                | 51.52               | 43.47      | 44.81    | 49.64   |\r\n| Baichuan-13b-Chat| 31.25          | 37.69       | 28.65                | 27.27               | 29.77      | 24.81    | 29.91   |\r\n| Huatuo(13B)        | 31.85          | 25          | 32.43                | 32.95               | 26.54      | 24.44    | 28.87   |\r\n| DISC-MedLLM        | 44.64          | 41.42       | 41.62                | 38.26               | 39.48      | 33.33    | 39.79   |\r\n\r\n#### Zero-shot\r\n\r\n| 模型             | MLEC-QA 临床 | MLEC-QA 中西医结合 | MLEC-QA 公共卫生 | MLEC-QA 口腔 | MLEC-QA 中医 | 考研306西医综合 | 平均 |\r\n|-------------------|----------------|-------------|----------------------|---------------------|------------|----------|---------|\r\n| GPT-3.5           | 47.32          | 33.96       | 48.11                | 39.77               | 38.83      | 33.33    | 40.22   |\r\n| Baichuan-13b-Chat| 44.05          | 43.28       | 39.92                | 31.06               | 41.42      | 32.22    | 38.66   |\r\n| Huatuo(13B)        | 27.38          | 21.64       | 25.95                | 25.76               | 24.92      | 20.37    | 24.34   |\r\n| DISC-MedLLM        | 44.64          | 37.31       | 35.68                | 34.85               | 41.75      | 31.11    | 37.56   |\r\n\r\n\u003C!-- GPT-3.5 clearly outperformed others in the multiple-choice assessment, while our model achieved a strong second place in few-shot scenarios. In zero-shot scenarios, it followed closely behind Baichuan-13B-Chat, securing the third spot. These results highlight the current priority gap in performance for conversational medical models on knowledge-intensive tests like multiple-choice questions. -->\r\n\r\n### 多轮对话能力评测\r\n我们的评测基于三个不同的数据集：Chinese Medical Benchmark ([CMB-Clin](https:\u002F\u002Fgithub.com\u002FFreedomIntelligence\u002FCMB))、Chinese Medical Dialogue Dataset ([CMD](https:\u002F\u002Fgithub.com\u002FUCSD-AI4H\u002FMedical-Dialogue-System)) 和 Chinese Medical Intent Dataset ([CMID](https:\u002F\u002Fgithub.com\u002FIMU-MachineLearningSXD\u002FCMID))，其中 CMB-Clin 模拟了现实世界的问诊过程，而 CMD 和 CMID 则分别着重从科室专业性和用户意图的角度进行评估。 \u003Cbr>\r\n\r\n\u003C!-- Within this framework, The Evaluation of the dialogues is based on four criteria: Proactivity, Accuracy, Helpfulness, and Linguistic Quality.\r\n\r\n1. Proactivity: The doctor can proactively and clearly request the patient to provide more information about the symptoms, physical examination results, and medical history when the information is insufficient, actively guiding the patient through the consultation process. \r\n2. Accuracy: The diagnosis or advice the doctor provides is accurate and has no factual errors. Conclusions are not made arbitrarily.\r\n3. Helpfulness: The doctor's responses provide the patient with clear, instructive, and practical assistance, specifically addressing the patient's concerns.\r\n4. Linguistic Quality: The conversation is logical. The doctor correctly understands the patient's semantics, and the expression is smooth and natural. -->\r\n\r\n#### CMB-clin数据集的评测结果:\r\n| **模型**              | **主动性** | **准确性** | **帮助性** | **语言质量** | **平均** |\r\n|------------------------|-----------------|--------------|-----------------|------------------------|-------------|\r\n| **GPT3.5**             | 4.30            | 4.53         | 4.55            | 5.00                   | 4.60        |\r\n| **GPT4**               | 4.15            | 4.70         | 4.75            | 4.96                   | 4.64        |\r\n| **Baichuan-13b-Caht**  | 4.30            | 4.58         | 4.73            | 4.95                   | 4.64        |\r\n| **BianQue-2**          | 3.97            | 4.36         | 4.37            | 4.81                   | 4.38        |\r\n| **Huatuo(13B)**        | 4.40            | 4.62         | 4.74            | 4.96                   | 4.68        |\r\n| **DISC-MedLLM**        | 4.64            | 4.47         | 4.66            | 4.99                   | 4.69        |\r\n\r\n#### CMD数据集的评测结果\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_ada156d87f2d.png\" alt=\"cmd\" width=\"75%\"\u002F>\r\n\r\n#### CMID数据集的评测结果\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_8590b464db43.png\" alt=\"cmid\" width=\"75%\"\u002F>\r\n\r\n\r\n\r\n## 致谢\r\n本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：\r\n\r\n- [**MedDialog**](https:\u002F\u002Fgithub.com\u002FUCSD-AI4H\u002FMedical-Dialogue-System)\r\n\r\n- [**cMeKG**](https:\u002F\u002Fgithub.com\u002Fking-yyf\u002FCMeKG_tools)\r\n\r\n- [**cMedQA**](https:\u002F\u002Fgithub.com\u002Fzhangsheng93\u002FcMedQA2)\r\n\r\n- [**Baichuan-13B**](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)\r\n\r\n- [**FireFly**](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly)\r\n\r\n同样感谢其他限于篇幅未能列举的为本项目提供了重要帮助的工作。\r\n\r\n## 声明\r\n由于语言模型固有的局限性，我们无法保证 DISC-MedLLM 模型所生成的信息的准确性或可靠性。该模型仅为个人和学术团体的研究和测试而设计。我们敦促用户以批判性的眼光对模型输出的任何信息或医疗建议进行评估，并且强烈建议不要盲目信任此类信息结果。我们不对因使用该模型所引发的任何问题、风险或不良后果承担责任。\r\n\r\n## 引用\r\n如果我们的工作有帮助到您的研究，请引用我们：\r\n```angular2\r\n@misc{bao2023discmedllm,\r\n      title={DISC-MedLLM: Bridging General Large Language Models and Real-World Medical Consultation}, \r\n      author={Zhijie Bao and Wei Chen and Shengze Xiao and Kuang Ren and Jiaao Wu and Cheng Zhong and Jiajie Peng and Xuanjing Huang and Zhongyu Wei},\r\n      year={2023},\r\n      eprint={2308.14346},\r\n      archivePrefix={arXiv},\r\n      primaryClass={cs.CL}\r\n}\r\n```\r\n\r\n## Star History\r\n\r\n\u003Cpicture>\r\n    \u003Csource media=\"(prefers-color-scheme: dark)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png&theme=dark\" \u002F>\r\n    \u003Csource media=\"(prefers-color-scheme: light)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png\" \u002F>\r\n    \u003Cimg alt=\"Star History Chart\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png\" \u002F>\r\n\u003C\u002Fpicture>\r\n\r\n","# DISC-MedLLM\r\n\r\n\u003Cdiv align=\"center\">\r\n  \r\n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-Huggingface%20Repo-green.svg)](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM)\r\n[![license](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fmodelscope\u002Fmodelscope.svg)](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDICS-MedLLM\u002Fblob\u002Fmain\u002FLICENSE)\r\n\u003Cbr>\r\n\u003C\u002Fdiv>\r\n\u003Cdiv align=\"center\">\r\n\r\n[Demo](http:\u002F\u002Fmed.fudan-disc.com) | [技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2308.14346)\r\n\u003Cbr>\r\n中文 | [EN](https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fblob\u002Fmain\u002FREADME_EN.md)\r\n\u003C\u002Fdiv>\r\n  \r\nDISC-MedLLM 是一个专门针对医疗健康对话式场景而设计的医疗领域大模型，由[复旦大学数据智能与社会计算实验室 (Fudan-DISC)](http:\u002F\u002Ffudan-disc.com) 开发并开源。\r\n\r\n该项目包含下列开源资源:\r\n* [DISC-Med-SFT 数据集](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FFlmc\u002FDISC-Med-SFT) (不包括行为偏好训练数据)\r\n* DISC-MedLLM 的[模型权重](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM)\r\n\r\n您可以通过访问这个[链接](http:\u002F\u002Fmed.fudan-disc.com)来试用我们的模型。\r\n\r\n## 概述\r\n\r\nDISC-MedLLM 是一个专为医疗健康对话场景而打造的领域大模型，它可以满足您的各种医疗保健需求，包括疾病问诊和治疗方案咨询等，为您提供高质量的健康支持服务。\r\n\r\nDISC-MedLLM 有效地对齐了医疗场景下的人类偏好，弥合了通用语言模型输出与真实世界医疗对话之间的差距，这一点在实验结果中有所体现。\r\n\r\n得益于我们以目标为导向的策略，以及基于真实医患对话数据和知识图谱，引入LLM in the loop 和 Human in the loop的多元数据构造机制，DISC-MedLLM 有以下几个特点：\r\n\r\n* **可靠丰富的专业知识**，我们以医学知识图谱作为信息源，通过采样三元组，并使用通用大模型的语言能力进行对话样本的构造。\r\n* **多轮对话的问询能力**，我们以真实咨询对话纪录作为信息源，使用大模型进行对话重建，构建过程中要求模型完全对齐对话中的医学信息。\r\n* **对齐人类偏好的回复**，病人希望在咨询的过程中获得更丰富的支撑信息和背景知识，但人类医生的回答往往简练；我们通过人工筛选，构建符合人类偏好的高质量的小规模行为微调样本，对齐病人的需求。\r\n\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_544c788eb2e7.png\" alt=\"data-construction\" width=\"85%\"\u002F>\r\n\r\n## 模型效果演示\r\n### 疾病问诊\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_efa4a2d950ac.gif\" alt=\"sample1\" width=\"60%\"\u002F>\r\n\r\n### 治疗方案咨询\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_897f90785576.gif\" alt=\"sample2\" width=\"60%\"\u002F>\r\n\r\n## 数据集\r\n\r\n为了训练 DISC-MedLLM ，我们构建了一个高质量的数据集，命名为 DISC-Med-SFT，其中包含了超过47万个衍生于现有的医疗数据集重新构建得到的样本。我们采用了目标导向的策略，通过对于精心选择的几个数据源进行重构来得到SFT数据集。这些数据的作用在于帮助模型学习医疗领域知识，将行为模式与人类偏好对齐，并对齐真实世界在线医疗对话的分布情况。\r\n\r\n\u003C!-- \u003Cstyle type=\"text\u002Fcss\">\r\n.tg  {border-collapse:collapse;border-spacing:0;}\r\n.tg td{border-color:black;border-style:solid;border-width:1px;font-family:Arial, sans-serif;font-size:14px;\r\n  overflow:hidden;padding:10px 5px;word-break:normal;}\r\n.tg th{border-color:black;border-style:solid;border-width:1px;font-family:Arial, sans-serif;font-size:14px;\r\n  font-weight:normal;overflow:hidden;padding:10px 5px;word-break:normal;}\r\n.tg .tg-9wq8{border-color:inherit;text-align:center;vertical-align:middle}\r\n.tg .tg-c3ow{border-color:inherit;text-align:center;vertical-align:top}\r\n\u003C\u002Fstyle> -->\r\n\u003Ctable class=\"tg\" style=\"undefined;table-layout: fixed; width: 442px\">\r\n\u003Ccolgroup>\r\n\u003Ccol style=\"width: 204.428571px\">\r\n\u003Ccol style=\"width: 135.428571px\">\r\n\u003Ccol style=\"width: 102.428571px\">\r\n\u003C\u002Fcolgroup>\r\n\u003Cthead>\r\n  \u003Ctr>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>数据集\u003C\u002Fth>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>数据来源\u003C\u002Fth>\r\n    \u003Cth class=\"tg-9wq8\" rowspan=\"2\">\u003Cbr>样本量\u003C\u002Fth>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n  \u003C\u002Ftr>\r\n\u003C\u002Fthead>\r\n\u003Ctbody>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\" rowspan=\"2\">重构AI医患对话\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">MedDialog\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">400k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\">cMedQA2\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">20k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">知识图谱问答对\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">CMeKG\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">50k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">行为偏好数据集\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">人为筛选\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-9wq8\">2k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-9wq8\" rowspan=\"3\">其他\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">MedMCQA\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">8k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">MOSS-SFT\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">33k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n  \u003Ctr>\r\n    \u003Ctd class=\"tg-c3ow\">Alpaca-GPT4-zh\u003C\u002Ftd>\r\n    \u003Ctd class=\"tg-c3ow\">1k\u003C\u002Ftd>\r\n  \u003C\u002Ftr>\r\n\u003C\u002Ftbody>\r\n\u003C\u002Ftable>\r\n\r\n\r\n\u003Cbr>\r\n\r\n\r\n### 下载\r\n\r\n我们总共发布了近47万条训练数据，其中包括重构AI医患对话和知识图谱问答对。您可以访问这个[链接](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FFlmc\u002FDISC-Med-SFT)下载数据集。\r\n\r\n\u003Cbr>\r\n\r\n\r\n## 部署\r\n\r\n当前版本的 DISC-MedLLM 是基于[Baichuan-13B-Base](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)训练得到的。您可以直接从 [Hugging Face](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM) 上下载我们的模型权重，或者根据下列代码样例中的方式自动获取。\r\n\r\n首先，您需要安装项目的依赖环境。\r\n```shell\r\npip install -r requirements.txt\r\n```\r\n\r\n### 利用Hugging Face的transformers模块来进行推理\r\n```python\r\n>>> import torch\r\n>>> from transformers import AutoModelForCausalLM, AutoTokenizer\r\n>>> from transformers.generation.utils import GenerationConfig\r\n>>> tokenizer = AutoTokenizer.from_pretrained(\"Flmc\u002FDISC-MedLLM\", use_fast=False, trust_remote_code=True)\r\n>>> model = AutoModelForCausalLM.from_pretrained(\"Flmc\u002FDISC-MedLLM\", device_map=\"auto\", torch_dtype=torch.float16, trust_remote_code=True)\r\n>>> model.generation_config = GenerationConfig.from_pretrained(\"Flmc\u002FDISC-MedLLM\")\r\n>>> messages = []\r\n>>> messages.append({\"role\": \"user\", \"content\": \"我感觉自己颈椎非常不舒服，每天睡醒都会头痛\"})\r\n>>> response = model.chat(tokenizer, messages)\r\n>>> print(response)\r\n```\r\n\r\n### 运行命令行Demo\r\n```shell\r\npython cli_demo.py\r\n```\r\n### 运行网页版Demo\r\n```shell\r\nstreamlit run web_demo.py --server.port 8888\r\n```\r\n\r\n此外，由于目前版本的 DISC-MedLLM 是以 Baichuan-13B 作为基座的，您可以参考 [Baichuan-13B 项目](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)的介绍来进行 int8 或 int4 量化推理部署。然而需要注意的是，使用模型量化可能会导致性能的下降。\r\n\u003Cbr>\r\n\r\n## 对模型进行微调\r\n您可以使用与我们的数据集结构相同的数据对我们的模型进行微调。我们的训练代码在 [Firefly](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly) 的基础上进行了修改，使用了不同的数据结构和对话格式。这里我们只提供全参数微调的代码：\r\n```shell\r\ndeepspeed --num_gpus={num_gpus} .\u002Ftrain\u002Ftrain.py --train_args_file .\u002Ftrain\u002Ftrain_args\u002Fsft.json\r\n```\r\n> 请您在开始进行模型训练前检查 `sft.json` 中的设置。\r\n\r\n\u003Cbr>如果您想使用其他训练代码来微调我们的模型，请使用如下对话格式。\r\n```shell\r\n\u003C\\b>\u003C$user_token>content\u003C$assistant_token>content\u003C\\s>\u003C$user_token>content ...\r\n```\r\n我们使用的 `user_token` 和 `assistant_token` 分别为 `195` and `196`，这和 Baichuan-13B-Chat 是相同的。\r\n\r\n## 模型评测\r\n\u003C!-- We compare our model with three general-purpose LLMs and two conversational Chinese medical domain LLMs. Specifically, these are GPT-3.5 and GPT-4 from OpenAI, the aligned conversational version of our backbone model Baichuan-13B-Base, Baichuan-13B-Chat, and the open-source Chinese conversational medical model HuatuoGPT-13B (trained from Ziya-Llama-13B) and BianQue-2. Our evaluation approach encompasses two key dimensions: an assessment of conversational aptitude using GPT-4 as a reference judge, and a comprehensive benchmark evaluation. -->\r\n\r\n我们从两个角度评估了模型的性能，包括在单轮QA问题中提供准确答案的能力以及在多轮对话中完成系统性问诊、解决咨询需求的能力。\r\n\r\n* 在单轮对话评测中，我们构建了一个基准测试数据集，其中包含从两个公开医疗数据集中收集的多项选择题，并评估模型回答的准确性。\r\n* 对于多轮对话评测，我们首先构建了一些高质量的诊疗对话案例，然后让 GPT-3.5 扮演这些案例中的患者角色，并与扮演医生角色的模型进行对话。我们利用 GPT-4 来评估整段每段对话的**主动性**、**准确性**, **帮助性**和**语言质量**。\r\n\r\n您可以在 `eval\u002F` 目录下查看测试数据集、各个模型生成的对话结果以及 GPT-4 提供的打分结果。\u003Cbr>\n\n### 单轮问答评测\r\n我们在评测中选用了 [MLEC-QA](https:\u002F\u002Fgithub.com\u002FJudenpech\u002FMLEC-QA) 和考研306（西医综合）的单项选择题。\r\n\u003C!-- The MLEC-QA contains questions from the China NMLEC, categorized into Clinic, Stomatology, Public Health, Traditional Chinese Medicine, and Integrated Traditional Chinese and Western Medicine. We selected 1,362 questions (10% of the test set) for evaluation. From Western Medicine 306, we used a combined 270 questions from 2020 and 2021. Our study involved both zero-shot and few-shot approaches, with examples from MLEC-QA's validation set and 2019 Western Medicine 306 questions for the few-shot samples. -->\r\n\r\n#### Few-shot  \r\n\r\n| 模型             | MLEC-QA 临床 | MLEC-QA 中西医结合 | MLEC-QA 公共卫生 | MLEC-QA 口腔 | MLEC-QA 中医 | 考研306西医综合 | 平均 |\r\n|-------------------|----------------|-------------|----------------------|---------------------|------------|----------|---------|\r\n| GPT-3.5           | 58.63          | 45.9        | 53.51                | 51.52               | 43.47      | 44.81    | 49.64   |\r\n| Baichuan-13b-Chat| 31.25          | 37.69       | 28.65                | 27.27               | 29.77      | 24.81    | 29.91   |\r\n| Huatuo(13B)        | 31.85          | 25          | 32.43                | 32.95               | 26.54      | 24.44    | 28.87   |\r\n| DISC-MedLLM        | 44.64          | 41.42       | 41.62                | 38.26               | 39.48      | 33.33    | 39.79   |\r\n\r\n#### Zero-shot\r\n\r\n| 模型             | MLEC-QA 临床 | MLEC-QA 中西医结合 | MLEC-QA 公共卫生 | MLEC-QA 口腔 | MLEC-QA 中医 | 考研306西医综合 | 平均 |\r\n|-------------------|----------------|-------------|----------------------|---------------------|------------|----------|---------|\r\n| GPT-3.5           | 47.32          | 33.96       | 48.11                | 39.77               | 38.83      | 33.33    | 40.22   |\r\n| Baichuan-13b-Chat| 44.05          | 43.28       | 39.92                | 31.06               | 41.42      | 32.22    | 38.66   |\r\n| Huatuo(13B)        | 27.38          | 21.64       | 25.95                | 25.76               | 24.92      | 20.37    | 24.34   |\r\n| DISC-MedLLM        | 44.64          | 37.31       | 35.68                | 34.85               | 41.75      | 31.11    | 37.56   |\r\n\r\n\u003C!-- GPT-3.5 clearly outperformed others in the multiple-choice assessment, while our model achieved a strong second place in few-shot scenarios. In zero-shot scenarios, it followed closely behind Baichuan-13B-Chat, securing the third spot. These results highlight the current priority gap in performance for conversational medical models on knowledge-intensive tests like multiple-choice questions. -->\r\n\r\n### 多轮对话能力评测\r\n我们的评测基于三个不同的数据集：Chinese Medical Benchmark ([CMB-Clin](https:\u002F\u002Fgithub.com\u002FFreedomIntelligence\u002FCMB))、Chinese Medical Dialogue Dataset ([CMD](https:\u002F\u002Fgithub.com\u002FUCSD-AI4H\u002FMedical-Dialogue-System)) 和 Chinese Medical Intent Dataset ([CMID](https:\u002F\u002Fgithub.com\u002FIMU-MachineLearningSXD\u002FCMID))，其中 CMB-Clin 模拟了现实世界的问诊过程，而 CMD 和 CMID 则分别着重从科室专业性和用户意图的角度进行评估。 \u003Cbr>\r\n\r\n\u003C!-- Within this framework, The Evaluation of the dialogues is based on four criteria: Proactivity, Accuracy, Helpfulness, and Linguistic Quality.\r\n\r\n1. Proactivity: The doctor can proactively and clearly request the patient to provide more information about the symptoms, physical examination results, and medical history when the information is insufficient, actively guiding the patient through the consultation process. \r\n2. Accuracy: The diagnosis or advice the doctor provides is accurate and has no factual errors. Conclusions are not made arbitrarily.\r\n3. Helpfulness: The doctor's responses provide the patient with clear, instructive, and practical assistance, specifically addressing the patient's concerns.\r\n4. Linguistic Quality: The conversation is logical. The doctor correctly understands the patient's semantics, and the expression is smooth and natural. -->\r\n\r\n#### CMB-clin数据集的评测结果:\r\n| **模型**              | **主动性** | **准确性** | **帮助性** | **语言质量** | **平均** |\r\n|------------------------|-----------------|--------------|-----------------|------------------------|-------------|\r\n| **GPT3.5**             | 4.30            | 4.53         | 4.55            | 5.00                   | 4.60        |\r\n| **GPT4**               | 4.15            | 4.70         | 4.75            | 4.96                   | 4.64        |\r\n| **Baichuan-13b-Caht**  | 4.30            | 4.58         | 4.73            | 4.95                   | 4.64        |\r\n| **BianQue-2**          | 3.97            | 4.36         | 4.37            | 4.81                   | 4.38        |\r\n| **Huatuo(13B)**        | 4.40            | 4.62         | 4.74            | 4.96                   | 4.68        |\r\n| **DISC-MedLLM**        | 4.64            | 4.47         | 4.66            | 4.99                   | 4.69        |\r\n\r\n#### CMD数据集的评测结果\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_ada156d87f2d.png\" alt=\"cmd\" width=\"75%\"\u002F>\r\n\r\n#### CMID数据集的评测结果\r\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_8590b464db43.png\" alt=\"cmid\" width=\"75%\"\u002F>\r\n\r\n\r\n\r\n## 致谢\r\n本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：\r\n\r\n- [**MedDialog**](https:\u002F\u002Fgithub.com\u002FUCSD-AI4H\u002FMedical-Dialogue-System)\r\n\r\n- [**cMeKG**](https:\u002F\u002Fgithub.com\u002Fking-yyf\u002FCMeKG_tools)\r\n\r\n- [**cMedQA**](https:\u002F\u002Fgithub.com\u002Fzhangsheng93\u002FcMedQA2)\r\n\r\n- [**Baichuan-13B**](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B)\r\n\r\n- [**FireFly**](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly)\r\n\r\n同样感谢其他限于篇幅未能列举的为本项目提供了重要帮助的工作。\r\n\r\n## 声明\r\n由于语言模型固有的局限性，我们无法保证 DISC-MedLLM 模型所生成的信息的准确性或可靠性。该模型仅为个人和学术团体的研究和测试而设计。我们敦促用户以批判性的眼光对模型输出的任何信息或医疗建议进行评估，并且强烈建议不要盲目信任此类信息结果。我们不对因使用该模型所引发的任何问题、风险或不良后果承担责任。\r\n\r\n## 引用\r\n如果我们的工作有帮助到您的研究，请引用我们：\r\n```angular2\r\n@misc{bao2023discmedllm,\r\n      title={DISC-MedLLM: Bridging General Large Language Models and Real-World Medical Consultation}, \r\n      author={Zhijie Bao and Wei Chen and Shengze Xiao and Kuang Ren and Jiaao Wu and Cheng Zhong and Jiajie Peng and Xuanjing Huang and Zhongyu Wei},\r\n      year={2023},\r\n      eprint={2308.14346},\r\n      archivePrefix={arXiv},\r\n      primaryClass={cs.CL}\r\n}\r\n```\r\n\r\n## Star History\r\n\r\n\u003Cpicture>\r\n    \u003Csource media=\"(prefers-color-scheme: dark)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png&theme=dark\" \u002F>\r\n    \u003Csource media=\"(prefers-color-scheme: light)\" srcset=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png\" \u002F>\r\n    \u003Cimg alt=\"Star History Chart\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_readme_0bc0b4c191cd.png\" \u002F>\r\n\u003C\u002Fpicture>","# DISC-MedLLM 快速上手指南\n\nDISC-MedLLM 是由复旦大学数据智能与社会计算实验室（Fudan-DISC）开发的医疗领域大模型，专为疾病问诊、治疗方案咨询等医疗健康对话场景设计。本指南将帮助您快速部署并使用该模型。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux (推荐) 或 macOS\n*   **Python**: 3.8 及以上版本\n*   **GPU**: 建议配备显存 16GB 及以上的 NVIDIA GPU（用于运行 13B 参数模型）\n*   **依赖库**: PyTorch, Transformers, Accelerate 等\n\n## 安装步骤\n\n### 1. 克隆项目代码\n首先从 GitHub 获取项目源码：\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM.git\ncd DISC-MedLLM\n```\n\n### 2. 安装依赖\n安装项目所需的 Python 依赖包。如果下载速度较慢，可配置国内 pip 源（如清华源）加速：\n```bash\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 3. 获取模型权重\n模型权重托管在 Hugging Face。如果您在国内网络环境下访问受限，建议使用镜像站或手动下载后加载本地路径。\n*   **模型地址**: [Flmc\u002FDISC-MedLLM](https:\u002F\u002Fhuggingface.co\u002FFlmc\u002FDISC-MedLLM)\n*   **数据集地址**: [Flmc\u002FDISC-Med-SFT](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FFlmc\u002FDISC-Med-SFT)\n\n> **提示**: 若使用 Hugging Face 镜像，可在代码中设置 `HF_ENDPOINT` 环境变量：\n> ```bash\n> export HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com\n> ```\n\n## 基本使用\n\n### 方式一：Python 代码推理\n这是最灵活的调用方式，适用于集成到您的应用中。\n\n```python\nimport torch\nfrom transformers import AutoModelForCausalLM, AutoTokenizer\nfrom transformers.generation.utils import GenerationConfig\n\n# 加载分词器和模型\n# 注意：首次运行会自动下载模型，若已本地下载可替换为本地路径\ntokenizer = AutoTokenizer.from_pretrained(\"Flmc\u002FDISC-MedLLM\", use_fast=False, trust_remote_code=True)\nmodel = AutoModelForCausalLM.from_pretrained(\n    \"Flmc\u002FDISC-MedLLM\", \n    device_map=\"auto\", \n    torch_dtype=torch.float16, \n    trust_remote_code=True\n)\nmodel.generation_config = GenerationConfig.from_pretrained(\"Flmc\u002FDISC-MedLLM\")\n\n# 构建对话消息\nmessages = []\nmessages.append({\"role\": \"user\", \"content\": \"我感觉自己颈椎非常不舒服，每天睡醒都会头痛\"})\n\n# 生成回复\nresponse = model.chat(tokenizer, messages)\nprint(response)\n```\n\n### 方式二：命令行交互 Demo\n项目提供了内置的命令行脚本，方便快速测试对话效果：\n\n```bash\npython cli_demo.py\n```\n\n### 方式三：网页版 Demo\n如果您希望体验图形化界面，可以使用 Streamlit 启动网页服务：\n\n```bash\nstreamlit run web_demo.py --server.port 8888\n```\n启动后，在浏览器访问 `http:\u002F\u002Flocalhost:8888` 即可使用。\n\n---\n**性能优化提示**：\n如果您的显存资源有限，可以参考 [Baichuan-13B](https:\u002F\u002Fgithub.com\u002Fbaichuan-inc\u002FBaichuan-13B) 项目进行 int8 或 int4 量化部署，但请注意量化可能会轻微影响模型在医疗专业问题上的表现。","某互联网医院平台希望在其在线问诊系统中引入 AI 助手，以辅助医生处理海量的患者初筛咨询，提升响应速度与服务质量。\n\n### 没有 DISC-MedLLM 时\n- **回答缺乏专业深度**：通用大模型在面对具体病症询问时，往往只能给出泛泛的健康建议，无法提供基于医学知识图谱的精准病因分析或用药指导。\n- **多轮问诊能力弱**：模型难以像真实医生那样进行逻辑严密的追问（如症状持续时间、既往病史），导致收集的患者信息碎片化，无法支撑有效诊断。\n- **回复风格生硬**：输出内容要么过于学术晦涩，患者看不懂；要么过于简略，缺乏患者期望的背景知识解释和人文关怀，体验不佳。\n- **存在幻觉风险**：在缺乏医疗领域对齐训练的情况下，模型容易编造不存在的药物或治疗方案，带来严重的医疗安全隐患。\n\n### 使用 DISC-MedLLM 后\n- **专业知识可靠丰富**：依托医学知识图谱构建的训练数据，DISC-MedLLM 能准确引用权威医学信息，提供详尽且真实的疾病解析与治疗建议。\n- **具备主动问询能力**：模型完美复现了真实医患对话中的多轮交互逻辑，能主动引导患者补充关键病情细节，生成结构完整的电子病历草稿。\n- **回复对齐人类偏好**：经过行为偏好微调，DISC-MedLLM 的回答既保留了专业度，又增加了患者需要的背景科普和情感支持，语气自然亲切。\n- **事实准确性高**：通过\"Human in the loop\"机制构建的高质量数据，显著降低了医疗幻觉，确保输出的诊疗方案安全可信，可直接供医生复核。\n\nDISC-MedLLM 通过深度融合医学知识与人类对话偏好，将原本不可靠的通用聊天机器人转化为具备专业问诊能力的智能医疗助手。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFudanDISC_DISC-MedLLM_42087bb9.png","FudanDISC","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FFudanDISC_b90c866e.jpg","Fudan University Data Intelligence and Social Computing (DISC) Lab",null,"disclab@fudan.edu.cn","http:\u002F\u002Ffudan-disc.com\u002F","https:\u002F\u002Fgithub.com\u002FFudanDISC",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,562,53,"2026-03-20T11:20:57","Apache-2.0","未说明","需要 NVIDIA GPU（基于 Baichuan-13B 基座，支持 device_map=\"auto\"），建议显存 24GB+ 以运行全精度 (float16) 模型；支持 int8\u002Fint4 量化以降低显存需求",{"notes":95,"python":92,"dependencies":96},"该模型基于 Baichuan-13B-Base 训练。推理时需在代码中指定 trust_remote_code=True。支持通过 deepspeed 进行全参数微调。可使用 int8 或 int4 量化部署，但可能导致性能下降。具体依赖版本需参考项目中的 requirements.txt 文件（文中未列出具体内容）。",[97,98,99,100],"torch","transformers","deepspeed","streamlit",[15],"2026-03-27T02:49:30.150509","2026-04-10T11:40:18.199787",[105,110,115,120,125,130],{"id":106,"question_zh":107,"answer_zh":108,"source_url":109},27653,"加载 tokenizer 时遇到 AttributeError 报错怎么办？","这通常是由于 transformers 版本不兼容导致的。建议将 transformers 版本降级至 4.33.3 即可解决问题。您可以尝试运行：pip install transformers==4.33.3","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F14",{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},27654,"使用 QLoRA 微调时出现 KeyError 或训练脚本报错如何解决？","该项目的训练代码基于 Firefly 仓库修改，使用了特殊的损失计算 mask 机制（将整段对话作为 target 计算损失）。如果遇到报错，建议直接使用原版 'Firefly' 仓库中的 QLoRA 脚本进行调试。主要改动集中在 component\u002Fdataset.py 及版本适配，原脚本通常可结合使用。推荐环境配置：transformers==4.31.0, transformers-stream-generator==0.0.4。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F4",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},27655,"模型评估中第二轮对话的用户提问是如何生成的？","根据技术报告，第二轮及之后的用户提问是由 GPT-3.5 扮演患者与模型进行对话生成的，其中起始问题是固定的。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F5",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},27656,"必须使用自己微调后的配置文件和分词器吗？","不需要。分词器（Tokenizer）并不需要经过微调，直接使用预训练模型的原版分词器即可。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F11",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},27657,"medical_dialogue 数据集在处理时保留了哪些字段？","该项目使用的是数据集作者提供的经过预处理的版本。关于具体保留或丢弃了哪些字段（如患病多久、过敏史等），官方未公开详细的处理脚本，建议直接参考其发布的预处理后数据格式。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F10",{"id":131,"question_zh":132,"answer_zh":133,"source_url":134},27658,"为什么没有在 Hugging Face Spaces 上部署演示 Demo？","由于该工作基于大语言模型，对硬件资源要求较高。Hugging Face Spaces 的免费或常规硬件约束无法满足运行需求，且定制高配环境的成本过高，因此团队选择了自建演示环境而非部署在 Hub 上。","https:\u002F\u002Fgithub.com\u002FFudanDISC\u002FDISC-MedLLM\u002Fissues\u002F1",[]]