明医 (MING)：中文医疗问诊大模型

🌐项目简介

本项目开源了基于医疗指令微调的中文医疗问诊模型：明医 (MING)。目前模型的主要功能如下：

医疗问答：对医疗问题进行解答，对案例进行分析。	智能问诊：多轮问诊后给出诊断结果和建议。

📄相关论文

• MING-MOE技术报告: MING-MOE: Enhancing Medical Multi-Task Learning in Large Language Models with Sparse Mixture of Low-Rank Adapter Experts] [paper]

• 基于多智能体交互的大语言模型多轮问诊自动评估框架: Automatic Interactive Evaluation for Large Language Models with State Aware Patient Simulator [paper][code]

• 二阶段解耦学习的临床大模型对齐方法: MEDCARE: Advancing Medical LLMs through Decoupling Clinical Alignment and Knowledge Aggregation [paper] [code]

• 基于工具自适应学习与反思的医学智能体和多维度评估基准: ReflecTool: Towards Reflection-Aware Tool-Augmented Clinical Agents [paper] [code]

💫更新

• 🔥 [2024/04/14] 开源了基于Qwen1.5指令微调的专家混合模型MING-MOE

• [2024/03/14] 开源了基于Qwen1.5-1.8b指令微调的MING-1.8B

• [2023/07/25] 开源了基于bloomz-7b指令微调的MING-7B

• [2023/07/25] MedicalGPT-zh更名为MING

🔬开源模型

模型	基座	HuggingFace
MING-7B	bloomz-7b1-mt	🤗MING-7B
MING-1.8B	Qwen1.5-1.8B	🤗MING-1.8B
MING-MOE-1.8B	Qwen1.5-1.8B	🤗MING-MOE-1.8B
MING-MOE-4B	Qwen1.5-4B	🤗MING-MOE-4B
MING-MOE-7B	Qwen1.5-7B	🤗MING-MOE-7B
MING-MOE-14B	Qwen1.5-14B	🤗MING-MOE-14B

⚡快速开始

1. 配置环境（测试环境如下，具体版本可以根据实际需求配置）

   • python==3.9.16
   • pytorch==2.0.1+cu117
   • peft==0.9.0

2. 安装项目依赖

   git clone https://github.com/MediaBrain-SJTU/MING
   cd MING
   pip install -e .
   

3. 下载模型参数并运行（要求单卡显存 >= 15G）

   • MING-MOE

   CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
       --model_path {path_to_checkpoint} \ # 模型路径
       --model_base {path_to_base_model} \ # 基座模型路径
       --max_new_token 3072 # 输出最大长度
   

   • MING-1.8B

   CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
       --model_path {path_to_checkpoint} \ # 模型路径
       --max_new_token 2048 # 输出最大长度
   

   • MING-7B

   CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
       --model_path {path_to_checkpoint} \ # 模型路径
       --conv_template bloom \ # prompt
       --max_new_token 512 \ # 输出最大长度
       --beam_size 3 \ # beam search宽度
       --temperature 1.2 # 采样温度
   

   • 注：由于transformers库的问题，当beam-size > 1时，需要满足temperature>=1.0，否则会报错。

4. 命令行运行实例

   • 对话支持多轮

   • 对话中输入关键词 new chat 能够开启新一轮对话。

🧭测试样例

🪶贡献

本项目由上海交通大学未来媒体网络协同创新中心和上海人工智能实验室智慧医疗中心合作研发。模型数据系统主要由廖育生，江书洋，刘泓呈，孟昱同完成，指导教师为王钰副教授。

免责声明

预训练模型是基于大量语料库和算法模型进行训练的，并且在训练过程中可能存在偏差、错误和不完整的信息。因此，本项目提供的预训练模型仅供参考和研究使用，并不能保证其准确性和可靠性。使用预训练模型产生的结果可能存在误差和偏差，不能用于实际应用或决策。本项目不对使用预训练模型所产生的结果承担任何责任，也不对因使用预训练模型所产生的任何损失承担责任。使用者在使用预训练模型时应自行承担风险并进行自我验证。

引用

如果你使用了本项目的数据或者代码，请声明引用

@inproceedings{liao2024medcare,
  title={MedCare: Advancing Medical LLMs through Decoupling Clinical Alignment and Knowledge Aggregation},
  author={Liao, Yusheng and Jiang, Shuyang and Chen, Zhe and Wang, Yu and Wang, Yanfeng},
  booktitle={Findings of the Association for Computational Linguistics: EMNLP 2024},
  pages={10562--10581},
  year={2024}
}

@article{liao2024ming,
  title={MING-MOE: Enhancing Medical Multi-Task Learning in Large Language Models with Sparse Mixture of Low-Rank Adapter Experts},
  author={Liao, Yusheng and Jiang, Shuyang and Wang, Yu and Wang, Yanfeng},
  journal={arXiv preprint arXiv:2404.09027},
  year={2024}
}

@misc{MING,
  author={Yusheng Liao, Yutong Meng, Hongcheng Liu, Yu Wang, Yanfeng Wang},
  title = {明医 (MING)：中文医疗问诊大模型},
  year = {2023},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/MediaBrain-SJTU/MING}},
}

明医 (MING) 快速上手指南

明医 (MING) 是一款基于医疗指令微调的中文医疗问诊大模型，支持医疗问答、案例分析及多轮智能问诊。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux (推荐) 或 macOS
• Python 版本: 3.9 及以上 (测试环境为 3.9.16)
• GPU 显存:
  • 运行 MING-MOE 系列建议单卡显存 ≥ 15GB
  • 较小模型 (如 1.8B) 可适当降低显存要求
• 核心依赖:
  • PyTorch >= 2.0.1 (需匹配 CUDA 版本，测试环境为 cu117)
  • PEFT == 0.9.0
  • Transformers

提示：国内开发者建议使用清华源或阿里源加速 pip 安装。

2. 安装步骤

第一步：克隆项目代码

git clone https://github.com/MediaBrain-SJTU/MING
cd MING

第二步：安装依赖

使用 editable 模式安装项目依赖：

pip install -e .

(若下载速度慢，可添加 -i https://pypi.tuna.tsinghua.edu.cn/simple)

第三步：下载模型权重

前往 HuggingFace 下载您需要的模型版本（如 MING-MOE-1.8B, MING-7B 等），并记录本地存储路径。

模型名称	基座模型	HuggingFace 地址
MING-7B	bloomz-7b1-mt	BlueZeros/MING-7B
MING-1.8B	Qwen1.5-1.8B-Chat	BlueZeros/MING-1.8B
MING-MOE-1.8B	Qwen1.5-1.8B-Chat	BlueZeros/MING-MOE-1.8B
MING-MOE-7B	Qwen1.5-7B-Chat	BlueZeros/MING-MOE-7B

3. 基本使用

根据下载的模型类型，选择对应的启动命令。请将 {path_to_checkpoint} 替换为您实际的模型文件夹路径。

场景 A：运行 MING-MOE 系列 (推荐)

适用于 MING-MOE-1.8B/4B/7B/14B 等混合专家模型。 注意：MOE 模型需同时指定微调权重路径 (--model_path) 和基座模型路径 (--model_base)。

CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
    --model_path {path_to_checkpoint} \
    --model_base {path_to_base_model} \
    --max_new_token 3072

场景 B：运行 MING-1.8B

适用于标准版小模型。

CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
    --model_path {path_to_checkpoint} \
    --max_new_token 2048

场景 C：运行 MING-7B (Bloom 基座)

适用于早期 Bloom 基座版本，需指定模板和采样参数。

CUDA_VISIBLE_DEVICES=0 python -m ming/serve/cli.py \
    --model_path {path_to_checkpoint} \
    --conv_template bloom \
    --max_new_token 512 \
    --beam_size 3 \
    --temperature 1.2

> 注意：当 beam_size > 1 时，必须保证 temperature >= 1.0，否则程序会报错。

交互说明

• 启动后进入命令行对话模式，支持多轮问诊。
• 输入关键词 new chat 即可清空上下文，开启新一轮对话。
• 直接输入医疗问题或病例描述，模型将给出诊断建议或分析。