medAlpaca：面向医学问答的微调大型语言模型

项目概述

MedAlpaca 在 Stanford Alpaca 和 AlpacaLoRA 的基础上进行了扩展，提供了一套先进的大型语言模型，专门针对医学问答和对话应用进行微调。
我们的主要目标是推出一系列开源语言模型，为无缝开发医学聊天机器人解决方案铺平道路。

这些模型使用多种医学文本进行训练，包括医学闪卡、维基百科以及对话数据集等资源。有关所用数据的更多详细信息，请参阅数据部分。

快速入门

创建一个新的虚拟环境，例如使用 conda：

conda create -n medalpaca python>=3.9

安装所需的软件包：

pip install -r requirements.txt

medAlpaca 的训练

显存需求

我们对在单个 GPU 上使用 Medical Meadow 小型数据集（约 6000 个问答对）对 LLaMA 7B 进行微调时所需的显存以及每轮训练的大致时长进行了基准测试：

模型	8位训练	LoRA	fp16	bf16	显存占用	梯度检查点	每轮时长
LLaMA 7b	True	True	True	False	8.9 GB	False	77:30
LLaMA 7b	False	True	True	False	18.8 GB	False	14:30
LLaMA 7b	False	False	True	False	OOM	False	-
LLaMA 7b	False	False	False	True	79.5 GB	True	35:30
LLaMA 7b	False	False	False	False	OOM	True	-

基于 LLaMA 训练 medAlpaca

如果您拥有 LLaMA 或 Alpaca 的权重，可以使用以下命令对该模型进行微调。只需将 <PATH_TO_LLAMA_WEIGHTS> 替换为您存放 LLaMA 或 Alpaca 权重的文件夹即可。

python medalpaca/train.py \
    --model PATH_TO_LLAMA_WEIGHTS \
    --data_path medical_meadow_small.json \
    --output_dir 'output' \
    --train_in_8bit True \  
    --use_lora True \
    --bf16 True \
    --tf32 False \
    --fp16 False \
    --global_batch_size 128 \
    --per_device_batch_size 8 \

默认情况下，脚本会执行混合精度训练。
您可以通过 train_in_8bit 标志来切换 8 位训练模式。
目前，8 位训练仅支持 use_lora True，但您也可以在不启用 8 位训练的情况下使用 LoRA。
此外，该脚本还可以用于训练其他模型，例如 facebook/opt-6.7。

数据

为了确保您心爱的羊驼和羊驼们得到充分的喂养并茁壮成长，我们精心收集了高质量的生物医学开源数据集，并将其转换为指令微调格式。
我们将这一努力称为 Medical Meadow。
Medical Meadow 目前涵盖了约 150 万个数据点，涉及多种任务，其中包括由 OpenAI 的 gpt-3.5-turbo 转换为问答对的公开医学数据，以及一系列成熟的医学领域 NLP 任务。
请注意，数据的数量和质量并不一致，您可能需要对数据进行子采样以训练自己的模型。
我们将持续更新和完善该数据集，并欢迎所有人向 Medical Meadow 贡献更多的“草料”！

数据概览

名称	来源	样本量	用于训练的样本量
医学闪卡	medalpaca/medical_meadow_medical_flashcards	33955	33955
Wikidoc	medalpaca/medical_meadow_wikidoc	67704	10000
Wikidoc 患者信息	medalpaca/medical_meadow_wikidoc_patient_information	5942	5942
Stackexchange 学术	medalpaca/medical_meadow_stack_exchange	40865	40865
Stackexchange 生物	medalpaca/medical_meadow_stack_exchange	27887	27887
Stackexchange 健身	medalpaca/medical_meadow_stack_exchange	9833	9833
Stackexchange 健康	medalpaca/medical_meadow_stack_exchange	7721	7721
Stackexchange 生物信息学	medalpaca/medical_meadow_stack_exchange	5407	5407
USMLE 自我评估 Step 1	medalpaca/medical_meadow_usmle_self	119	92（仅测试）
USMLE 自我评估 Step 2	medalpaca/medical_meadow_usmle_self	120	110 (仅测试)
USMLE 自我评估 Step 3	medalpaca/medical_meadow_usmle_self	135	122 (仅测试)
MEDIQA	原始, 预处理版	2208	2208
CORD-19	原始, 预处理版	1056660	50000
MMMLU	原始, 预处理版	3787	3787
Pubmed 健康建议	原始, 预处理版	10178	10178
Pubmed 因果关系	原始, 预处理版	2446	2446
ChatDoctor	原始	215000	10000
OpenAssistant	原始	9209	9209

数据描述

请参阅 DATA_DESCRIPTION.md

基准测试

我们正在使用 USMLE 自我评估作为基准，对所有模型进行测试，该评估可在此链接获取。请注意，我们已移除所有包含图片的题目，因为我们的模型并非多模态模型。

模型	Step1	Step2	Step3
LLaMA 7b	0.198	0.202	0.203
Alpaca 7b naive (权重)	0.275	0.266	0.293
Alpaca 7b LoRA	0.220	0.138	0.252
MedAlpaca 7b	0.297	0.312	0.398
MedAlpaca 7b LoRA	0.231	0.202	0.179
MedAlpaca 7b LoRA 8bit	0.231	0.241	0.211
ChatDoctor (7b)	0.187	0.185	0.148
LLaMA 13b	0.222	0.248	0.276
Alpaca 13b naive	0.319	0.312	0.301
MedAlpaca 13b	0.473	0.477	0.602
MedAlpaca 13b LoRA	0.250	0.255	0.255
MedAlpaca 13b LoRA 8bit	0.189	0.303	0.289
MedAlpaca 30b（仍在训练中）	待定	待定	待定
MedAlpaca 30b LoRA 8bit	0.315	0.327	0.361

我们正持续改进训练方法以及评估提示语句。预计此表格还将有较大变化。

访问模型

欢迎前往 Model Zoo 浏览我们的 Alpaca 模型：https://huggingface.co/medalpaca

虽然这应当是显而易见的，但本平台上提供的模型仅用于研究目的，不得应用于任何医疗保健相关场景或环境中。我们非常高兴能够展示这些实验性模型，但请您注意，它们尚未经过全面的测试与验证，其可靠性无法得到保证。因此，在使用这些模型时，请务必谨慎行事。感谢您的理解与支持，我们将继续探索并推进这一创新技术的发展。

论文

@article{han2023medalpaca,
  title={MedAlpaca——开源医学对话式 AI 模型及训练数据集},
  author={Han, Tianyu 和 Adams, Lisa C 和 Papaioannou, Jens-Michalis 和 Grundmann, Paul 和 Oberhauser, Tom 和 L{\"o}ser, Alexander 和 Truhn, Daniel 和 Bressem, Keno K},
  journal={arXiv 预印本 arXiv:2304.08247},
  year={2023}
}

medAlpaca 快速上手指南

medAlpaca 是基于 Stanford Alpaca 和 AlpacaLoRA 扩展的开源项目，提供了一系列针对医疗问答和对话应用微调的大型语言模型。本指南将帮助开发者快速搭建环境并运行模型。

环境准备

在开始之前，请确保您的系统满足以下要求：

• 操作系统: Linux (推荐) 或 macOS
• Python 版本: >= 3.9
• GPU: 支持 CUDA 的 NVIDIA 显卡（显存需求见下文）
• 依赖管理工具: Conda (推荐) 或 venv

显存需求参考 (基于 LLaMA 7b 微调):

• 8bit + LoRA: 约 9 GB VRAM
• LoRA (非 8bit): 约 19 GB VRAM
• 全量微调 (bf16 + Gradient Checkpointing): 约 80 GB VRAM

安装步骤

1. 创建虚拟环境

使用 Conda 创建一个名为 medalpaca 的独立环境：

conda create -n medalpaca python>=3.9
conda activate medalpaca

2. 安装依赖

克隆项目代码后，进入目录并安装所需包。为了加速下载，建议配置国内 pip 镜像源（如清华源）：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

注意: 您需要自行准备 LLaMA 或 Alpaca 的模型权重文件。由于版权限制，本项目不包含原始权重。

基本使用

启动微调训练

假设您已将 LLaMA 或 Alpaca 权重放置在本地路径 <PATH_TO_LLAMA_WEIGHTS>，可以使用以下命令基于 medical_meadow_small 数据集启动微调。

此示例配置开启了 8bit 量化 和 LoRA 高效微调，适合单卡消费级显卡运行：

python medalpaca/train.py \
    --model <PATH_TO_LLAMA_WEIGHTS> \
    --data_path medical_meadow_small.json \
    --output_dir 'output' \
    --train_in_8bit True \
    --use_lora True \
    --bf16 True \
    --tf32 False \
    --fp16 False \
    --global_batch_size 128 \
    --per_device_batch_size 8

参数说明：

• --model: 指向包含原始模型权重的文件夹路径。
• --train_in_8bit: 设为 True 可显著降低显存占用（目前需配合 use_lora True 使用）。
• --use_lora: 启用 LoRA 进行参数高效微调。
• --data_path: 训练数据路径，默认脚本支持多种格式，也可替换为其他 Medical Meadow 数据集。

提示: 该脚本同样适用于微调其他兼容模型（如 facebook/opt-6.7b），只需更改 --model 参数即可。

获取预训练模型

如果您不想从头训练，可以直接从 Hugging Face 下载社区已微调好的模型：

• 访问地址：https://huggingface.co/medalpaca
• 推荐模型：medalpaca/medalpaca-7b 或 medalpaca/medalpaca-13b

---

免责声明: 本项目提供的模型仅供学术研究使用，未经过严格的医疗验证，严禁直接用于任何真实的医疗诊断、治疗建议或 healthcare 应用场景。