LLM 微调

实验细节请看：

新闻

• Qwen3-Medical-sft: Qwen3微调实战：医疗R1推理风格聊天

准备工作

安装环境：pip install -r requirements.txt

文本分类任务-数据集下载：在huangjintao/zh_cls_fudan-news下载train.jsonl和test.jsonl到根目录下。

命名实体识别任务-数据集下载：在qgyd2021/chinese_ner_sft下载ccfbdci.jsonl到根目录下。

Qwen2-VL多模态任务-数据集下载：

cd ./qwen2_vl
python data2csv.py
python csv2json.py

训练

模型	任务	运行命令	Notebook	文章
Qwen2-VL-2b	多模态微调	进入qwen2_vl目录，运行python train_qwen2_vl.py	wait	知乎
Qwen2-1.5b	指令微调-文本分类	python train_qwen2.py	Jupyter Notebook	知乎
Qwen2-1.5b	指令微调-命名实体识别	python train_qwen2_ner.py	Jupyter Notebook	知乎
GLM4-9b	指令微调-文本分类	python train_glm4.py	Jupyter Notebook	知乎
GLM4-9b	指令微调-命名实体识别	python train_glm4_ner.py	Jupyter Notebook	知乎

推理

Qwen2系列：

python predict_qwen2.py

Qwen2-VL系列：

cd ./qwen2_vl
python predict_qwen2_vl.py

GLM4系列：

python predict_glm4.py

引用工具

• SwanLab：AI训练记录、分析与可视化工具

LLM-Finetune 快速上手指南

本指南帮助中国开发者快速使用 LLM-Finetune 进行大语言模型（如 Qwen2、GLM4、Qwen2-VL）的指令微调与推理。

1. 环境准备

• 系统要求：Linux / macOS / Windows (建议 Linux)
• Python 版本：3.8+
• 硬件要求：支持 CUDA 的 NVIDIA GPU（推荐显存 ≥ 16GB，具体视模型大小而定）
• 前置依赖：确保已安装 git 和 pip

2. 安装步骤

克隆项目并安装依赖：

git clone <项目仓库地址>
cd LLM-Finetune
pip install -r requirements.txt

💡 提示：若下载依赖较慢，可使用国内镜像源加速：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 数据准备

根据任务类型下载对应数据集至项目根目录：

• 文本分类任务： 从 ModelScope 下载 train.jsonl 和 test.jsonl。

• 命名实体识别（NER）任务： 从 HuggingFace 下载 ccfbdci.jsonl。

• 多模态任务（Qwen2-VL）： 进入目录并转换数据格式：

  cd ./qwen2_vl
  python data2csv.py
  python csv2json.py
  

4. 开始训练

选择对应的模型与任务运行训练脚本：

模型	任务	运行命令
Qwen2-1.5b	文本分类	python train_qwen2.py
Qwen2-1.5b	命名实体识别	python train_qwen2_ner.py
GLM4-9b	文本分类	python train_glm4.py
GLM4-9b	命名实体识别	python train_glm4_ner.py
Qwen2-VL-2b	多模态微调	cd ./qwen2_vl && python train_qwen2_vl.py

📊 实验监控：训练过程自动接入 SwanLab，可实时查看损失曲线与指标变化。

5. 模型推理

训练完成后，使用以下命令进行预测：

• Qwen2 系列：

  python predict_qwen2.py
  

• GLM4 系列：

  python predict_glm4.py
  

• Qwen2-VL 系列：

  cd ./qwen2_vl
  python predict_qwen2_vl.py