• 使用 LLaMA-Factory 微调 Llama3.1-70B 以用于医学诊断（中文）
• 使用 LLaMA-Factory 微调 Qwen2.5-VL 以用于自动驾驶（中文）
• LLaMA Factory：微调 DeepSeek-R1-Distill-Qwen-7B 模型以用于新闻分类（中文）
• 基于 SageMaker 和 LLaMA-Factory 的一站式无代码模型微调与部署平台（中文）
• LLaMA Factory 多模态微调实践：微调 Qwen2-VL 以用于个人旅游指南（中文）
• LLaMA Factory：微调 Llama3 以用于角色扮演（中文）

[25/07/02] 我们新增支持微调 GLM-4.1V-9B-Thinking 模型。

[25/04/28] 我们新增支持微调 Qwen3 系列模型。

[25/04/21] 我们新增支持 Muon 优化器。使用方法请参阅 示例。感谢 @tianshijing 的 PR。

[25/04/16] 我们新增支持微调 InternVL3 模型。请参阅 PR #7258 以开始使用。

[25/04/14] 我们新增支持微调 GLM-Z1 和 Kimi-VL 模型。

[25/04/06] 我们新增支持微调 Llama 4 模型。请参阅 PR #7611 以开始使用。

[25/03/31] 我们新增支持微调 Qwen2.5 Omni 模型。请参阅 PR #7537 以开始使用。

[25/03/15] 我们新增支持 SGLang 作为推理后端。尝试设置 infer_backend: sglang 以加速推理。

[25/03/12] 我们新增支持微调 Gemma 3 模型。

[25/02/24] 宣布推出 EasyR1，这是一个高效、可扩展且支持多模态的 RL 训练框架，专为高效的 GRPO 训练而设计。

[25/02/11] 我们支持在导出模型检查点时保存 Ollama 的 modelfile。使用方法请参阅 示例。

[25/02/05] 我们支持在音频理解任务上对 Qwen2-Audio 和 MiniCPM-o-2.6 进行微调。

[25/01/31] 我们支持对 DeepSeek-R1 和 Qwen2.5-VL 模型进行微调。

[25/01/15] 我们支持 APOLLO 优化器。使用方法请参阅 示例。

[25/01/14] 我们支持对 MiniCPM-o-2.6 和 MiniCPM-V-2.6 模型进行微调。感谢 @BUAADreamer 的 PR。

[25/01/14] 我们支持对 InternLM 3 模型进行微调。感谢 @hhaAndroid 的 PR。

[25/01/10] 我们支持对 Phi-4 模型进行微调。

[24/12/21] 我们支持使用 SwanLab 进行实验跟踪和可视化。详情请参阅 本节。

[24/11/27] 我们支持对 Skywork-o1 模型以及 OpenO1 数据集进行微调。

[24/10/09] 我们支持从 Modelers Hub 下载预训练模型和数据集。使用方法请参阅 本教程。

[24/09/19] 我们支持对 Qwen2.5 模型进行微调。

[24/08/30] 我们支持对 Qwen2-VL 模型进行微调。感谢 @simonJJJ 的 PR。

[24/08/27] 我们支持 Liger Kernel。尝试设置 enable_liger_kernel: true 以实现高效训练。

[24/08/09] 我们支持 Adam-mini 优化器。使用方法请参阅 示例。感谢 @relic-yuexi 的 PR。

[24/07/04] 我们支持 无污染的打包训练。使用 neat_packing: true 可启用此功能。感谢 @chuan298 的 PR。

[24/06/16] 我们支持 PiSSA 算法。使用方法请参阅 示例。

[24/06/07] 我们支持对 Qwen2 和 GLM-4 模型进行微调。

[24/05/26] 我们支持用于偏好学习的 SimPO 算法。使用方法请参阅 示例。

[24/05/20] 我们支持对 PaliGemma 系列模型进行微调。请注意，PaliGemma 模型是预训练模型，您需要使用 paligemma 模板对其进行微调以完成对话生成。

[24/05/18] 我们支持用于偏好学习的 KTO 算法。使用方法请参阅 示例。

[24/05/14] 我们支持在 Ascend NPU 设备上进行训练和推理。详情请参阅 安装 部分。

[24/04/26] 我们支持对 LLaVA-1.5 多模态大语言模型进行微调。使用方法请参阅 示例。

[24/04/22] 我们提供了一个 Colab 笔记本，用于在免费的 T4 GPU 上对 Llama-3 模型进行微调。使用 LLaMA Factory 微调的两款 Llama-3 衍生模型已在 Hugging Face 上发布，请查看 Llama3-8B-Chinese-Chat 和 Llama3-Chinese 以获取详细信息。

[24/04/21] 我们支持根据 AstraMindAI 的实现 使用 Mixture-of-Depths。使用方法请参阅 示例。

[24/04/16] 我们支持 BAdam 优化器。使用方法请参阅 示例。

[24/04/16] 我们支持 unsloth 的长序列训练（在 24GB 显存下运行 Llama-2-7B-56k）。与 FlashAttention-2 相比，其速度提升了 117%，显存占用减少了 50%。更多基准测试结果可在 此页面 查看。

[24/03/31] 我们支持 ORPO。使用方法请参阅 示例。

[24/03/21] 我们的论文 “[LlamaFactory：统一高效的 100+ 语言模型微调]” 已在 arXiv 上发表！

[24/03/20] 我们支持 FSDP+QLoRA，可在两块 24GB 显存的 GPU 上对 70B 参数的模型进行微调。使用方法请参阅 示例。

[24/03/13] 我们支持 LoRA+。使用方法请参阅 示例。

[24/03/07] 我们支持 GaLore 优化器。使用方法请参阅 示例。

[24/03/07] 我们集成了 vLLM，以实现更快、更高效的并发推理。尝试设置 infer_backend: vllm，即可享受 270% 的推理速度提升。

[24/02/28] 我们支持权重分解的 LoRA (DoRA)。尝试设置 use_dora: true 以启用 DoRA 训练。

[24/02/15] 我们支持由 LLaMA Pro 提出的 块扩展。使用方法请参阅 示例。

[24/02/05] Qwen1.5（Qwen2 测试版）系列模型现已在 LLaMA-Factory 中得到支持。详情请参阅这篇 博客文章。

[24/01/18] 我们支持对大多数模型进行 代理微调，通过使用 dataset: glaive_toolcall_en 进行微调，为模型赋予工具使用能力。

[23/12/23] 我们支持 unsloth 的实现，以加速 LLaMA、Mistral 和 Yi 模型的 LoRA 微调。尝试设置 use_unsloth: true 参数以激活 unsloth 补丁。在我们的基准测试中，其速度提升了 170%，详情请参阅 此页面。

[23/12/12] 我们支持在我们的框架中对最新的 MoE 模型 Mixtral 8x7B 进行微调。硬件要求请参阅 此处。

[23/12/01] 我们支持从 ModelScope Hub 下载预训练模型和数据集。使用方法请参阅 本教程。

[23/10/21] 我们支持了用于微调的 NEFTune 技巧。尝试使用 neftune_noise_alpha: 5 参数来激活 NEFTune。

[23/09/27] 我们为 LLaMA 模型支持了由 LongLoRA 提出的 $S^2$-Attn。尝试使用 shift_attn: true 参数来启用移位短注意力机制。

[23/09/23] 我们在这个仓库中集成了 MMLU、C-Eval 和 CMMLU 基准测试。使用方法请参阅 示例。

[23/09/10] 我们支持了 FlashAttention-2。如果你使用的是 RTX4090、A100 或 H100 显卡，可以尝试使用 flash_attn: fa2 参数来启用 FlashAttention-2。

[23/08/12] 我们支持了 RoPE 缩放，以扩展 LLaMA 模型的上下文长度。在训练时尝试使用 rope_scaling: linear 参数，在推理时使用 rope_scaling: dynamic 参数，以实现位置嵌入的外推。

[23/08/11] 我们支持了针对指令微调模型的 DPO 训练。使用方法请参阅 示例。

[23/07/31] 我们支持了 数据流式加载。尝试使用 streaming: true 和 max_steps: 10000 参数，以流式方式加载你的数据集。

[23/07/29] 我们在 Hugging Face 上发布了两款经过指令微调的 13B 参数模型。详情请见这些 Hugging Face 仓库（LLaMA-2 / Baichuan)。

[23/07/18] 我们开发了一个用于训练、评估和推理的 一体化 Web 界面。尝试运行 train_web.py，即可在你的浏览器中对模型进行微调。感谢 @KanadeSiina 和 @codemayq 在开发过程中所做的努力。

[23/07/09] 我们发布了 FastEdit ⚡🩹，这是一个易于使用的工具包，可高效地编辑大型语言模型的事实性知识。如果你对此感兴趣，请关注 FastEdit。

[23/06/29] 我们提供了一个使用指令遵循数据集训练聊天模型的 可复现示例，详情请参阅 Baichuan-7B-sft。

[23/06/22] 我们的演示 API（src/api_demo.py）已与 OpenAI 的格式（OpenAI 官网）对齐，你可以在任何基于 ChatGPT 的应用程序中插入经过微调的模型。

[23/06/03] 我们支持量化训练和推理（即 QLoRA）。使用方法请参阅 示例。

• Wiki Demo (en)
• RefinedWeb (en)
• RedPajama V2 (en)
• Wikipedia (en)
• Wikipedia (zh)
• Pile (en)
• SkyPile (zh)
• FineWeb (en)
• FineWeb-Edu (en)
• CCI3-HQ (zh)
• CCI3-Data (zh)
• CCI4.0-M2-Base-v1 (en&zh)
• CCI4.0-M2-CoT-v1 (en&zh)
• CCI4.0-M2-Extra-v1 (en&zh)
• The Stack (en)
• StarCoder (en)

• 身份信息 (英&中)
• 斯坦福Alpaca (英)
• 斯坦福Alpaca (中)
• Alpaca GPT4 (英&中)
• Glaive函数调用V2 (英&中)
• LIMA (英)
• Guanaco数据集 (多语言)
• BELLE 2M (中)
• BELLE 1M (中)
• BELLE 0.5M (中)
• BELLE对话0.4M (中)
• BELLE学校数学0.25M (中)
• BELLE多轮对话0.8M (中)
• UltraChat (英)
• OpenPlatypus (英)
• CodeAlpaca 20k (英)
• Alpaca CoT (多语言)
• OpenOrca (英)
• SlimOrca (英)
• MathInstruct (英)
• Firefly 1.1M (中)
• Wiki QA (英)
• Web QA (中)
• WebNovel (中)
• Nectar (英)
• deepctrl (英&中)
• 广告生成 (中)
• ShareGPT超滤版 (英)
• ShareGPT4 (英&中)
• UltraChat 200k (英)
• Infinity Instruct (中)
• AgentInstruct (英)
• LMSYS聊天1M (英)
• Evol Instruct V2 (英)
• Cosmopedia (英)
• STEM (中)
• Ruozhiba (中)
• Neo-sft (中)
• Magpie-Pro-300K-Filtered (英)
• Magpie-ultra-v0.1 (英)
• WebInstructSub (英)
• OpenO1-SFT (英&中)
• Open-Thoughts (英)
• Open-R1-Math (英)
• 中文-DeepSeek-R1-Distill (中)
• LLaVA混合版 (英&中)
• 宝可梦-gpt4o-字幕 (英&中)
• DLR-Web (英)
• 开放助手 (德)
• Dolly 15k (德)
• Alpaca GPT4 (德)
• OpenSchnabeltier (德)
• Evol Instruct (德)
• Dolphin (德)
• Booksum (德)
• Airoboros (德)
• Ultrachat (德)

• DPO混合版 (英&中)
• UltraFeedback (英)
• COIG-P (中)
• RLHF-V (英)
• VLFeedback (英)
• RLAIF-V (英)
• Orca DPO配对 (英)
• HH-RLHF (英)
• Nectar (英)
• Orca DPO (德)
• KTO混合版 (英)

使用 uv 创建隔离的 Python 环境：

uv run llamafactory-cli webui

安装 PyTorch

在 Windows 平台上，您需要手动安装支持 GPU 的 PyTorch 版本。请参考 官方文档 和以下命令以安装支持 CUDA 的 PyTorch：

pip uninstall torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
python -c "import torch; print(torch.cuda.is_available())"

如果输出为 True，则表示您已成功安装支持 CUDA 的 PyTorch。

若遇到 Can't pickle local object 错误，请尝试将 dataloader_num_workers: 0。

安装 BitsAndBytes

如果您希望在 Windows 平台上启用量化 LoRA (QLoRA)，则需要安装预先编译好的 bitsandbytes 库，该库支持 CUDA 11.1 至 12.2。请根据您的 CUDA 版本选择合适的 发布版本。

pip install https://github.com/jllllll/bitsandbytes-windows-webui/releases/download/wheels/bitsandbytes-0.41.2.post2-py3-none-win_amd64.whl

安装 Flash Attention-2

要在 Windows 平台上启用 FlashAttention-2，您需要使用来自 flash-attention-windows-wheel 的脚本自行编译并安装。

要在 Ascend NPU 设备上安装 LLaMA Factory，请将 Python 升级至 3.10 或更高版本：pip install -r requirements/npu.txt。此外，您还需要安装 Ascend CANN 工具包和内核。请按照 安装教程 进行操作。

您也可以下载预构建的 Docker 镜像：

# Docker Hub
docker pull hiyouga/llamafactory:latest-npu-a2
docker pull hiyouga/llamafactory:latest-npu-a3

# quay.io
docker pull quay.io/ascend/llamafactory:latest-npu-a2
docker pull quay.io/ascend/llamafactory:latest-npu-a3

安装 BitsAndBytes

要在 Ascend NPU 上使用基于 bitsandbytes 的 QLoRA，请遵循以下 3 步骤：

1. 手动编译 bitsandbytes：请参考 安装文档 中关于 NPU 版本的说明，完成编译和安装。编译过程需要至少 3.22.1 版本的 cmake 和至少 12.x 版本的 g++。

# 从源码安装 bitsandbytes
# 克隆 bitsandbytes 仓库，目前多后端重构分支已支持 Ascend NPU 后端
git clone -b multi-backend-refactor https://github.com/bitsandbytes-foundation/bitsandbytes.git
cd bitsandbytes/

# 安装依赖
pip install -r requirements-dev.txt

# 安装编译工具的依赖。请注意，此步骤的具体命令可能因操作系统而异，以下供参考
apt-get install -y build-essential cmake

# 编译 & 安装  
cmake -DCOMPUTE_BACKEND=npu -S .
make
pip install .

2. 从主分支安装 transformers。

git clone -b main https://github.com/huggingface/transformers.git
cd transformers
pip install .

3. 在配置中设置 double_quantization: false。您可以参考 示例。

对于 CUDA 用户：

docker build -f ./docker/docker-cuda/Dockerfile \
    --build-arg PIP_INDEX=https://pypi.org/simple \
    -t llamafactory:latest .

docker run -dit --ipc=host --gpus=all \
    -p 7860:7860 \
    -p 8000:8000 \
    --name llamafactory \
    llamafactory:latest

docker exec -it llamafactory bash

对于 Ascend NPU 用户：

docker build -f ./docker/docker-npu/Dockerfile \
    --build-arg PIP_INDEX=https://pypi.org/simple \
    -t llamafactory:latest .

docker run -dit --ipc=host \
    -v /usr/local/dcmi:/usr/local/dcmi \
    -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \
    -v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
    -v /etc/ascend_install.info:/etc/ascend_install.info \
    -p 7860:7860 \
    -p 8000:8000 \
    --device /dev/davinci0 \
    --device /dev/davinci_manager \
    --device /dev/devmm_svm \
    --device /dev/hisi_hdc \
    --name llamafactory \
    llamafactory:latest

docker exec -it llamafactory bash

对于 AMD ROCm 用户：

docker build -f ./docker/docker-rocm/Dockerfile \
    --build-arg PIP_INDEX=https://pypi.org/simple \
    -t llamafactory:latest .

docker run -dit --ipc=host \
    -p 7860:7860 \
    -p 8000:8000 \
    --device /dev/kfd \
    --device /dev/dri \
    --name llamafactory \
    llamafactory:latest

docker exec -it llamafactory bash

您可以在 Dockerfile 中取消注释 VOLUME [ "/root/.cache/huggingface", "/app/shared_data", "/app/output" ] 来使用数据卷。

在构建 Docker 镜像时，使用 -v ./hf_cache:/root/.cache/huggingface 参数将本地目录挂载到容器中。以下数据卷可用。

• hf_cache: 在宿主机上利用 Hugging Face 缓存。
• shared_data: 宿主机上用于存储数据集的目录。
• output: 将导出目录设置为此位置，以便可以直接在宿主机上访问合并结果。

1. Wang 等人。ESRL：用于序列生成的高效采样强化学习。2023年。[arxiv]
2. Yu 等人。文本分类中使用开放、封闭还是小型语言模型？2023年。[arxiv]
3. Wang 等人。UbiPhysio：通过自然语言中的动作理解和反馈支持日常功能、健身和康复。2023年。[arxiv]
4. Luceri 等人。利用大型语言模型检测社交媒体中的影响力活动。2023年。[arxiv]
5. Zhang 等人。通过诱导幻觉缓解大型语言模型的幻觉问题。2023年。[arxiv]
6. Wang 等人。更了解您的需求：借助类比推理增强的大型语言模型，实现对营销人员需求的结构化理解。KDD 2024。[arxiv]
7. Wang 等人。CANDLE：从大型语言模型中迭代提炼概念化与实例化知识，用于常识推理。ACL 2024。[arxiv]
8. Choi 等人。FACT-GPT：基于大型语言模型进行主张匹配的事实核查增强。2024年。[arxiv]
9. Zhang 等人。AutoMathText：利用语言模型对数学文本进行自主数据选择。2024年。[arxiv]
10. Lyu 等人。KnowTuning：面向大型语言模型的知识感知微调。2024年。[arxiv]
11. Yang 等人。LaCo：通过层融合对大型语言模型进行剪枝。2024年。[arxiv]
12. Bhardwaj 等人。语言模型就是荷马·辛普森！通过任务算术重新对齐微调后的语言模型以提高安全性。2024年。[arxiv]
13. Yang 等人。通过小型共情模型增强大型语言模型，提升共情回复生成能力。2024年。[arxiv]
14. Yi 等人。生成与验证结合：利用智能并行自动纠错解码加速大型语言模型推理。ACL 2024成果。[arxiv]
15. Cao 等人。面向大型语言模型的头级可共享注意力机制。2024年。[arxiv]
16. Zhang 等人。通过从资源丰富的语言中自我蒸馏，提升大型语言模型的多语言能力。2024年。[arxiv]
17. Kim 等人。高效且有效的词汇扩展，助力多语种大型语言模型发展。2024年。[arxiv]
18. Yu 等人。KIEval：面向大型语言模型的知识驱动型交互式评估框架。ACL 2024。[arxiv]
19. Huang 等人。基于关键点的数据合成及其在数学推理中的增强作用。2024年。[arxiv]
20. Duan 等人。否定之否定：通过分布差异优化实现无需人类正面样本的对齐。2024年。[arxiv]
21. Xie 和 Schwertfeger。用大型语言模型赋能机器人技术：利用大型语言模型理解osmAG地图。2024年。[arxiv]
22. Wu 等人。大型语言模型是并行的多语种学习者。2024年。[arxiv]
23. Zhang 等人。EDT：基于熵的动态温度采样提升大型语言模型生成质量。2024年。[arxiv]
24. Weller 等人。FollowIR：评估并训练信息检索模型遵循指令的能力。2024年。[arxiv]
25. Hongbin Na。CBT-LLM：一款用于基于认知行为疗法的心理健康问答的中文大型语言模型。COLING 2024。[arxiv]
26. Zan 等人。CodeS：通过多层草图实现自然语言到代码仓库的转换。2024年。[arxiv]
27. Liu 等人。广泛的自我对比使语言模型无需反馈即可实现对齐。2024年。[arxiv]
28. Luo 等人。BAdam：一种面向大型语言模型的内存高效的全参数训练方法。2024年。[arxiv]
29. Du 等人。Chinese Tiny LLM：预训练一个以中文为中心的大型语言模型。2024年。[arxiv]
30. Ma 等人。利用Givens旋转实现参数高效的准正交微调。ICML 2024。[arxiv]
31. Liu 等人。利用大型语言模型动态生成个性。2024年。[arxiv]
32. Shang 等人。我们利用大型语言模型理解剥离二进制代码已经走到了哪一步。2024年。[arxiv]
33. Huang 等人。LLMTune：利用大型语言模型加速数据库参数调优。2024年。[arxiv]
34. Deng 等人。文本-元组-表格：通过全局元组提取，迈向文本到表格生成的信息集成。2024年。[arxiv]
35. Acikgoz 等人。Hippocrates：一个用于推动大型语言模型在医疗领域发展的开源框架。2024年。[arxiv]
36. Zhang 等人。小型语言模型需要强大的验证器来自我纠正推理。ACL 2024成果。[arxiv]
37. Zhou 等人。FREB-TQA：一个针对表格问答的细粒度鲁棒性评估基准。NAACL 2024。[arxiv]
38. Xu 等人。大型语言模型在网络安全中的应用：系统性文献综述。2024年。[arxiv]
39. Dammu 等人。“他们没有教养”：揭示大型语言模型生成对话中的隐蔽危害和社会威胁。2024年。[arxiv]
40. Yi 等人。一种基于子空间导向的模型融合安全对齐框架，适用于大型语言模型。2024年。[arxiv]
41. Lou 等人。SPO：基于隐式奖励建模的多维偏好顺序对齐。2024年。[arxiv]
42. Zhang 等人。事半功倍：大型语言模型是优秀的自发性多语种学习者。2024年。[arxiv]
43. Zhang 等人。TS-Align：一个师生协作框架，用于大规模迭代微调大型语言模型。2024年。[arxiv]
44. Zihong Chen。基于XunziALLM的句子分割和标点符号添加。2024年。[论文]
45. Gao 等人。兼得两者之长：迈向诚实且有用的大型语言模型。2024年。[arxiv]
46. Wang 和 Song。MARS：利用多任务评估数据集衡量语言模型的形而上学推理能力。2024年。[arxiv]
47. Hu 等人。基于Transformer模型的低秩适应（LoRA）的计算限制。2024年。[arxiv]
48. Ge 等人。通过高效微调进行时间敏感的知识编辑。ACL 2024。[arxiv]
49. Tan 等人。同行评审作为一种多轮且长上下文的对话，具有角色互动的特点。2024年。[arxiv]
50. Song 等人。Turbo Sparse：仅用最少激活参数就达到大型语言模型的最先进水平。2024年。[arxiv]
51. Gu 等人。RWKV-CLIP：一种鲁棒的视觉-语言表征学习器。2024年。[arxiv]
52. Chen 等人。推进工具增强型大型语言模型：整合推理树中错误的见解。2024年。[arxiv]
53. Zhu 等人。大型语言模型是优秀的统计学家吗？2024年。[arxiv]
54. Li 等人。知晓未知：一种针对大型语言模型指令微调的不确定性敏感方法。2024年。[arxiv]
55. Ding 等人。IntentionQA：一个用于评估语言模型在电子商务中理解购买意图能力的基准。2024年。[arxiv]
56. He 等人。COMMUNITY-CROSS-INSTRUCT：无监督指令生成，用于将大型语言模型对齐到在线社区。2024年。[arxiv]
57. Lin 等人。FVEL：通过定理证明，利用大型语言模型构建交互式形式化验证环境。2024年。[arxiv]
58. Treutlein 等人。串联线索：大型语言模型可以从分散的训练数据中推断并表达潜在结构。2024年。[arxiv]
59. Feng 等人。SS-Bench：一个用于社交故事生成与评估的基准。2024年。[arxiv]
60. Feng 等人。自建上下文分解，并辅以细粒度对齐增强。2024年。[arxiv]
61. Liu 等人。利用可穿戴生物信号，通过大型语言模型进行无袖血压测量。2024年。[arxiv]
62. Iyer 等人。探索利用大型语言模型进行极低资源翻译：爱丁堡大学提交给美洲NLP 2024翻译任务的作品。美洲NLP 2024。[论文]
63. Li 等人。通过在科学问题评分中生成论证过程，利用思维树上的偏好优化校准大型语言模型。2024年。[arxiv]
64. Yang 等人。金融知识大型语言模型。2024年。[arxiv]
65. Lin 等人。DogeRM：通过模型合并为奖励模型配备领域知识。2024年。[arxiv]
66. Bako 等人。评估大型语言模型对数据可视化中自然语言话语的语义剖析能力。2024年。[arxiv]
67. Huang 等人。RoLoRA：对经过旋转处理且无异常值的大型语言模型进行微调，以实现有效的权重-激活量化。2024年。[arxiv]
68. Jiang 等人。大型语言模型合作开展面向大众的自动科学新闻报道。2024年。[arxiv]
69. Inouye 等人。LoRA超参数的自动化调优。2024年。[论文]
70. Qi 等人。基于大型语言模型的西藏旅游景点信息生成系统研究。2024年。[arxiv]
71. Xu 等人。方向修正：利用合成偏好进行安全对齐。2024年。[arxiv]
72. Sun 等人。LAMBDA：一个基于大型模型的数据代理。2024年。[arxiv]
73. Zhu 等人。CollectiveSFT：通过医疗领域的集体指令，将大型语言模型扩展至中国医学基准。2024年。[arxiv]
74. Yu 等人。通过负注意力分数对齐纠正大型语言模型中的负面偏见。2024年。[arxiv]
75. Xie 等人。个性化数据集的力量：通过针对性的模型微调，提升小学阶段的中文作文写作水平。IALP 2024。[论文]
76. Liu 等人。Instruct-Code-Llama：通过在线评测反馈，提升语言模型在竞赛级别代码生成方面的能力。ICIC 2024。[论文]
77. Wang 等人。网络卫士：揭示监督式微调中安全数据选择对模型安全性的影响。ICIC 2024。[论文]
78. Xia 等人。理解大型语言模型微调的性能并估算成本。2024年。[arxiv]
79. Zeng 等人。感知、反思和计划：设计无需指令的目标导向城市导航大型语言模型代理。2024年。[arxiv]
80. Xia 等人。利用预训练语言模型进行精准的ESG预测。FinNLP 2024。[论文]
81. Liang 等人。I-SHEEP：通过迭代自我增强范式，从零开始实现大型语言模型的自我对齐。2024年。[arxiv]
82. Bai 等人。通过直接多偏好优化对大型语言模型进行推荐对齐。CIKM 2024。[论文]
83. Zhang 等人。CPsyCoun：一个基于报告的多轮对话重建与评估框架，用于中国心理咨询。ACL 2024。[论文]
84. StarWhisper：一款基于ChatGLM2-6B和Qwen-14B的天文学专用大型语言模型。
85. DISC-LawLLM：一款专注于中国法律领域的大型语言模型，基于Baichuan-13B，能够检索和推理法律知识。
86. Sunsimiao：一款专注于中国医学领域的大型语言模型，基于Baichuan-7B和ChatGLM-6B。
87. CareGPT：一系列专注于中国医学领域的大型语言模型，基于LLaMA2-7B和Baichuan-13B。
88. MachineMindset：一系列基于MBTI性格类型的大型语言模型，能够根据不同的数据集和训练方法为任何大型语言模型赋予16种不同的人格类型。
89. Luminia-13B-v3：一款专门用于生成稳定扩散元数据的大型语言模型。[演示]
90. Chinese-LLaVA-Med：一款基于LLaVA-1.5-7B的多模态大型语言模型，专注于中国医学领域。
91. AutoRE：一个基于大型语言模型的文档级关系抽取系统。
92. NVIDIA RTX AI Toolkit：用于在Windows PC上使用NVIDIA RTX微调大型语言模型的SDK。
93. LazyLLM：一种简单便捷的方式来构建多智能体大型语言模型应用，并支持通过LLaMA Factory进行模型微调。
94. RAG-Retrieval：一个完整的RAG检索模型微调、推理和蒸馏流程。[博客]
95. 360-LLaMA-Factory：一个修改过的库，支持使用环形注意力进行长序列SFT和DPO。
96. Sky-T1：由NovaSky AI微调的一款类似o1的模型，成本非常低廉。
97. WeClone：一个一站式解决方案，可根据聊天记录创建您的数字化身。
98. EmoLLM：一个关于大型语言模型（LLMs）与心理健康的合作项目。