👍 什么是优质的数据集？

数据是大模型开发中最宝贵的资产。在构建高质量数据集时，我们主要关注以下三个特性：

• 准确性：样本应事实准确，并与对应的指令高度相关。这可能需要使用数学求解器或代码单元测试来验证。
• 多样性：尽可能覆盖多种使用场景，以确保模型不会遇到分布外的情况。高多样性对于提升模型的泛化能力至关重要。
• 复杂性：样本应具备多轮对话、多语言支持、高质量的文本表达，并在适当的情况下包含逐步推理过程。

为了确保数据集的质量，必须结合多种技术手段，例如人工审核、基于规则的过滤等启发式方法，以及通过判别型大模型或奖励模型进行打分评估。

📅 指令数据集

当模型已经在下一个词预测任务上完成预训练后，通过监督微调（SFT）可以将其转化为能够回答问题并遵循指令的助手模型。在SFT过程中，模型会学习对话模板，并针对一个或多个领域进行专业化训练。

[!NOTE] 除非另有说明，此处列出的所有数据集均采用宽松许可协议（如Apache 2.0、MIT、CC-BY-4.0等）。

通用类

通用数据集提供了多种类型数据的均衡混合，包括对话、代码和数学等。这些数据集可用于创建能够处理各类查询的通用模型。

数据集	样本数	作者	发布日期	备注
Nemotron-Post-Training-Dataset-v2	634万	英伟达	2025年8月	包含西班牙语、法语、德语、意大利语和日语五种语言的大规模数据集，涵盖数学、代码、通用推理及指令遵循任务。用于训练Nemotron-Nano-9B-v2。
smoltalk2	338万	Hugging Face	2025年7月	用于训练带有和不带推理轨迹的SmolLM3模型的数据集。包含OpenThoughts3、Tulu 3以及多语言数据。详情请参阅SmolLM3博客文章。
open-perfectblend	142万	Xu等人、Labonne	2024年10月	对这篇论文中描述的数据集的开源复现。这是一份坚实的通用指令数据集，包含对话、数学、代码及指令遵循数据。
orca-agentinstruct-1M-v1	105万	微软	2024年11月	AgentInstruct数据集的一个子集（约25个样本），专为Orca-3-Mistral设计，以网络公开的原始文本作为种子数据。
tulu3-sft-mixture	93.9万	AllenAI	2024年11月	（CC-BY-NC-4.0）用于训练Tulu 3的SFT混合数据集。该数据集结合了公开数据和新的合成版本，其中还包括基于角色设定的回答以增强多样性。
FuseChat-Mixture	9.5万	Wan等人	2024年2月	一份全面的训练数据集，涵盖了不同风格和能力，既有真人撰写的内容，也有模型生成的样本。详情请参阅FuseChat论文。

数学

大语言模型在数学推理和形式逻辑方面常常表现不佳，因此催生了专门的数据集。这些数据集通常包含系统性思维和逐步推理的内容。

数据集	样本数	作者	发布日期	备注
MegaScience	125万	GAIR-NLP	2025年7月	(CC-BY-NC-SA-4.0) 高质量的跨领域科学数据集，并附有消融实验。论文链接：这里。
OpenThoughts3-1.2M	120万	OpenThoughts	2024年6月	混合数据集，包含85万数学、25万代码和10万科学样本，由QwQ-32B标注。
NuminaMath-CoT	85.9万	李佳等	2024年7月	用于赢得首届AI数学奥林匹克竞赛进步奖的数据集。工具集成推理版本请见：这里。
AM-Thinking-v1-Distilled (Math)	55.8万	a-m-team	2025年5月	经过验证的数学数据集，由AM-Thinking-v1和Qwen3-235B-A22B提炼而来。论文链接：这里。
OmniThought-0528)	36.5万	阿里巴巴-PAI	2025年6月	从DeepSeek-R1和QwQ-32B提炼出的数学、代码和科学样本，附带冗长性和复杂度评分。
Orca-Math	20万	Mitra等	2024年2月	使用GPT4-Turbo生成的小学数学应用题。相关论文请见：Orca-Math论文。

代码

代码是大语言模型面临的另一大挑战领域。包含多种编程语言示例的代码数据集被用来微调大语言模型，以提升其理解、生成和分析代码的能力。

数据集	样本数	作者	发布日期	备注
Ling-Coder-SFT	448万	InclusionAI	2025年3月	大规模中英文代码数据集，涵盖20种编程语言及各类主题。技术报告请见：这里。
rStar-Coder	100万	微软	2025年5月	大规模竞赛类代码问题数据集，针对LiveCodeBench、HumanEval和MBPP。论文链接：这里。
opc-sft-stage2	43.6万	黄等人	2024年11月	OpenCoder第二阶段使用的数据集，基于四个种子数据集。相关论文请见：OpenCoder论文。
AM-Thinking-v1-Distilled (Code)	32.4万	a-m-team	2025年5月	经过验证的代码数据集，由AM-Thinking-v1和Qwen3-235B-A22B提炼而来。论文链接：这里。
CodeFeedback-Filtered-Instruction	15.7万	郑等人	2024年2月	Magicoder-OSS-Instruct、ShareGPT（Python）、Magicoder-Evol-Instruct和Evol-Instruct-Code的过滤版。
synthetic_tex_to_sql	10万	Gretel.ai	2024年4月	合成文本转SQL样本（约2300万 tokens），覆盖多个领域。

指令遵循

指令遵循是指正确执行用户提示中的约束条件的能力，例如“只写两段”、“用法语作答”等。强大的指令遵循能力是现代大语言模型的必备素质。

数据集	样本数	作者	发布日期	备注
AutoIF-instruct-61k-with-funcs	6.15万	迪奥等人	2024年10月	基于Qwen的AutoIF库，使用这段代码和gpt-4o-mini生成的样本。
ifeval-like-data	5.63万	Argilla	2024年10月	仅使用“过滤后”的子集。样本由Qwen2.5-72B生成，并通过lm-evaluation-harness进行验证。
tulu-3-sft-personas-instruction-following	3万	AllenAI	2024年11月	基于Ge等人，2024年提出的方法论，使用人物角色创建的合成样本。

多语言

从零开始学习新语言是一种预训练任务，但提供多语言指令样本有助于提升目标语言上的性能。

数据集	数量	作者	日期	备注
luth-sft	57万	kurakurai	2025年8月	法语/英语数据集，包含原始数据且标注质量较高。更多详情请参阅技术报告。
aya 数据集	20.4万	Singh 等人	2024年2月	由开放科学社区通过 Aya 注释平台整理的多语言指令微调数据集。
M2Lingual	17.5万	ServiceNow AI	2024年6月	覆盖70多种语言和20项自然语言处理任务的数据集，基于 GPT-4 生成，并采用基于任务的分类体系进行引导式演化。更多细节请参阅M2Lingual论文。

代理与函数调用

函数调用使大型语言模型（LLMs）能够根据用户提示推断出参数并执行预定义的函数，而不是生成标准的文本响应。这使得 LLMs 可以无缝集成到外部系统中，执行复杂操作，并提供更准确、更具上下文相关性的响应。

数据集	数量	作者	日期	备注
xlam-function-calling-60k	6万	Salesforce	2024年6月	使用专为函数调用应用生成可验证数据而设计的数据生成流水线创建的样本
FunReason-MT	1.7万	Hao 等人	2025年10月	包含复杂轨迹的多轮函数调用数据集，需要环境-API 图交互及思维链推理。详情请参阅FunReason-MT 论文。
hermes-function-calling-v1	1.16万	Nous	2024年8月	汇编了 Hermes 2 Pro 系列模型中使用的结构化输出和函数调用数据。
ToolACE	1.13万	Liu 等人	2024年8月	通过智能体流水线自我进化合成过程，精心筛选出全面的 API 库
APIGen-MT-5k	5千	Salesforce	2025年4月	（CC-BY-NC-4.0）通过模拟智能体与人类互动，并结合经过验证的任务蓝图生成的多轮智能体轨迹。详情请参阅APIGen-MT 论文。

真实对话

真实世界的对话为我们提供了关于人们如何自然地与 LLMs 交互的宝贵见解，帮助我们识别最重要的应用场景并理解典型的使用模式。

数据集	数量	作者	日期	备注
WildChat-4.8M	320万	Allen AI	2025年8月	人类用户与 ChatGPT 之间的无有害内容对话，经 OpenAI 审核 API 过滤。详情请参阅WildChat 论文。
lmsys-chat-1m	100万	LMSYS	2023年9月	来自 25 种 LLM 的真实对话，收集于 2023 年 4 月至 8 月期间 Vicuna 演示版和 Chatbot Arena 网站上的 21 万个唯一 IP 地址。
arena-human-preference-100k	11万	LMSYS	2025年2月	2024 年 6 月至 8 月间在 Chatbot Arena 上收集的人类偏好评估数据。用于Arena Explorer进行对话分析和分类，包含预先计算好的嵌入向量。

⚖️ 偏好数据集

与指令数据不同，偏好数据集由被选择和被拒绝的回答组成。偏好对齐用于使大语言模型的回答符合人类偏好，从而采用期望的风格和价值观。

数据集	样本数	作者	发布日期	备注
Skywork-Reward-Preference-80K-v0.2	77k	Skywork	2024	该偏好对子数据集来源于HelpSteer2、OffsetBias、WildGuard和Magpie等公开资源。
ultrafeedback-binarized-preferences-cleaned	61.1k	Argilla	2023	这是UltraChat数据集的去污版本，由GPT-4打分后将其二值化为“被选择”和“被拒绝”的回答。
Infinity-Preference	59k	BAAI	2024年9月	使用Infinity-Instruct的标注系统，按任务调整偏好属性权重。每条指令都配有一对来自Gemma-2-9B-IT的偏好样本。
Code-Preference-Pairs	53k	Vezora	2024年7月	代码示例对子，其中被选择的样本正确，而被拒绝的样本包含错误。
orpo-dpo-mix-40k	44k	Argilla, Labonne	2024年5月	结合了以下高质量的DPO数据集，大部分来自Argilla。
HelpSteer3	40.5k	Wang et al.	2024年10月	多属性助益性数据集，包含40,476个偏好样本和40,821个反馈样本，涵盖通用、STEM、代码及多语言领域（共14种语言）。详见HelpSteer3论文。
chatbot_arena_conversations	33k	LMSYS	2023年7月	清洗后的真实对话数据，包含成对的人类偏好，这些数据于2023年4月至6月在Chatbot Arena上收集。
FalseReject	28.8k	Amazon Science	2025年5月	（CC-BY-NC-4.0）用于缓解LLM在44个安全相关类别中过度拒绝行为的数据集。包含对抗性生成但无害的提示，以及上下文感知的回答。详见FalseReject论文。
tulu-3-pref-personas-instruction-following	19.9k	AllenAI	2024年11月	以被选择和被拒绝的回答形式提供的指令遵循数据，用于训练模型遵守精确的约束条件。
Human-Like-DPO-Dataset	10.9k	Weyaxi	2024年5月	训练模型输出更人性化而非通常由LLM生成的正式化内容。

🔧 工具

本节列出的工具可以帮助您评估、生成和探索数据集。首先从各种来源（开源或非开源）汇集可用数据，并应用诸如数据去重和质量检查之类的过滤器。如果初始数据集较小或不足，可以考虑通过合成方式生成额外数据来填补空白。然后通过评估模型性能、识别不足之处并收集或生成数据来迭代地探索和优化数据集，以弥补这些缺陷。

数据抓取

• Trafilatura：一款Python和命令行工具，用于在网络上抓取文本和元数据。曾用于创建RefinedWeb。
• Marker：可快速将PDF转换为Markdown文本。

数据过滤

• 基于规则的过滤：根据黑名单词汇列表移除样本，例如拒绝回复和“作为AI助手”开头的内容（示例）。
• SemHash：基于蒸馏模型快速生成嵌入向量的模糊去重工具。
• Argilla：一个允许多人协作手动过滤和标注数据集的平台。
• judges：一个包含多种分类器和评分器的小型LLM法官库（处于早期开发阶段）。

数据生成

• Curator：一种易于使用的合成数据生成工具，可用于围绕LLM构建流水线、进行批量处理，并实时查看数据生成进度。
• Distilabel：一个通用框架，可通过UltraFeedback和DEITA等技术生成和增强数据（SFT、DPO）。
• Augmentoolkit：一个框架，可利用开源和闭源模型将原始文本转化为数据集。
• Data Prep Kit：适用于代码和语言领域的数据准备框架，包含Python、Ray和Spark模块，规模覆盖从笔记本电脑到数据中心。

数据探索

• Lilac：用于数据集探索、整理和质量控制的工具。
• Nomic Atlas：与指令型数据交互以发现洞察并存储嵌入向量。
• text-clustering：Hugging Face 提供的文本数据聚类框架。
• Autolabel：利用主流语言模型自动为数据打标签。

致谢

特别感谢 geronimi73、Bytes-Explorer、euclaise、RishabhMaheshwary 和 ParagEkbote 的贡献。

参考文献

如果某个数据集未被正确引用，请告知我。

• 魏林·蒋等，“Vicuna：一款开源聊天机器人，以90%*的ChatGPT质量令人印象深刻”，2023年。
• 曹一涵等，“指令挖掘：当数据挖掘遇上大语言模型微调”，2023年。
• 苏巴布拉塔·穆克吉等，“Orca：从GPT-4复杂解释轨迹中逐步学习”，2023年。
• 周春霆等，“LIMA：对齐之道，少即是多”，2023年。
• 苏里亚·古纳塞卡尔等，“只需教科书就够了”，2023年。
• 陈立昌等，“AlpaGasus：用更少的数据训练出更好的Alpaca”，2024年。
• 蔡征等，“InternLM2技术报告”，2024年。
• 袁利凡等，“借助偏好树推进LLM推理通才的发展”，2024年。
• 刘伟等，“什么才是对齐任务中的优质数据？——指令微调中自动数据选择的全面研究”，2024年。
• 王兴尧等，“MINT：在多轮交互中结合工具与语言反馈评估LLM”，2024年。

llm-datasets 快速上手指南

llm-datasets 并非一个需要安装的软件库或框架，而是一个由社区维护的高质量大模型后训练（Post-training）数据集精选列表。本指南将帮助开发者快速理解其核心价值，并指导如何获取和使用其中列出的数据集进行模型微调。

环境准备

由于本项目本质是数据资源索引，无需特定的系统环境或运行时依赖。使用前请确保具备以下条件：

• 硬件要求：具备足够的存储空间（数据集大小从几百 MB 到数十 GB 不等）和 GPU 资源用于后续的微调训练。
• 前置依赖：
  • Python 3.8+
  • datasets 库（Hugging Face 官方提供，用于加载数据）
  • transformers 库（用于模型加载与训练）
  • Hugging Face 账号（部分数据集可能需要登录同意协议）

安装必要依赖：

pip install datasets transformers accelerate

国内加速建议：建议使用 Hugging Face 中国镜像源以加快数据下载速度。

export HF_ENDPOINT=https://hf-mirror.com

安装步骤

本项目无需执行传统的“安装”命令。使用方式主要分为两种：

1. 在线浏览：直接访问项目的 Hugging Face Collection 或 GitHub 页面查看最新列表。
2. 程序化调用：通过 datasets 库直接加载列表中推荐的数据集。

基本使用

以下是如何使用 Python 加载列表中典型数据集的示例。

1. 加载通用指令数据集 (General)

以 open-perfectblend 为例，这是一个包含聊天、数学、代码和指令遵循的综合数据集。

from datasets import load_dataset

# 加载数据集
dataset = load_dataset("mlabonne/open-perfectblend", split="train")

# 查看第一条数据
print(dataset[0])
# 输出示例：{'instruction': '...', 'input': '...', 'output': '...'}

2. 加载数学推理数据集 (Math)

以 NuminaMath-CoT 为例，该数据集包含逐步推理过程，适合提升模型的数学能力。

from datasets import load_dataset

# 加载数学思维链数据集
math_dataset = load_dataset("AI-MO/NuminaMath-CoT", split="train")

# 检查数据量
print(f"总样本数：{len(math_dataset)}")
# 查看包含推理步骤的样本
print(math_dataset[100]['solution'])

3. 加载代码数据集 (Code)

以 Ling-Coder-SFT 为例，支持中英文及多种编程语言。

from datasets import load_dataset

# 加载代码数据集
code_dataset = load_dataset("inclusionAI/Ling-Coder-SFT", split="train")

# 筛选 Python 相关数据（假设数据集中有 language 字段）
python_samples = code_dataset.filter(lambda x: "python" in x.get('language', '').lower())
print(f"Python 样本数量：{len(python_samples)}")

4. 数据预处理提示

加载后的数据通常需要根据您的微调框架（如 LLaMA-Factory, Axolotl, TRL 等）转换为特定的 JSONL 格式。以下是一个简单的转换示例，将标准字段映射为 messages 格式：

def convert_to_messages(example):
    return {
        "messages": [
            {"role": "user", "content": example["instruction"] + "\n" + example.get("input", "")},
            {"role": "assistant", "content": example["output"]}
        ]
    }

# 应用转换
formatted_dataset = dataset.map(convert_to_messages)

通过以上步骤，您可以迅速利用 llm-datasets 列表中推荐的优质数据开始您的大模型微调工作。