[!重要]
原作者已转向其他项目。近期，一群社区成员加入了 GitHub 项目，成为协作者以维护该项目，并正在积极筹备下一个版本的发布。在此期间，请查看 develop 分支，以获取最新的修复和改进。

为 AI 合成数据，并即时添加反馈！

Distilabel 是一个面向工程师的合成数据与 AI 反馈框架，旨在提供基于可靠研究论文、快速、可靠且可扩展的数据流水线。

如果您只想快速上手，建议您查阅文档。如果您感到好奇并想了解更多？请继续阅读！

为什么使用 Distilabel？

Distilabel 可用于生成各种项目的合成数据和 AI 反馈，包括传统的预测性 NLP（分类、抽取等）以及生成式和大型语言模型场景（指令遵循、对话生成、评价等）。Distilabel 的程序化方法使您能够构建可扩展的数据生成和 AI 反馈流水线。Distilabel 的目标是通过快速生成高质量、多样化的数据集，并结合经过验证的 AI 反馈生成与评估方法，来加速您的 AI 开发进程。

通过数据质量提升 AI 输出质量

计算资源昂贵，而输出质量至关重要。我们帮助您专注于数据质量，从而一次性解决这两个问题的根本原因。Distilabel 可帮助您合成和评估数据，让您将宝贵的时间投入到实现并保持高质量的数据标准上。

掌控您的数据与模型

拥有用于微调自有 LLM 的数据并非易事，但 Distilabel 可以助您入门。我们通过统一的 API 集成了来自任何 LLM 提供商的AI 反馈。

通过快速迭代正确的研究与 LLM 提升效率

利用最新研究论文合成并评估数据，同时确保灵活性、可扩展性和容错性。这样，您就可以专注于优化数据并训练模型。

社区

我们是一个由社区驱动的开源项目，非常欢迎您的参与。以下是几种参与方式：

• 社区聚会：在我们的双周活动中聆听或发表演讲。

• Discord：在 #argilla-general 和 #argilla-help 频道中获得社区的直接支持。

• 路线图：计划可能会变化，但我们乐于与社区讨论这些计划，欢迎您积极参与。

人们用 Distilabel 构建了什么？

Argilla 社区使用 Distilabel 创建了许多精彩的数据集和模型。

• 1M OpenHermesPreference 是一个约 100 万条 AI 偏好数据的数据集，源自 teknium/OpenHermes-2.5。它展示了我们如何使用 Distilabel 在大规模范围内合成数据。
• 我们的distilabeled Intel Orca DPO 数据集以及改进后的 OpenHermes 模型，表明我们如何通过AI 反馈过滤掉原始数据集中的 50%，从而提升模型性能。
• haiku DPO 数据 描述了任何人都可以如何创建针对特定任务的数据集，并结合最新研究论文来提高数据质量。

安装

pip install distilabel --upgrade

需要 Python 3.9 或更高版本。

此外，还提供了以下附加选项：

大语言模型

• anthropic: 用于通过 AnthropicLLM 集成调用 Anthropic API 中可用的模型。
• cohere: 用于通过 CohereLLM 集成调用 Cohere 中可用的模型。
• argilla: 用于将生成的数据集导出到 Argilla。
• groq: 用于通过 GroqLLM 集成，使用 groq Python 客户端调用 Groq 中可用的模型。
• hf-inference-endpoints: 用于通过 InferenceEndpointsLLM 集成调用 Hugging Face 推理端点。
• hf-transformers: 用于通过 TransformersLLM 集成调用 transformers 包中可用的模型。
• litellm: 用于通过 LiteLLM 集成，使用 LiteLLM 按照 OpenAI 格式调用任何大语言模型。
• llama-cpp: 用于通过 LlamaCppLLM 集成，使用 llama-cpp-python Python 绑定调用 llama.cpp。
• mistralai: 用于通过 MistralAILLM 集成调用 Mistral AI API 中可用的模型。
• ollama: 用于通过 OllamaLLM 集成调用 Ollama 及其提供的模型。
• openai: 用于通过 OpenAILLM 集成调用 OpenAI API 中的模型；其他基于 OpenAI 的集成，如 AnyscaleLLM、AzureOpenAILLM 和 TogetherLLM，也依赖于 OpenAI 客户端。
• vertexai: 用于通过 VertexAILLM 集成调用 Google Vertex AI 的专有模型。
• vllm: 用于通过 vLLM 集成调用 vllm 服务引擎。
• sentence-transformers: 用于使用 sentence-transformers 生成句子嵌入。
• mlx: 用于通过 MlxLLM 集成调用 MLX 模型。

结构化生成

• outlines: 用于通过 outlines 实现大语言模型的结构化生成。
• instructor: 用于通过 Instructor 实现大语言模型的结构化生成。

数据处理

• ray: 用于通过 Ray 扩展和分布式处理流水线。
• faiss-cpu 和 faiss-gpu: 用于使用 faiss 生成句子嵌入。
• text-clustering: 用于结合 UMAP 和 Scikit-learn 进行文本聚类。
• minhash: 用于结合 datasketch 和 nltk 使用 minhash 进行重复检测。

示例

要运行以下示例，您需要安装带有 hf-inference-endpoints 附加组件的 distilabel：

pip install "distilabel[hf-inference-endpoints]" --upgrade

然后运行：

from datasets import load_dataset

from distilabel.models import InferenceEndpointsLLM
from distilabel.pipeline import Pipeline
from distilabel.steps.tasks import TextGeneration

with Pipeline() as pipeline:
    TextGeneration(
        llm=InferenceEndpointsLLM(
            model_id="meta-llama/Meta-Llama-3.1-8B-Instruct",
            generation_kwargs={"temperature": 0.7, "max_new_tokens": 512},
        ),
    )

if __name__ == "__main__":
    dataset = load_dataset("distilabel-internal-testing/instructions", split="test")
    distiset = pipeline.run(dataset=dataset)
    distiset.push_to_hub(repo_id="distilabel-example")

徽章

如果您使用 distilabel 构建了酷炫的东西，请考虑在您的数据集或模型卡片上添加以下徽章之一。

[<img src="https://oss.gittoolsai.com/images/argilla-io_distilabel_readme_25ce9e17a758.png" alt="Built with Distilabel" width="200" height="32"/>](https://github.com/argilla-io/distilabel)

[<img src="https://oss.gittoolsai.com/images/argilla-io_distilabel_readme_8c6e162fcafd.png" alt="Built with Distilabel" width="200" height="32"/>](https://github.com/argilla-io/distilabel)

贡献

如需直接为 distilabel 做贡献，请查看我们的 初次贡献问题 或 创建一个新的问题。

引用

@misc{distilabel-argilla-2024,
  author = {Álvaro Bartolomé Del Canto and Gabriel Martín Blázquez and Agustín Piqueres Lajarín and Daniel Vila Suero},
  title = {Distilabel: An AI Feedback (AIF) framework for building datasets with and for LLMs},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/argilla-io/distilabel}}
}

Distilabel 快速上手指南

Distilabel 是一个专为工程师设计的合成数据生成与 AI 反馈框架。它基于经过验证的研究方法，帮助你快速构建可扩展的流水线，用于生成高质量数据集或对模型输出进行评判，从而提升大语言模型（LLM）的微调效果。

环境准备

在开始之前，请确保你的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：3.9 或更高版本
• 前置依赖：建议先更新 pip 包管理工具

注意：Distilabel 支持多种 LLM 提供商（如 OpenAI, Hugging Face, Ollama 等）。根据你计划使用的模型服务，后续可能需要安装额外的可选依赖（extras）。

安装步骤

1. 基础安装

使用 pip 安装核心库：

pip install distilabel --upgrade

国内用户加速建议：如果下载速度较慢，推荐使用国内镜像源：

pip install distilabel --upgrade -i https://pypi.tuna.tsinghua.edu.cn/simple

2. 安装可选依赖（按需）

Distilabel 采用模块化设计，你需要根据使用的具体模型后端安装对应的扩展包。例如，若需使用 Hugging Face Inference Endpoints，请执行：

pip install "distilabel[hf-inference-endpoints]" --upgrade

其他常用扩展包括：

• openai: 使用 OpenAI API 及兼容接口
• ollama: 本地运行 Ollama 模型
• vllm: 使用 vLLM 推理引擎
• argilla: 将结果导出至 Argilla 平台

完整列表请参考官方文档中的 "Installation" 章节。

基本使用

以下示例展示了一个最基础的流水线：加载指令数据集，使用 Hugging Face Inference Endpoints 上的 Llama 3.1 模型进行文本生成，并将结果推送到 Hugging Face Hub。

前提：已安装 distilabel[hf-inference-endpoints] 并配置好 HF_TOKEN 环境变量。

from datasets import load_dataset

from distilabel.models import InferenceEndpointsLLM
from distilabel.pipeline import Pipeline
from distilabel.steps.tasks import TextGeneration

with Pipeline() as pipeline:
    TextGeneration(
        llm=InferenceEndpointsLLM(
            model_id="meta-llama/Meta-Llama-3.1-8B-Instruct",
            generation_kwargs={"temperature": 0.7, "max_new_tokens": 512},
        ),
    )

if __name__ == "__main__":
    # 加载测试数据集
    dataset = load_dataset("distilabel-internal-testing/instructions", split="test")
    
    # 运行流水线
    distiset = pipeline.run(dataset=dataset)
    
    # 将生成的数据集推送到 Hugging Face Hub
    distiset.push_to_hub(repo_id="distilabel-example")

代码说明：

1. 定义流水线：使用 Pipeline 上下文管理器创建流程。
2. 配置任务：TextGeneration 步骤指定了要使用的 LLM（此处为 InferenceEndpointsLLM）及其生成参数。
3. 执行与输出：调用 pipeline.run() 处理输入数据集，生成的 distiset 对象可直接上传至 Hugging Face Hub 供后续微调使用。