:dart: 项目概述

DataArc SynData 工具包是由 DataArcTech 和 国际数字经济研究院 开发并开源的合成数据生成工具包。它允许用户根据自身需求，通过简单的配置文件，一步生成定制化的训练数据。

:bulb: 核心特性

• 使用极其简单：只需一条命令和一个配置文件即可合成数据。同时提供GUI，操作更加便捷。
• 支持多源合成数据：
  • 本地合成：支持基于本地语料库生成数据。
  • Huggingface 集成：自动爬取并筛选 Huggingface 上的数据。
  • 模型蒸馏：可通过模型蒸馏生成合成数据。
• 集成后训练模块：由 verl 提供支持的端到端模型训练工作流，支持 SFT 和 GRPO。
• 后训练模型评估：使用 DeepEval 对训练后的模型进行评估。
• 多语言支持：支持英语及多种低资源语言。
• 多提供商模型支持：兼容本地部署、OpenAI API 等多种方式。
• 高度可扩展性：整个合成数据流程模块化，开发者可灵活自定义。

:movie_camera: 演示

观看我们的 2 分钟演示视频，了解 DataArc SynData 工具包 的实际使用效果。

https://github.com/user-attachments/assets/4b4d5ae4-d274-4971-a3cb-e9f07e841374

我们还提供了完整教程，帮助您快速上手。

:microscope: 性能

模型	医疗	金融	法律
Qwen-2.5-7B-Instruct	42.34%	52.91%	19.80%
使用合成数据训练	64.57%	73.93%	42.80%

仅需几行代码，性能即可提升超过 20%。

:notebook: 更改记录

[25/11/17] 🎉 我们开源了合成数据平台。
[25/11/27] 我们添加了并行处理模块，显著加速合成数据生成流程。
[25/11/28] 我们增加了中间结果保存功能，允许用户从上次成功阶段继续，而无需重新开始整个流程——这是一项重要的节省 token 的功能。
[25/12/25] 🔥重大升级：

• 前后端分离：DataArc SynData 工具包现在采用完全前后端分离的架构，包含一个 FastAPI 后端（REST APIs + SSE 实时进度流）和独立的 React 前端，以提升可视化效果、易用性和可扩展性。
• 通过 verl 支持后训练：引入了由 verl 提供支持的集成后训练模块，可在合成数据上实现包括 SFT 和 GRPO 在内的端到端模型训练流程。
• 多语言扩展：新增对 阿拉伯语 数据集的支持，利用阿拉伯语翻译模型生成完全本地化的合成数据输出。

[26/01/12] 🖼️ 添加图像模态支持：

• 图像模态本地任务：使用 VLM 从本地图片或 PDF 中提取的图表生成 VQA（视觉问答）数据。
• 图像模态网络任务：自动搜索并从 HuggingFace Hub 获取图像-文本数据集。

[26/01/26] 📊 后训练模型评估：

• DeepEval 集成：新增由 DeepEval 提供支持的模型评估模块。
• 三种评估指标：
  • 答案正确性：根据可自定义的评分标准，将模型输出与真实答案进行对比。
  • 两两偏好：比较微调后的模型与基础模型，以衡量改进程度。
  • 格式合规性：评估模型输出是否符合指定的格式要求。

[!TIP]

如果您无法使用最新功能，请拉取最新代码。

:factory: DataArc SynData 工具包流程

DataArc SynData 工具包 旨在通过模块化的流程合成数据，允许用户自定义每个步骤的策略和实现方法。主要组件包括：

• 合成数据生成：通过本地合成、从 Huggingface 检索数据集以及模型蒸馏等方式生成数据。
  • 开发者可以继承 BaseTaskConfig 和 BaseTaskExecutor 来自定义生成任务。
• 数据过滤与重写：根据目标模型的要求，对初步合成的数据进行过滤和重写。
  • 开发者可以继承 BaseRewriteConfig 和 BaseRewriter 来自定义合成数据的重写方式（或不进行重写）。

通过模块解耦，开发者可以根据具体需求灵活定制功能模块。

:jigsaw: 使用场景

我们提供了三个不同的使用场景，展示了如何通过 DataArc SynData 工具包 合成数据。

:file_folder: 项目结构

DataArc-SynData-Toolkit/
├── configs/                        # YAML 配置示例
│   ├── sdg.yaml                    # SDG 流水线配置
│   ├── sft.yaml                    # SFT 训练配置
│   ├── grpo.yaml                   # GRPO 训练配置
│   └── eval.yaml                   # 模型评估配置
│
├── sdgsystem/                      # 核心系统
│   ├── app/                        # FastAPI 后端 (REST + SSE)
│   ├── generation/                 # 数据生成
│   ├── documents/                  # 文件解析与检索
│   ├── huggingface/                # HF 数据集集成
│   ├── distillation/               # 模型蒸馏合成
│   ├── tasks/                      # SDG 执行任务
│   ├── evaluation/                 # 数据质量评估
│   ├── deepeval/                   # 训练后模型评估 (G-Eval)
│   ├── models/                     # 统一的 LLM 接口及后处理
│   ├── trainer/                    # 训练后优化 (verl: SFT + GRPO)
│   ├── translation/                # 多语言支持
│   ├── webui/                      # React 前端
│   ├── pipeline.py                 # 核心 SDG 流水线
│   └── cli.py                      # CLI 入口
│
├── verl/                           # 集成的 verl 框架
├── docs/                           # 文档
├── pyproject.toml
└── README.md

:rocket: 快速开始

1. 安装 DataArc SynData Toolkit

# 1. 克隆仓库
git clone https://github.com/DataArcTech/DataArc-SynData-Toolkit.git
cd DataArc-SynData-Toolkit

# 2. 如果尚未安装 uv，先安装
pip install uv

# 3. 安装依赖
uv sync

有关硬件要求和依赖的详细信息，请参阅 依赖与安装指南。

2. 配置

请参考 示例配置文件，并根据您的需求修改配置。

3. 合成数据

通过 CLI 运行：

创建一个 .env 文件，并指定以下字段。

API_KEY=sk-xxx   # 您的 API 密钥
BASE_URL=https://api.openai.com/v1  # 可选：您的基础 URL

然后运行以下命令。

uv run sdg generate configs/sdg.yaml  # 或替换为您自己的 .yaml 文件

:twisted_rightwards_arrows: 使用合成数据进行训练

DataArc SynData Toolkit 集成了由 verl 提供支持的端到端模型训练模块，使您能够直接在合成数据上训练模型。我们支持两种训练方法：SFT（监督微调） 和 GRPO（分组相对策略优化）。

CLI 快速入门

1. 准备您的配置

根据 SFT 配置示例 或 GRPO 配置示例 创建一个训练配置文件。

2. 运行训练

# SFT 训练
uv run sdg train configs/sft.yaml

# GRPO 训练
uv run sdg train configs/grpo.yaml

有关详细的配置选项，请参阅示例 YAML 文件。

:bar_chart: 训练后模型评估

DataArc SynData Toolkit 提供了一个由 DeepEval 支持的模型评估模块，使您能够使用 LLM 作为裁判 (G-Eval) 来评估训练后的模型。我们支持三种指标：答案正确性、格式合规性 和 成对偏好。

CLI 快速入门

1. 准备您的配置

根据 评估配置示例 创建一个评估配置文件。

将您的 API 密钥添加到 .env 文件中。

OPENAI_API_KEY=sk-xxx   # 您的 OpenAI API 密钥
OPENAI_BASE_URL=https://api.openai.com/v1  # 可选：您的 OpenAI 基础 URL
CONFIDENT_API_KEY=confident_us_xxx  # 您的 Confident AI API 密钥（访问 Deepeval，注册后可免费创建）

2. 运行评估

uv run sdg eval configs/eval.yaml

结果可以在 Confident AI 的网页上可视化，并会保存到配置的输出目录中。

:desktop_computer: 使用 GUI 运行

使用以下命令启动 FastAPI 服务器。

uv run fastapi dev sdgsystem/app/main.py

打开另一个终端，并使用以下命令构建前端。

cd sdgsystem/webui

# 安装依赖
pnpm install

# 启动开发服务器
pnpm dev

如果您对我们的 Web UI 有任何疑问，请查看我们的 Web UI 文档。

:date: 下一次发布计划

• 加密合成数据生成：使用加密的敏感数据进行生成。

:handshake: 贡献

我们欢迎贡献！

星标历史

DataArc SynData Toolkit 快速上手指南

DataArc SynData Toolkit 是一个模块化、易用的合成数据生成工具，支持多源、多语言数据合成，并可一键完成大模型训练数据的生成、微调（SFT/GRPO）及评估。

环境准备

系统要求

• 操作系统: Linux / macOS / Windows (WSL2 推荐)
• Python 版本: 3.10 或更高
• 包管理器: uv (推荐，用于加速依赖安装)
• 前端依赖 (如需使用 GUI): Node.js, pnpm

前置依赖

确保已安装 Git 和 Python 3.10+。若未安装 uv，请先执行：

pip install uv

💡 国内加速建议：如遇网络问题，可配置 uv 使用国内镜像源：

export UV_INDEX_URL=https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 克隆项目仓库

   git clone https://github.com/DataArcTech/DataArc-SynData-Toolkit.git
   cd DataArc-SynData-Toolkit
   

2. 安装项目依赖 使用 uv 自动同步环境并安装所有依赖：

   uv sync
   

基本使用

1. 配置 API 密钥

在项目根目录创建 .env 文件，填入你的 LLM API 信息：

API_KEY=sk-xxx
BASE_URL=https://api.openai.com/v1

2. 修改配置文件

参考 configs/sdg.yaml 示例，根据需求调整数据源、生成策略及模型参数。

3. 生成合成数据

执行以下命令启动数据生成流程：

uv run sdg generate configs/sdg.yaml

4. （可选）微调与评估

生成数据后，可直接进行模型微调和效果评估：

• SFT 微调：

  uv run sdg train configs/sft.yaml
  

• GRPO 微调：

  uv run sdg train configs/grpo.yaml
  

• 模型评估（需配置 DeepEval API）：

  uv run sdg eval configs/eval.yaml
  

5. （可选）启动图形界面 (GUI)

如需可视化操作，可分别启动后端与前端：

终端 1 - 启动后端：

uv run fastapi dev sdgsystem/app/main.py

终端 2 - 启动前端：

cd sdgsystem/webui
pnpm install
pnpm dev

访问前端地址即可通过图形界面完成全流程操作。