Skywork-OR1

GitHub
744 45 较难 1 次阅读 5天前Apache-2.0语言模型开发框架
AI 解读 由 AI 自动生成,仅供参考

Skywork-OR1(Open Reasoner 1)是昆仑万维推出的一系列开源推理模型,专为提升数学解题与代码生成能力而设计。它通过大规模基于规则的强化学习技术,有效解决了传统大模型在复杂逻辑推理任务中准确率不足、思维链不稳定的痛点。

该系列包含 7B 和 32B 两种参数规模的模型。其中,Skywork-OR1-32B 在 AIME24/25 等高难度数学竞赛基准测试中表现卓越,超越了 Deepseek-R1 和 Qwen3-32B 等同量级模型,同时在代码任务上也具备极具竞争力的水平。其核心技术亮点在于精心设计的训练流程与数据集,团队不仅开源了模型权重和训练数据,还分享了针对“熵坍缩”现象的缓解策略及详细的技术报告,为社区提供了宝贵的研究参考。

Skywork-OR1 非常适合 AI 研究人员、算法工程师以及需要高精度逻辑推理能力的开发者使用。无论是希望深入探索强化学习在推理领域应用的研究者,还是寻求在数学教育、自动编程等场景落地高性能模型的工程团队,都能从中获益。通过完全开源的策略,Skywork-OR1 致力于降低前沿推理模型的研究门槛,推动开放社区共同拓展人工智能的逻辑边界。

使用场景

某量化研究团队正在开发一套自动解题系统,需要让 AI 处理高难度的数学竞赛题目(如 AIME)并生成可执行的验证代码。

没有 Skywork-OR1 时

  • 推理深度不足:面对复杂的几何或数论问题,通用大模型往往在中间步骤“想当然”,导致逻辑链条断裂,无法得出正确答案。
  • 代码验证失效:模型生成的用于验证数学结论的代码常包含语法错误或逻辑漏洞,无法真正运行来辅助解题。
  • 调优成本高昂:团队试图通过传统监督微调(SFT)提升能力,但模型只是死记硬背了题库,遇到新题型依然束手无策。
  • 结果不可控:模型输出缺乏稳定的思维链(Chain-of-Thought),有时直接猜答案,有时冗长啰嗦却不得要领。

使用 Skywork-OR1 后

  • 强化推理突破:得益于大规模基于规则的强化学习训练,Skywork-OR1-32B 能像人类专家一样拆解复杂步骤,在 AIME24/25 等硬核数学测试中表现超越 Deepseek-R1。
  • 代码逻辑严密:模型不仅能解题,还能生成高质量的可执行代码来验证推导过程,显著提升了“数学 + 编程”双重任务的成功率。
  • 泛化能力增强:不再依赖死记硬背,Skywork-OR1 掌握了通用的推理策略,即使面对从未见过的变体题目也能灵活应对。
  • 思维过程稳定:模型展现出连贯且深入的思考路径,能够自我修正错误假设,输出结果更加可靠且易于追溯。

Skywork-OR1 通过释放强化学习的潜力,将 AI 从简单的“知识检索者”进化为具备深度逻辑推演能力的“理性思考者”。

运行环境要求

操作系统
  • Linux
GPU
  • 必需 NVIDIA GPU
  • Docker 镜像指定 CUDA 12.4 (cu124)
  • 显存需求未明确说明,但鉴于模型规模 (7B/32B) 及使用的框架 (vLLM, Megatron-LM),建议高显存配置
内存

未说明 (Docker 启动参数示例中设置了 --shm-size="10g")

依赖
notes1. 官方推荐使用提供的 Docker 镜像 (whatcanyousee/verl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6) 以确保环境兼容性。 2. 若使用 Conda 手动安装,需严格匹配 torch 2.4.0 (cu124) 并安装 flash-attn。 3. 多节点训练需要预先配置 Ray 集群。 4. 模型基于 DeepSeek-R1-Distill-Qwen 系列微调,训练代码基于 verl 项目的定制分支。
python3.10
torch==2.4.0
flash-attn
verl
vllm==0.6.3
ray==2.10
transformer-engine==2.0
megatron-core==0.11.0
Skywork-OR1 hero image

快速开始

🤔 Skywork-OR1(开放推理器1)

✊ 释放强化学习在数学与代码推理中的强大能力 🤖

模型 数据 Github Notion

GitHub Stars GitHub Forks

🔥 新闻

  • 2025年5月29日:我们的《Skywork开放推理器1技术报告》已在arXiv上发布。报告详细介绍了训练流程、对熵坍塌现象的探究与缓解方法,以及全面的分析和消融实验。
  • 2025年5月13日:我们发布了**Skywork-OR1系列模型的最终版本:Skywork-OR1-32BSkywork-OR1-7B**。
    • Skywork-OR1-32B 在数学任务(AIME24和AIME25)中表现优于Deepseek-R1和Qwen3-32B,在编码任务(LiveCodeBench)上则达到相当水平。
    • Skywork-OR1-7B 在数学和编码场景中均展现出与同规模模型相当的竞争力。
  • 2025年4月15日:我们发布了强化学习训练数据集Skywork-OR1-RL-Data
  • 2025年4月13日:我们推出了**Skywork-OR1(开放推理器1)系列模型,包括Skywork-OR1-Math-7BSkywork-OR1-32B-PreviewSkywork-OR1-7B-Preview**。同时开源了:

📖 概述

我们在多阶段训练流程中记录的Skywork-OR1-32B的AIME24和AIME25分数随训练步数的变化。

Skywork-OR1(开放推理器1)系列模型是一组强大的数学与代码推理模型,采用大规模基于规则的强化学习进行训练,并配备了精心设计的数据集和训练配方。该系列包含两款通用推理模型:Skywork-OR1-7BSkywork-OR1-32B

  • Skywork-OR1-32B 在数学任务(AIME24和AIME25)中表现优于Deepseek-R1和Qwen3-32B,在编码任务(LiveCodeBench)上则达到相当水平。
  • Skywork-OR1-7B 在数学和编码场景中均展现出与同规模模型相当的竞争力。

📊 评估


我们针对AIME24、AIME25和LiveCodeBench对模型进行了评估。不同于以往研究中常用的Pass@1指标,我们引入了Avg@K作为主要评价标准。该指标能够稳健地衡量模型在K次独立尝试中的平均表现,从而减少随机性的影响,提升结果的可靠性。我们认为,Avg@K更能反映模型的稳定性和推理一致性。

详细结果见下表。

模型 AIME24 (Avg@32) AIME25 (Avg@32) LiveCodeBench (8/1/24-2/1/25) (Avg@4)
DeepSeek-R1-Distill-Qwen-7B 55.5 39.2 37.6
Light-R1-7B-DS 59.1 44.3 39.5
Skywork-OR1-7B 70.2 54.6 47.6
DeepSeek-R1-Distill-Qwen-32B 72.9 59.0 57.2
TinyR1-32B-Preview 78.1 65.3 61.6
QwQ-32B 79.5 65.3 61.6
Qwen3-32B 81.4 72.9 65.7
DeepSeek-R1 79.8 70.0 65.9
Skywork-OR1-32B 82.2 73.3 63.0

🎯 入门指南

安装

Docker环境:

docker pull whatcanyousee/verl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6

# 启动所需的Docker镜像:
docker run --runtime=nvidia -it --rm --shm-size="10g" --cap-add=SYS_ADMIN -v <image:tag>

# 在容器内安装Skywork-OR1
git clone https://github.com/SkyworkAI/Skywork-OR1.git && cd Skywork-OR1 && pip3 install -e .

Conda环境:

# 创建Python 3.10环境。
conda create -n verl python==3.10
conda activate verl

# 安装RLLM依赖。
pip3 install torch==2.4.0 --index-url https://download.pytorch.org/whl/cu124
pip3 install flash-attn --no-build-isolation
git clone https://github.com/SkyworkAI/Skywork-OR1.git
cd Skywork-OR1
pip3 install -e .

训练 ⚙️

我们提供了训练脚本和数据,以复现“Skywork-OR1系列”的实验结果。

训练数据准备

为了准备训练数据,我们提供了一个脚本,可以从Hugging Face下载数据,并根据特定模型(即DeepSeek-R1-Distill-Qwen-{1.5,7,32}B)的难度级别对问题进行筛选。

model_size=32b  # 1p5b, 7b
python ./or1_scripts/data_preprocess/download_and_filter_data_${model_size}.py --local_dir ./or1_data/train

这将生成以下格式的训练数据:

./or1_data/train/train_${model_size}_math.pkl
./or1_data/train/train_${model_size}_code.pkl

训练脚本

默认情况下,我们仅提供AIME数据集上的评估。如果您希望在LiveCodeBench上进行评估,请参阅评估数据准备部分,并将LIVECODEBENCH_DATA_PATH设置为./or1_data/eval/livecodebench/livecodebench_2408_2502

# 注意:必须提供CODE_PATH和MODEL_PATH
model_size=7b # 或 32b
train_seq_len=8 # 或 16, 32
export CODE_PATH=./
export MODEL_PATH=
bash ./or1_scripts/train/${model_size}_${train_seq_len}k.sh

使用Ray进行多节点训练

如果您计划进行多节点训练,则需要在启动训练脚本之前,使用Ray启动并连接所有节点。以下是跨机器设置Ray的快速指南:

第一步:在主节点(node0)上启动Ray

在第一个节点(通常称为node0)上,运行以下命令:

ray start --head --dashboard-host=0.0.0.0

执行该命令后,您将看到类似以下的消息:

Ray 运行时已启动。
下一步
要将另一节点添加到此Ray集群,请运行
    ray start --address='10.94.16.4:6379'

请记下IP地址(本例中为10.94.16.4)。

第二步:连接其他节点(例如node1)

在每个额外的工作节点(例如node1)上,运行以下命令,并将IP地址替换为主节点的IP地址:

ray start --address='10.94.16.4:6379'

第三步:检查集群状态

node0上,运行以下命令:

ray status

您应该会看到显示所有已连接节点及可用资源(如CPU、GPU、内存)的输出。例如:

资源
---------------------------------------------------------------
使用情况:
 0.0/360.0 CPU
 0.0/16.0 GPU
...

一旦Ray集群启动并运行,您可以照常启动训练脚本。该脚本将自动利用已连接的节点。

评估 ⚖️

我们提供了评估脚本,以复现Skywork-OR1系列的实验结果。

评估数据准备

AIME24和AIME25的评估数据已存在于我们的GitHub仓库中。

对于LiveCodeBench,请从Hugging Face下载数据。

# 下载LiveCodeBench
huggingface-cli download Skywork/LiveCodeBench --repo-type=dataset --local-dir ./or1_data/eval/livecodebench
unzip ./or1_data/eval/livecodebench/livecodebench.zip -d ./or1_data/eval/livecodebench/
mv ./or1_data/eval/livecodebench/livecodebench/* ./or1_data/eval/livecodebench/

评估开始

bash ./or1_scripts/eval/eval_7b.sh

bash ./or1_scripts/eval/eval_32b.sh

评估结果将自动保存到outputs/evalation/pass.csv

📄 技术报告

我们的技术报告即将发布,敬请期待!

🙏 致谢

📚 引用

请引用以下内容:

@article{he2025skywork,
  title={Skywork Open Reasoner 1 技术报告},
  author={He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},
  journal={arXiv预印本 arXiv:2505.22312},
  year={2025}
}

@misc{skywork-or1-2025,
  title={Skywork Open Reasoner 系列},
  author = {He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},
  howpublished={\url{https://capricious-hydrogen-41c.notion.site/Skywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680}},
  note={Notion博客},
  year={2025}
}

常见问题

相似工具推荐

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|今天
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

139k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.7k|★★☆☆☆|2天前
开发框架图像Agent

NextChat

NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。

87.6k|★★☆☆☆|今天
开发框架语言模型

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|今天
图像数据工具视频

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|2天前
Agent图像开发框架