[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-SkyworkAI--Skywork-OR1":3,"tool-SkyworkAI--Skywork-OR1":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":80,"owner_email":80,"owner_twitter":80,"owner_website":81,"owner_url":82,"languages":83,"stars":92,"forks":93,"last_commit_at":94,"license":95,"difficulty_score":96,"env_os":97,"env_gpu":98,"env_ram":99,"env_deps":100,"category_tags":111,"github_topics":80,"view_count":23,"oss_zip_url":80,"oss_zip_packed_at":80,"status":16,"created_at":112,"updated_at":113,"faqs":114,"releases":150},2719,"SkyworkAI\u002FSkywork-OR1","Skywork-OR1","Unleashing the Power of Reinforcement Learning for Math and Code Reasoners","Skywork-OR1（Open Reasoner 1）是昆仑万维推出的一系列开源推理模型，专为提升数学解题与代码生成能力而设计。它通过大规模基于规则的强化学习技术，有效解决了传统大模型在复杂逻辑推理任务中准确率不足、思维链不稳定的痛点。\n\n该系列包含 7B 和 32B 两种参数规模的模型。其中，Skywork-OR1-32B 在 AIME24\u002F25 等高难度数学竞赛基准测试中表现卓越，超越了 Deepseek-R1 和 Qwen3-32B 等同量级模型，同时在代码任务上也具备极具竞争力的水平。其核心技术亮点在于精心设计的训练流程与数据集，团队不仅开源了模型权重和训练数据，还分享了针对“熵坍缩”现象的缓解策略及详细的技术报告，为社区提供了宝贵的研究参考。\n\nSkywork-OR1 非常适合 AI 研究人员、算法工程师以及需要高精度逻辑推理能力的开发者使用。无论是希望深入探索强化学习在推理领域应用的研究者，还是寻求在数学教育、自动编程等场景落地高性能模型的工程团队，都能从中获益。通过完全开源的策略，Skywork-OR1 致力于降低前沿推理模型的研究门槛，推动开放社区共同拓展人工智能的逻","Skywork-OR1（Open Reasoner 1）是昆仑万维推出的一系列开源推理模型，专为提升数学解题与代码生成能力而设计。它通过大规模基于规则的强化学习技术，有效解决了传统大模型在复杂逻辑推理任务中准确率不足、思维链不稳定的痛点。\n\n该系列包含 7B 和 32B 两种参数规模的模型。其中，Skywork-OR1-32B 在 AIME24\u002F25 等高难度数学竞赛基准测试中表现卓越，超越了 Deepseek-R1 和 Qwen3-32B 等同量级模型，同时在代码任务上也具备极具竞争力的水平。其核心技术亮点在于精心设计的训练流程与数据集，团队不仅开源了模型权重和训练数据，还分享了针对“熵坍缩”现象的缓解策略及详细的技术报告，为社区提供了宝贵的研究参考。\n\nSkywork-OR1 非常适合 AI 研究人员、算法工程师以及需要高精度逻辑推理能力的开发者使用。无论是希望深入探索强化学习在推理领域应用的研究者，还是寻求在数学教育、自动编程等场景落地高性能模型的工程团队，都能从中获益。通过完全开源的策略，Skywork-OR1 致力于降低前沿推理模型的研究门槛，推动开放社区共同拓展人工智能的逻辑边界。","\u003Cdiv align=\"center\">\n\n# 🤔 Skywork-OR1 (Open Reasoner 1)\n\n\u003Cdiv>\n✊ Unleashing the Power of Reinforcement Learning for Math and Code Reasoners 🤖\n\u003C\u002Fdiv>\n\n\u003C\u002Fdiv>\n\u003Cdiv>\n\u003Cbr>\n\n\u003Cdiv align=\"center\">\n\n[![Models](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModels-4d5eff?style=for-the-badge&logo=huggingface&logoColor=ffffff&labelColor)](https:\u002F\u002Fhuggingface.co\u002Fcollections\u002FSkywork\u002Fskywork-or1-67fa1bcb41b436ef2def76b9)\n[![Data](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData-4d5eff?style=for-the-badge&logo=huggingface&logoColor=ffffff&labelColor)](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data)\n[![Github](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCode-000000?style=for-the-badge&logo=github&logoColor=white)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1)\n[![Notion](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FNotion_Blog-000000?style=for-the-badge&logo=notion&logoColor=white)](https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680)\n\n[![GitHub Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002FSkyworkAI\u002FSkywork-OR1?style=for-the-badge&logo=github&logoColor=white&label=Stars&color=000000)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fstargazers)\n[![GitHub Forks](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002FSkyworkAI\u002FSkywork-OR1?style=for-the-badge&logo=github&logoColor=white&label=Forks&color=000000)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Ffork)\n\n\u003C\u002Fdiv>\n\n## 🔥 News\n\n- **May 29, 2025**: Our [Skywork Open Reasoner 1 Technical Report](https:\u002F\u002Farxiv.org\u002Fabs\u002F2505.22312) has been released on arXiv. We provide further details on the training pipeline, investigation and mitigation to the entropy collapse phenomenon, and extensive analysis and ablation studies.\n- **May 13, 2025**: We release our final version of **`Skywork-OR1`** series of models：**`Skywork-OR1-32B`** and **`Skywork-OR1-7B`**.\n  - **[`Skywork-OR1-32B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B)**  outperforms Deepseek-R1 and Qwen3-32B on math tasks (AIME24 and AIME25) and delivers comparable performance on coding tasks (LiveCodeBench).\n  - **[`Skywork-OR1-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B)** exhibits competitive performance compared to similarly sized models in both math and coding scenarios.\n- **April 15, 2025**: We release our rl training dataset [`Skywork-OR1-RL-Data`](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data).\n- **April 13, 2025**: We release the **`Skywork-OR1`** (Open Reasoner 1) series of models, including **`Skywork-OR1-Math-7B`**, **`Skywork-OR1-32B-Preview`**, and **`Skywork-OR1-7B-Preview`**. We open-source\n  - 🤗 Model weights: [`Skywork-OR1-Math-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-Math-7B),  [`Skywork-OR1-32B-Preview`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B-Preview), [`Skywork-OR1-7B-Preview`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B-Preview)\n  - 🤗 Training data: [`Skywork-OR1-RL-Data`](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data)\n  - 🧑‍💻 Code: [`Skywork-OR1`](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1)\n  - We also release a [Notion Blog](https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680) to share detailed training recipes and extensive experimental results, analysis, and insights, dedicated to helping the community to better research, understand, and push the frontier of open reasoning models.\n\n## 📖 Overview\n\n\u003Cdiv align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_0c1fffb3ef46.jpg\" width=\"100%\"\u002F>\n\n\u003Csub>The AIME24 and AIME225 scores versus training steps of Skywork-OR1-32B in our multi-stage training pipeline.\u003C\u002Fsub>\n\u003C\u002Fdiv>\n\nThe **`Skywork-OR1`** (Open Reasoner 1) model series consists of powerful math and code reasoning models trained using large-scale rule-based reinforcement learning with carefully designed datasets and training recipes. This series includes two general-purpose reasoning modelsl, **`Skywork-OR1-7B`** and **`Skywork-OR1-32B`**.\n\n- **[`Skywork-OR1-32B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B)** outperforms Deepseek-R1 and Qwen3-32B on math tasks (AIME24 and AIME25) and delivers comparable performance on coding tasks (LiveCodeBench).\n- **[`Skywork-OR1-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B)** exhibits competitive performance compared to similarly sized models in both math and coding scenarios.\n\n## 📊 Evaluation\n\n\u003Cdiv align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_d97555e6de91.jpg\" width=\"75%\"\u002F>\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_b6c6db9873df.jpg\" width=\"75%\"\u002F>\n\u003C\u002Fdiv>\n\u003C\u002Fdiv>\n\u003Cbr>\n\nWe evaluate our models on AIME24, AIME25, and LiveCodeBench. Instead of using Pass@1, which is common in prior work, we introduce Avg@K as the primary metric. This metric robustly measures a model's average performance across K independent attempts, reducing the impact of randomness and enhancing the reliability of the results. We believe that Avg@K provides a better reflection of a model's stability and reasoning consistency.\n\nWe include the detailed results in the following table.\n\n| Model                        | AIME24 (Avg@32) | AIME25 (Avg@32) | LiveCodeBench (8\u002F1\u002F24-2\u002F1\u002F25) (Avg@4) |\n| ---------------------------- | --------------- | --------------- | ------------------------------------- |\n| DeepSeek-R1-Distill-Qwen-7B  | 55.5            | 39.2            | 37.6                                  |\n| Light-R1-7B-DS               | 59.1            | 44.3            | 39.5                                  |\n| **Skywork-OR1-7B**           | 70.2            | 54.6            | 47.6                                  |\n| DeepSeek-R1-Distill-Qwen-32B | 72.9            | 59.0            | 57.2                                  |\n| TinyR1-32B-Preview           | 78.1            | 65.3            | 61.6                                  |\n| QwQ-32B                      | 79.5            | 65.3            | 61.6                                  |\n| Qwen3-32B                    | 81.4            | 72.9            | 65.7                                  |\n| DeepSeek-R1                  | 79.8            | 70.0            | 65.9                                  |\n| **Skywork-OR1-32B**          | 82.2            | 73.3            | 63.0                                  |\n\n## 🎯 Getting Started\n\n### Installation\n\nDocker environment:\n\n```bash\ndocker pull whatcanyousee\u002Fverl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6\n\n# Launch the desired Docker image:\ndocker run --runtime=nvidia -it --rm --shm-size=\"10g\" --cap-add=SYS_ADMIN -v \u003Cimage:tag>\n\n# Inside the container, install Skywork-OR1\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git && cd Skywork-OR1 && pip3 install -e .\n```\n\nConda environment:\n\n```bash\n# Installing Python 3.10 Environment.\nconda create -n verl python==3.10\nconda activate verl\n\n# Installing RLLM dependencies.\npip3 install torch==2.4.0 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu124\npip3 install flash-attn --no-build-isolation\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git\ncd Skywork-OR1\npip3 install -e .\n```\n\n### Training ⚙️\n\nWe provide training scripts and data to reproduce the results of the “Skywork-OR1-Series”.\n\n### Training Data Preparation\n\nTo prepare the training data, we provide a script to download the data from Hugging Face and filter the problems based on the difficulty level with respect to a particular model (i.e., DeepSeek-R1-Distill-Qwen-{1.5,7,32}B).\n\n```bash\nmodel_size=32b  # 1p5b, 7b\npython .\u002For1_scripts\u002Fdata_preprocess\u002Fdownload_and_filter_data_${model_size}.py --local_dir .\u002For1_data\u002Ftrain\n```\n\nThis will generate the training data in the following format:\n\n```bash\n.\u002For1_data\u002Ftrain\u002Ftrain_${model_size}_math.pkl\n.\u002For1_data\u002Ftrain\u002Ftrain_${model_size}_code.pkl\n```\n\n### Train Script\n\nBy default, we only provide evaluation on AIME datasets. If you would like to evaluate on LiveCodeBench, please refer to the section [**Evaluation Data Preparation**](#evaluation-data-preparation)  and set `LIVECODEBENCH_DATA_PATH` to `.\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench_2408_2502`.\n\n```bash\n# Note: You must provide CODE_PATH and MODEL_PATH\nmodel_size=7b # or 32b\ntrain_seq_len=8 # or 16, 32\nexport CODE_PATH=.\u002F\nexport MODEL_PATH=\nbash .\u002For1_scripts\u002Ftrain\u002F${model_size}_${train_seq_len}k.sh\n```\n\n### Using Ray for Multi-Node Training\n\nIf you plan to perform **multi-node training**, you need to **start and connect all nodes using Ray** before launching the training script. Here's a quick guide to set up Ray across machines:\n\n#### Step 1: Start Ray on the Head Node (node0)\n\nOn the first node (typically called `node0`), run:\n\n```bash\nray start --head --dashboard-host=0.0.0.0\n```\n\nAfter running the command, you will see a message like:\n\n```\nRay runtime started.\nNext steps\nTo add another node to this Ray cluster, run\n    ray start --address='10.94.16.4:6379'\n```\n\nNote down the IP address (in this example, `10.94.16.4`).\n\n#### Step 2: Connect Other Nodes (e.g., node1)\n\nOn each additional worker node (e.g., `node1`), run the following, replacing the IP with that of your head node:\n\n```bash\nray start --address='10.94.16.4:6379'\n```\n\n#### Step 3: Check Cluster Status\n\nOn `node0`, run:\n\n```bash\nray status\n```\n\nYou should see output showing all connected nodes and available resources (e.g., CPUs, GPUs, memory). For example:\n\n```\nResources\n---------------------------------------------------------------\nUsage:\n 0.0\u002F360.0 CPU\n 0.0\u002F16.0 GPU\n...\n```\n\nOnce the Ray cluster is up and running, you can launch the training script as usual. The script will automatically utilize the connected nodes.\n\n### Evaluation ⚖️\n\nWe provide evaluation scripts to reproduce the results of the `Skywork-OR1-Series`.\n\n#### Evaluation Data Preparation\n\nEvaluation data for AIME24 and AIME25 is already available in our GitHub repository.\n\nFor LiveCodeBench, please download the data from [Hugging Face](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FLiveCodeBench).\n\n```bash\n# Download LiveCodeBench\nhuggingface-cli download Skywork\u002FLiveCodeBench --repo-type=dataset --local-dir .\u002For1_data\u002Feval\u002Flivecodebench\nunzip .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench.zip -d .\u002For1_data\u002Feval\u002Flivecodebench\u002F\nmv .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench\u002F* .\u002For1_data\u002Feval\u002Flivecodebench\u002F\n```\n\n#### Evaluation Start\n\n```bash\nbash .\u002For1_scripts\u002Feval\u002Feval_7b.sh\n\nbash .\u002For1_scripts\u002Feval\u002Feval_32b.sh\n```\n\nThe evaluation results will be automatically saved to [outputs\u002Fevalation\u002Fpass.csv](outputs\u002Fevalation\u002Fpass.csv)\n\n## 📄 Technical Report\n\nOur technical report will be released soon. Stay tuned!\n\n## 🙏 Acknowledgements\n\n- Both of our models are trained on top of [`DeepSeek-R1-Distill-Qwen-7B`](https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-R1-Distill-Qwen-7B) and [`DeepSeek-R1-Distill-Qwen-32B`](https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-R1-Distill-Qwen-32B).\n- Both models are trained using [a custom fork](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1) of the wonderful [`verl`](https:\u002F\u002Fgithub.com\u002Fvolcengine\u002Fverl) project.\n\n## 📚 Citation\n\nPlease cite the following:\n\n```bibtex\n@article{he2025skywork,\n  title={Skywork Open Reasoner 1 Technical Report},\n  author={He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},\n  journal={arXiv preprint arXiv:2505.22312},\n  year={2025}\n}\n\n@misc{skywork-or1-2025,\n  title={Skywork Open Reasoner Series},\n  author = {He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},\n  howpublished={\\url{https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680}},\n  note={Notion Blog},\n  year={2025}\n}\n```\n","\u003Cdiv align=\"center\">\n\n# 🤔 Skywork-OR1（开放推理器1）\n\n\u003Cdiv>\n✊ 释放强化学习在数学与代码推理中的强大能力 🤖\n\u003C\u002Fdiv>\n\n\u003C\u002Fdiv>\n\u003Cdiv>\n\u003Cbr>\n\n\u003Cdiv align=\"center\">\n\n[![模型](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModels-4d5eff?style=for-the-badge&logo=huggingface&logoColor=ffffff&labelColor)](https:\u002F\u002Fhuggingface.co\u002Fcollections\u002FSkywork\u002Fskywork-or1-67fa1bcb41b436ef2def76b9)\n[![数据](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData-4d5eff?style=for-the-badge&logo=huggingface&logoColor=ffffff&labelColor)](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data)\n[![Github](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FCode-000000?style=for-the-badge&logo=github&logoColor=white)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1)\n[![Notion](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FNotion_Blog-000000?style=for-the-badge&logo=notion&logoColor=white)](https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680)\n\n[![GitHub Stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002FSkyworkAI\u002FSkywork-OR1?style=for-the-badge&logo=github&logoColor=white&label=Stars&color=000000)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fstargazers)\n[![GitHub Forks](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fforks\u002FSkyworkAI\u002FSkywork-OR1?style=for-the-badge&logo=github&logoColor=white&label=Forks&color=000000)](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Ffork)\n\n\u003C\u002Fdiv>\n\n## 🔥 新闻\n\n- **2025年5月29日**：我们的《Skywork开放推理器1技术报告》已在arXiv上发布。报告详细介绍了训练流程、对熵坍塌现象的探究与缓解方法，以及全面的分析和消融实验。\n- **2025年5月13日**：我们发布了**`Skywork-OR1`**系列模型的最终版本：**`Skywork-OR1-32B`**和**`Skywork-OR1-7B`**。\n  - **[`Skywork-OR1-32B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B)** 在数学任务（AIME24和AIME25）中表现优于Deepseek-R1和Qwen3-32B，在编码任务（LiveCodeBench）上则达到相当水平。\n  - **[`Skywork-OR1-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B)** 在数学和编码场景中均展现出与同规模模型相当的竞争力。\n- **2025年4月15日**：我们发布了强化学习训练数据集[`Skywork-OR1-RL-Data`](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data)。\n- **2025年4月13日**：我们推出了**`Skywork-OR1`**（开放推理器1）系列模型，包括**`Skywork-OR1-Math-7B`**、**`Skywork-OR1-32B-Preview`**和**`Skywork-OR1-7B-Preview`**。同时开源了：\n  - 🤗 模型权重：[`Skywork-OR1-Math-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-Math-7B)、[`Skywork-OR1-32B-Preview`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B-Preview)、[`Skywork-OR1-7B-Preview`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B-Preview)\n  - 🤗 训练数据：[`Skywork-OR1-RL-Data`](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FSkywork-OR1-RL-Data)\n  - 🧑‍💻 代码：[`Skywork-OR1`](https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1)\n  - 此外，我们还发布了一个[Notion博客](https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680)，分享详细的训练配方及大量实验结果、分析和见解，旨在帮助社区更好地研究、理解并推动开放推理模型的发展。\n\n## 📖 概述\n\n\u003Cdiv align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_0c1fffb3ef46.jpg\" width=\"100%\"\u002F>\n\n\u003Csub>我们在多阶段训练流程中记录的Skywork-OR1-32B的AIME24和AIME25分数随训练步数的变化。\u003C\u002Fsub>\n\u003C\u002Fdiv>\n\n**`Skywork-OR1`**（开放推理器1）系列模型是一组强大的数学与代码推理模型，采用大规模基于规则的强化学习进行训练，并配备了精心设计的数据集和训练配方。该系列包含两款通用推理模型：**`Skywork-OR1-7B`**和**`Skywork-OR1-32B`**。\n\n- **[`Skywork-OR1-32B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-32B)** 在数学任务（AIME24和AIME25）中表现优于Deepseek-R1和Qwen3-32B，在编码任务（LiveCodeBench）上则达到相当水平。\n- **[`Skywork-OR1-7B`](https:\u002F\u002Fhuggingface.co\u002FSkywork\u002FSkywork-OR1-7B)** 在数学和编码场景中均展现出与同规模模型相当的竞争力。\n\n## 📊 评估\n\n\u003Cdiv align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_d97555e6de91.jpg\" width=\"75%\"\u002F>\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_readme_b6c6db9873df.jpg\" width=\"75%\"\u002F>\n\u003C\u002Fdiv>\n\u003C\u002Fdiv>\n\u003Cbr>\n\n我们针对AIME24、AIME25和LiveCodeBench对模型进行了评估。不同于以往研究中常用的Pass@1指标，我们引入了Avg@K作为主要评价标准。该指标能够稳健地衡量模型在K次独立尝试中的平均表现，从而减少随机性的影响，提升结果的可靠性。我们认为，Avg@K更能反映模型的稳定性和推理一致性。\n\n详细结果见下表。\n\n| 模型                        | AIME24 (Avg@32) | AIME25 (Avg@32) | LiveCodeBench (8\u002F1\u002F24-2\u002F1\u002F25) (Avg@4) |\n| ---------------------------- | --------------- | --------------- | ------------------------------------- |\n| DeepSeek-R1-Distill-Qwen-7B  | 55.5            | 39.2            | 37.6                                  |\n| Light-R1-7B-DS               | 59.1            | 44.3            | 39.5                                  |\n| **Skywork-OR1-7B**           | 70.2            | 54.6            | 47.6                                  |\n| DeepSeek-R1-Distill-Qwen-32B | 72.9            | 59.0            | 57.2                                  |\n| TinyR1-32B-Preview           | 78.1            | 65.3            | 61.6                                  |\n| QwQ-32B                      | 79.5            | 65.3            | 61.6                                  |\n| Qwen3-32B                    | 81.4            | 72.9            | 65.7                                  |\n| DeepSeek-R1                  | 79.8            | 70.0            | 65.9                                  |\n| **Skywork-OR1-32B**          | 82.2            | 73.3            | 63.0                                  |\n\n## 🎯 入门指南\n\n### 安装\n\nDocker环境：\n\n```bash\ndocker pull whatcanyousee\u002Fverl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6\n\n# 启动所需的Docker镜像：\ndocker run --runtime=nvidia -it --rm --shm-size=\"10g\" --cap-add=SYS_ADMIN -v \u003Cimage:tag>\n\n# 在容器内安装Skywork-OR1\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git && cd Skywork-OR1 && pip3 install -e .\n```\n\nConda环境：\n\n```bash\n# 创建Python 3.10环境。\nconda create -n verl python==3.10\nconda activate verl\n\n# 安装RLLM依赖。\npip3 install torch==2.4.0 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu124\npip3 install flash-attn --no-build-isolation\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git\ncd Skywork-OR1\npip3 install -e .\n```\n\n### 训练 ⚙️\n\n我们提供了训练脚本和数据，以复现“Skywork-OR1系列”的实验结果。\n\n### 训练数据准备\n\n为了准备训练数据，我们提供了一个脚本，可以从Hugging Face下载数据，并根据特定模型（即DeepSeek-R1-Distill-Qwen-{1.5,7,32}B）的难度级别对问题进行筛选。\n\n```bash\nmodel_size=32b  # 1p5b, 7b\npython .\u002For1_scripts\u002Fdata_preprocess\u002Fdownload_and_filter_data_${model_size}.py --local_dir .\u002For1_data\u002Ftrain\n```\n\n这将生成以下格式的训练数据：\n\n```bash\n.\u002For1_data\u002Ftrain\u002Ftrain_${model_size}_math.pkl\n.\u002For1_data\u002Ftrain\u002Ftrain_${model_size}_code.pkl\n```\n\n### 训练脚本\n\n默认情况下，我们仅提供AIME数据集上的评估。如果您希望在LiveCodeBench上进行评估，请参阅[**评估数据准备**](#evaluation-data-preparation)部分，并将`LIVECODEBENCH_DATA_PATH`设置为`.\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench_2408_2502`。\n\n```bash\n# 注意：必须提供CODE_PATH和MODEL_PATH\nmodel_size=7b # 或 32b\ntrain_seq_len=8 # 或 16, 32\nexport CODE_PATH=.\u002F\nexport MODEL_PATH=\nbash .\u002For1_scripts\u002Ftrain\u002F${model_size}_${train_seq_len}k.sh\n```\n\n### 使用Ray进行多节点训练\n\n如果您计划进行**多节点训练**，则需要在启动训练脚本之前，**使用Ray启动并连接所有节点**。以下是跨机器设置Ray的快速指南：\n\n#### 第一步：在主节点（node0）上启动Ray\n\n在第一个节点（通常称为`node0`）上，运行以下命令：\n\n```bash\nray start --head --dashboard-host=0.0.0.0\n```\n\n执行该命令后，您将看到类似以下的消息：\n\n```\nRay 运行时已启动。\n下一步\n要将另一节点添加到此Ray集群，请运行\n    ray start --address='10.94.16.4:6379'\n```\n\n请记下IP地址（本例中为`10.94.16.4`）。\n\n#### 第二步：连接其他节点（例如node1）\n\n在每个额外的工作节点（例如`node1`）上，运行以下命令，并将IP地址替换为主节点的IP地址：\n\n```bash\nray start --address='10.94.16.4:6379'\n```\n\n#### 第三步：检查集群状态\n\n在`node0`上，运行以下命令：\n\n```bash\nray status\n```\n\n您应该会看到显示所有已连接节点及可用资源（如CPU、GPU、内存）的输出。例如：\n\n```\n资源\n---------------------------------------------------------------\n使用情况：\n 0.0\u002F360.0 CPU\n 0.0\u002F16.0 GPU\n...\n```\n\n一旦Ray集群启动并运行，您可以照常启动训练脚本。该脚本将自动利用已连接的节点。\n\n### 评估 ⚖️\n\n我们提供了评估脚本，以复现`Skywork-OR1系列`的实验结果。\n\n#### 评估数据准备\n\nAIME24和AIME25的评估数据已存在于我们的GitHub仓库中。\n\n对于LiveCodeBench，请从[Hugging Face](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FSkywork\u002FLiveCodeBench)下载数据。\n\n```bash\n# 下载LiveCodeBench\nhuggingface-cli download Skywork\u002FLiveCodeBench --repo-type=dataset --local-dir .\u002For1_data\u002Feval\u002Flivecodebench\nunzip .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench.zip -d .\u002For1_data\u002Feval\u002Flivecodebench\u002F\nmv .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench\u002F* .\u002For1_data\u002Feval\u002Flivecodebench\u002F\n```\n\n#### 评估开始\n\n```bash\nbash .\u002For1_scripts\u002Feval\u002Feval_7b.sh\n\nbash .\u002For1_scripts\u002Feval\u002Feval_32b.sh\n```\n\n评估结果将自动保存到[outputs\u002Fevalation\u002Fpass.csv](outputs\u002Fevalation\u002Fpass.csv)。\n\n## 📄 技术报告\n\n我们的技术报告即将发布，敬请期待！\n\n## 🙏 致谢\n\n- 我们的两个模型均基于[`DeepSeek-R1-Distill-Qwen-7B`](https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-R1-Distill-Qwen-7B)和[`DeepSeek-R1-Distill-Qwen-32B`](https:\u002F\u002Fhuggingface.co\u002Fdeepseek-ai\u002FDeepSeek-R1-Distill-Qwen-32B)进行训练。\n- 两个模型均使用了对优秀的[`verl`](https:\u002F\u002Fgithub.com\u002Fvolcengine\u002Fverl)项目的自定义分支进行训练。\n\n## 📚 引用\n\n请引用以下内容：\n\n```bibtex\n@article{he2025skywork,\n  title={Skywork Open Reasoner 1 技术报告},\n  author={He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},\n  journal={arXiv预印本 arXiv:2505.22312},\n  year={2025}\n}\n\n@misc{skywork-or1-2025,\n  title={Skywork Open Reasoner 系列},\n  author = {He, Jujie and Liu, Jiacai and Liu, Chris Yuhao and Yan, Rui and Wang, Chaojie and Cheng, Peng and Zhang, Xiaoyu and Zhang, Fuxiang and Xu, Jiacheng and Shen, Wei and Li, Siyuan and Zeng, Liang and Wei, Tianwen and Cheng, Cheng and An, Bo and Liu, Yang and Zhou, Yahui},\n  howpublished={\\url{https:\u002F\u002Fcapricious-hydrogen-41c.notion.site\u002FSkywork-Open-Reaonser-Series-1d0bc9ae823a80459b46c149e4f51680}},\n  note={Notion博客},\n  year={2025}\n}\n```","# Skywork-OR1 快速上手指南\n\nSkywork-OR1 是天工（Skywork）推出的开源推理模型系列，基于大规模规则强化学习（RL）训练，专为数学和代码推理任务设计。本指南将帮助您快速搭建环境并运行模型。\n\n## 1. 环境准备\n\n### 系统要求\n- **操作系统**: Linux (推荐 Ubuntu 20.04+)\n- **GPU**: NVIDIA GPU (支持 CUDA 12.4)\n- **显存**: \n  - 7B 模型：建议单卡 24GB+ 或多卡并行\n  - 32B 模型：建议多卡并行或高显存实例\n- **Python**: 3.10\n\n### 前置依赖\n- Docker (可选，推荐用于隔离环境)\n- Conda (用于管理 Python 环境)\n- Git\n- NVIDIA Driver (版本需匹配 CUDA 12.4)\n\n## 2. 安装步骤\n\n您可以选择 **Docker** 或 **Conda** 方式进行安装。\n\n### 方案 A：使用 Docker (推荐)\n\nDocker 镜像已预装所有依赖（PyTorch, vLLM, Ray, Megatron 等），是最简便的方式。\n\n```bash\n# 1. 拉取官方预构建镜像\ndocker pull whatcanyousee\u002Fverl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6\n\n# 2. 启动容器\n# 请将 \u003Cimage:tag> 替换为实际镜像名，并挂载本地目录以便访问代码和数据\ndocker run --runtime=nvidia -it --rm --shm-size=\"10g\" --cap-add=SYS_ADMIN -v $(pwd):\u002Fworkspace whatcanyousee\u002Fverl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6\n\n# 3. 在容器内克隆代码并安装\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git && cd Skywork-OR1 && pip3 install -e .\n```\n\n### 方案 B：使用 Conda\n\n如果您希望在本机环境中直接部署，请按以下步骤操作：\n\n```bash\n# 1. 创建并激活 Python 3.10 环境\nconda create -n verl python==3.10\nconda activate verl\n\n# 2. 安装 PyTorch (CUDA 12.4 版本)\npip3 install torch==2.4.0 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu124\n\n# 3. 安装 Flash Attention (需确保 nvcc 可用)\npip3 install flash-attn --no-build-isolation\n\n# 4. 克隆代码库并安装依赖\ngit clone https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1.git\ncd Skywork-OR1\npip3 install -e .\n```\n\n## 3. 基本使用\n\n### 步骤一：准备训练数据\n\n脚本会自动从 Hugging Face 下载数据，并根据指定模型大小（如 7b 或 32b）过滤难度。\n\n```bash\n# 设置模型大小 (可选值：1p5b, 7b, 32b)\nmodel_size=32b\n\n# 执行下载与预处理脚本\npython .\u002For1_scripts\u002Fdata_preprocess\u002Fdownload_and_filter_data_${model_size}.py --local_dir .\u002For1_data\u002Ftrain\n```\n*执行成功后，将在 `.\u002For1_data\u002Ftrain\u002F` 目录下生成 `.pkl` 格式的训练数据文件。*\n\n### 步骤二：开始训练\n\n在运行训练脚本前，请确保设置好代码路径和基础模型权重路径。\n\n```bash\n# 配置参数\nmodel_size=7b             # 选择 7b 或 32b\ntrain_seq_len=8           # 序列长度倍数 (8, 16, 32)\nexport CODE_PATH=.\u002F       # 当前代码目录\nexport MODEL_PATH=\u003C您的模型权重路径> # 替换为实际的 DeepSeek-R1-Distill-Qwen 权重路径\n\n# 启动训练\nbash .\u002For1_scripts\u002Ftrain\u002F${model_size}_${train_seq_len}k.sh\n```\n\n> **提示**：默认评估数据集为 AIME。若需评估 LiveCodeBench，请先参考原文\"Evaluation Data Preparation\"章节下载数据，并设置 `LIVECODEBENCH_DATA_PATH` 环境变量。\n\n### 步骤三：多节点训练 (可选)\n\n若需使用多台机器进行分布式训练，需先通过 **Ray** 组建集群：\n\n1.  **主节点 (Head Node)** 启动：\n    ```bash\n    ray start --head --dashboard-host=0.0.0.0\n    ```\n    *记录输出中的 IP 地址（例如 `10.94.16.4`）。*\n\n2.  **工作节点 (Worker Nodes)** 加入集群：\n    ```bash\n    ray start --address='10.94.16.4:6379'\n    ```\n    *(将 IP 替换为主节点的实际 IP)*\n\n3.  **验证集群状态** (在主节点执行)：\n    ```bash\n    ray status\n    ```\n    确认看到所有节点的 CPU\u002FGPU 资源后，即可直接运行上述训练脚本，系统将自动调度多节点资源。\n\n### 步骤四：模型评估\n\n评估脚本支持 AIME24\u002F25 和 LiveCodeBench。\n\n```bash\n# 准备 LiveCodeBench 数据 (仅首次需要)\nhuggingface-cli download Skywork\u002FLiveCodeBench --repo-type=dataset --local-dir .\u002For1_data\u002Feval\u002Flivecodebench\nunzip .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench.zip -d .\u002For1_data\u002Feval\u002Flivecodebench\u002F\nmv .\u002For1_data\u002Feval\u002Flivecodebench\u002Flivecodebench\u002F* .\u002For1_data\u002Feval\u002Flivecodebench\u002F\n\n# 运行评估 (根据模型大小选择脚本)\nbash .\u002For1_scripts\u002Feval\u002Feval_7b.sh\n# 或\nbash .\u002For1_scripts\u002Feval\u002Feval_32b.sh\n```\n评估结果将自动保存至 `outputs\u002Fevalation\u002Fpass.csv`。","某量化研究团队正在开发一套自动解题系统，需要让 AI 处理高难度的数学竞赛题目（如 AIME）并生成可执行的验证代码。\n\n### 没有 Skywork-OR1 时\n- **推理深度不足**：面对复杂的几何或数论问题，通用大模型往往在中间步骤“想当然”，导致逻辑链条断裂，无法得出正确答案。\n- **代码验证失效**：模型生成的用于验证数学结论的代码常包含语法错误或逻辑漏洞，无法真正运行来辅助解题。\n- **调优成本高昂**：团队试图通过传统监督微调（SFT）提升能力，但模型只是死记硬背了题库，遇到新题型依然束手无策。\n- **结果不可控**：模型输出缺乏稳定的思维链（Chain-of-Thought），有时直接猜答案，有时冗长啰嗦却不得要领。\n\n### 使用 Skywork-OR1 后\n- **强化推理突破**：得益于大规模基于规则的强化学习训练，Skywork-OR1-32B 能像人类专家一样拆解复杂步骤，在 AIME24\u002F25 等硬核数学测试中表现超越 Deepseek-R1。\n- **代码逻辑严密**：模型不仅能解题，还能生成高质量的可执行代码来验证推导过程，显著提升了“数学 + 编程”双重任务的成功率。\n- **泛化能力增强**：不再依赖死记硬背，Skywork-OR1 掌握了通用的推理策略，即使面对从未见过的变体题目也能灵活应对。\n- **思维过程稳定**：模型展现出连贯且深入的思考路径，能够自我修正错误假设，输出结果更加可靠且易于追溯。\n\nSkywork-OR1 通过释放强化学习的潜力，将 AI 从简单的“知识检索者”进化为具备深度逻辑推演能力的“理性思考者”。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FSkyworkAI_Skywork-OR1_2075a343.png","SkyworkAI","Skywork ","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FSkyworkAI_347e666f.jpg","Transfer knowledge, Unlock creativity.",null,"https:\u002F\u002Fskywork.ai\u002F","https:\u002F\u002Fgithub.com\u002FSkyworkAI",[84,88],{"name":85,"color":86,"percentage":87},"Python","#3572A5",95.7,{"name":89,"color":90,"percentage":91},"Shell","#89e051",4.3,744,45,"2026-03-31T10:49:28","Apache-2.0",4,"Linux","必需 NVIDIA GPU。Docker 镜像指定 CUDA 12.4 (cu124)。显存需求未明确说明，但鉴于模型规模 (7B\u002F32B) 及使用的框架 (vLLM, Megatron-LM)，建议高显存配置。","未说明 (Docker 启动参数示例中设置了 --shm-size=\"10g\")",{"notes":101,"python":102,"dependencies":103},"1. 官方推荐使用提供的 Docker 镜像 (whatcanyousee\u002Fverl:vemlp-th2.4.0-cu124-vllm0.6.3-ray2.10-te2.0-megatron0.11.0-v0.0.6) 以确保环境兼容性。\n2. 若使用 Conda 手动安装，需严格匹配 torch 2.4.0 (cu124) 并安装 flash-attn。\n3. 多节点训练需要预先配置 Ray 集群。\n4. 模型基于 DeepSeek-R1-Distill-Qwen 系列微调，训练代码基于 verl 项目的定制分支。","3.10",[104,105,106,107,108,109,110],"torch==2.4.0","flash-attn","verl","vllm==0.6.3","ray==2.10","transformer-engine==2.0","megatron-core==0.11.0",[26,13],"2026-03-27T02:49:30.150509","2026-04-06T08:15:56.096046",[115,120,125,130,135,140,145],{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},12801,"训练 7B 和 32B 模型在不同上下文长度（8k\u002F16k\u002F32k）下分别使用了多少张 GPU？何时切换上下文长度？","根据官方回复：\n1. **GPU 数量**：32B 模型目前使用 256 张卡；7B 模型使用 64 或 128 张卡，具体取决于批次大小（batch size）。\n2. **切换策略**：具体的训练步数和切换时机是“个案处理”（case by case）的。团队会在技术报告中提供启发式策略。\n3. **最新进展**：最终版本调整至 24k 上下文长度。在 AIME24 测试中得分为 82，AIME25 为 73。第二阶段训练耗时约一周多。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F28",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},12802,"运行代码时报错找不到 func.json 和 stdin.json 文件，如何解决？","这是一个已知问题，维护者已在最新代码中修复。解决方法是更新到最新版本代码，缺失的文件已被添加。\n如果拉取新代码后仍然报错，请检查路径是否正确，或参考 PR #12 确认文件是否已合并到您的本地分支中。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F11",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},12803,"文档中的 Adv-Mask-Before 和 Adv-Mask-After 有什么区别？图示似乎有误。","之前的版本中该部分的图示确实存在错误。该问题已在 5 月 29 日更新的 v2 版本中修正。请参考更新后的文档或图表以获取正确的信息。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F44",{"id":131,"question_zh":132,"answer_zh":133,"source_url":134},12804,"为什么在某些问题上，较小的模型（如 1.5B 或 7B）表现反而比大模型（如 32B）更好？","官方解释了造成这种反常现象的几个潜在原因：\n1. **模型差异**：小模型由于独特的训练方式或能力，偶尔会在特定任务上超越大模型。\n2. **采样效应**：当模型在某些问题上表现非常接近时，有限的尝试次数可能导致因统计波动而产生的表面差异。\n3. **数据问题**：数据集中的某些问题可能存在缺陷（如参考解答错误或单元测试有问题），这会导致评估异常。尽管进行了过滤，仍可能残留少量此类问题。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F40",{"id":136,"question_zh":137,"answer_zh":138,"source_url":139},12805,"使用 Docker 拉起 8 卡任务时报错\"No available node types can fulfill resource request\"，但 nvidia-smi 显示资源空闲，如何处理？","该报错通常是因为启动 Docker 镜像时未成功挂载 GPU，导致 Ray 集群无法识别 GPU 资源。\n**解决步骤**：\n1. 确保启动容器时正确添加了 `--gpus all` 参数。\n2. 可以在机器上先运行 `ray start --head --dashboard-host=0.0.0.0`。\n3. 使用 `ray status` 命令检查资源状态，确认 GPU 是否已被 Ray 正确识别。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F34",{"id":141,"question_zh":142,"answer_zh":143,"source_url":144},12806,"代码中似乎只使用了 Code Reward，那么数学题是如何计算奖励（Reward）的？","这是一个命名规范问题。虽然函数名写的是 `code_compute_score`，但实际上数学内容已合并到该代码分支中。\n**具体逻辑**：请查看 `compute_score.py` 文件，该函数的最后一个 `else` 分支专门用于处理数学题的奖励计算。\n参考代码位置：`verl\u002Futils\u002Freward_score\u002Flivecodebench\u002Fcompute_score.py` 第 327 行附近。","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F27",{"id":146,"question_zh":147,"answer_zh":148,"source_url":149},12807,"在哪里可以找到数据预处理流水线（步骤 1 和 3）所使用的脚本？","维护者已将数据处理的详细说明和脚本指引更新到了项目的 README 文件中。\n请访问仓库首页的 \"Training Data Preparation\" 章节查看具体指令：https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1?tab=readme-ov-file#training-data-preparation","https:\u002F\u002Fgithub.com\u002FSkyworkAI\u002FSkywork-OR1\u002Fissues\u002F1",[]]