[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-meta-pytorch--torchforge":3,"tool-meta-pytorch--torchforge":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",144730,2,"2026-04-07T23:26:32",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,"2026-04-06T11:32:50",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[35,15,13,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":76,"owner_website":77,"owner_url":78,"languages":79,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":92,"env_os":93,"env_gpu":94,"env_ram":95,"env_deps":96,"category_tags":104,"github_topics":76,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":105,"updated_at":106,"faqs":107,"releases":137},5334,"meta-pytorch\u002Ftorchforge","torchforge","PyTorch-native post-training at scale","torchforge 是一个专为大规模强化学习（RL）打造的 PyTorch 原生库，旨在让研究人员专注于算法创新，而非被底层基础设施的复杂性所困扰。它通过将 RL 循环与基础设施逻辑清晰分离，解决了在分布式训练中难以兼顾灵活性与扩展性的痛点。无论是需要快速验证新想法，还是要在数千张 GPU 上进行异步或同步训练，torchforge 都能提供流畅的支持。\n\n这款工具特别适合 AI 研究人员和高级开发者使用。对于希望快速迭代算法的研究者，它提供了高度封装的抽象接口，屏蔽了通信模式和故障处理等繁琐细节；而对于需要精细控制资源调度或修改训练流程的资深工程师，其模块化设计允许直接调整 RL 循环的任何部分，而无需触碰底层架构。\n\n技术亮点方面，torchforge 深度集成了 PyTorch 2.9.0 生态，支持 Monarch、vLLM 及 torchtitan 等前沿组件，并具备在大规模集群中灵活切换训练模式的能力。需要注意的是，目前该项目仍处于早期实验阶段，API 可能随版本更新而变化，非常适合愿意参与开源共建、探索前沿技术的极客用户。","# \u003Cimg width=\"35\" height=\"35\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-pytorch_torchforge_readme_431c3c7870e5.png\" \u002F> torchforge\n\n#### A PyTorch-native agentic RL library that lets you focus on algorithms—not infra.\n[![GPU Tests](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fforge\u002Factions\u002Fworkflows\u002Fgpu_test.yaml\u002Fbadge.svg?branch=main)](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fforge\u002Factions\u002Fworkflows\u002Fgpu_test.yaml?query=branch%3Amain)\n[![Documentation](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDocs-meta--pytorch.org-blue?style=flat&logo=readthedocs&logoColor=white)](https:\u002F\u002Fmeta-pytorch.org\u002Ftorchforge\u002F)\n[![Discord](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDiscord-OpenEnv-7289da?style=flat&logo=discord&logoColor=white)](https:\u002F\u002Fdiscord.gg\u002FYsTYBh6PD9)\n\n## Overview\nThe primary purpose of the torchforge ecosystem is to separate infra concerns from model concerns thereby making RL experimentation easier. torchforge delivers this by providing clear RL abstractions and one scalable implementation of these abstractions. When you need fine-grained control over placement, fault handling\u002Fredirecting training loads during a run, or communication patterns, the primitives are there. When you don’t, you can focus purely on your RL algorithm.\n\nKey features:\n- Usability for rapid research (isolating the RL loop from infrastructure)\n- Hackability for power users (all parts of the RL loop can be easily modified without interacting with infrastructure)\n- Scalability (ability to shift between async and synchronous training and across thousands of GPUs)\n\n> ⚠️ **Early Development Warning** torchforge is currently in an experimental\n> stage. You should expect bugs, incomplete features, and APIs that may change\n> in future versions. The project welcomes bugfixes, but to make sure things are\n> well coordinated you should discuss any significant change before starting the\n> work. It's recommended that you signal your intention to contribute in the\n> issue tracker, either by filing a new issue or by claiming an existing one.\n\n## 📖 Documentation\n\nView torchforge's hosted documentation: https:\u002F\u002Fmeta-pytorch.org\u002Ftorchforge.\n\n## Tutorials\n\nYou can also find our notebook tutorials (coming soon)\n\n## Installation\n\ntorchforge requires PyTorch 2.9.0 with [Monarch](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fmonarch), [vLLM](https:\u002F\u002Fgithub.com\u002Fvllm-project\u002Fvllm), and [torchtitan](https:\u002F\u002Fgithub.com\u002Fpytorch\u002Ftorchtitan).\n\n### Conda\n\nInstall torchforge with:\n\n```bash\nconda create -n forge python=3.12\nconda activate forge\n.\u002Fscripts\u002Finstall.sh\n```\n\n#### ROCm Installation\n\nROCm users can install with the dedicated script:\n\n```bash\nconda create -n forge python=3.12\nconda activate forge\n.\u002Fscripts\u002Finstall_rocm.sh\n```\n\nNotes:\n- `PYTORCH_ROCM_ARCH` is auto-detected when possible; set it manually if detection fails (example: `PYTORCH_ROCM_ARCH=gfx942`).\n- `ROCM_VERSION` is auto-detected when possible; set it manually if detection fails (example: `ROCM_VERSION=6.4`).\n- For ROCm 7.x, PyTorch stable 2.9.0 is not available. The script defaults to nightly wheels. You can override with `PYTORCH_CHANNEL=stable|nightly`.\n- ROCm builds install Monarch with `USE_TENSOR_ENGINE=0`, so RDMA and distributed tensor features are disabled for now.\n- Optional flags: `--use-sudo` (system packages) and `--skip-amdsmi` (skip amdsmi install).\n\nThe install script installs system dependencies along with torchforge. Note that this install script uses [DNF](https:\u002F\u002Fdocs.fedoraproject.org\u002Fen-US\u002Fquick-docs\u002Fdnf\u002F), but could be easily extended to other Linux OS.\n\nOptional: By default, the packages installation uses conda. If you want to install system packages on the target machine instead of conda, you can pass the `--use-sudo` flag to the installation script: `.\u002Fscripts\u002Finstall.sh --use-sudo`.\n\n### Pixi\n\nPixi combines benefits of uv with access to conda forge for system dependencies. [pixi.toml](.\u002Fpixi.toml) provides a manifest with build tasks with `install` as a the combined install all task.\n\nInstall pixi:\n```\ncurl -fsSL https:\u002F\u002Fpixi.sh\u002Finstall.sh | bash\n```\n\nInstall torchforge with pixi:\n```\npixi run install\n```\n\n> **Note:** We are actively working on enabling pure `uv` installation. Currently, Conda is the recommended approach. `uv` support is not fully working at the moment but is being tracked in [issue #494](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F494).\n\nAfter install, you can run the following command and should see output confirming GRPO training is running (you need a minimum 2 GPU devices):\n\n```\npython -m apps.grpo.main --config apps\u002Fgrpo\u002Fqwen3_1_7b.yaml\n```\n\n## Quick Start\n\nTo run SFT on a Llama3 8B model, run\n\n```bash\npython -m apps.sft.main --config apps\u002Fsft\u002Fllama3_8b.yaml\n```\n\n### Citation\n\n## License\n\nSource code is made available under a [BSD 3 license](.\u002FLICENSE), however you may have other legal obligations that govern your use of other content linked in this repository, such as the license or terms of service for third-party data and models.\n","# \u003Cimg width=\"35\" height=\"35\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-pytorch_torchforge_readme_431c3c7870e5.png\" \u002F> torchforge\n\n#### 一个原生基于 PyTorch 的智能体强化学习库，让你专注于算法而非基础设施。\n[![GPU 测试](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fforge\u002Factions\u002Fworkflows\u002Fgpu_test.yaml\u002Fbadge.svg?branch=main)](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fforge\u002Factions\u002Fworkflows\u002Fgpu_test.yaml?query=branch%3Amain)\n[![文档](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDocs-meta--pytorch.org-blue?style=flat&logo=readthedocs&logoColor=white)](https:\u002F\u002Fmeta-pytorch.org\u002Ftorchforge\u002F)\n[![Discord](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FDiscord-OpenEnv-7289da?style=flat&logo=discord&logoColor=white)](https:\u002F\u002Fdiscord.gg\u002FYsTYBh6PD9)\n\n## 概述\ntorchforge 生态系统的主要目的是将基础设施相关的关注点与模型相关的关注点分离，从而简化强化学习实验。torchforge 通过提供清晰的强化学习抽象以及这些抽象的一个可扩展实现来实现这一点。当你需要对资源分配、运行期间的故障处理或训练负载重定向、通信模式等进行细粒度控制时，相应的基础工具都已就位。而当你不需要这些复杂控制时，你就可以纯粹专注于你的强化学习算法。\n\n关键特性：\n- 易用性，便于快速研究（将强化学习循环与基础设施解耦）\n- 可扩展性，适合高级用户（强化学习循环的各个部分都可以轻松修改，而无需接触基础设施）\n- 可扩展性（能够在异步和同步训练之间切换，并支持数千张 GPU 卡）\n\n> ⚠️ **早期开发警告** torchforge 目前仍处于实验阶段。你可能会遇到一些 bug、功能不完整的情况，以及未来版本中可能发生变化的 API。项目欢迎提交 bug 修复，但为了确保协调一致，在开始工作之前，请先讨论任何重大更改。建议你在问题跟踪器中表明你的贡献意向，可以通过新建问题或认领现有问题来实现。\n\n## 📖 文档\n\n查看 torchforge 的托管文档：https:\u002F\u002Fmeta-pytorch.org\u002Ftorchforge。\n\n## 教程\n\n我们还准备了笔记本教程（即将发布）。\n\n## 安装\n\ntorchforge 需要 PyTorch 2.9.0，并依赖 [Monarch](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Fmonarch)、[vLLM](https:\u002F\u002Fgithub.com\u002Fvllm-project\u002Fvllm) 和 [torchtitan](https:\u002F\u002Fgithub.com\u002Fpytorch\u002Ftorchtitan)。\n\n### Conda\n\n使用以下命令安装 torchforge：\n\n```bash\nconda create -n forge python=3.12\nconda activate forge\n.\u002Fscripts\u002Finstall.sh\n```\n\n#### ROCm 安装\n\nROCm 用户可以使用专用脚本来安装：\n\n```bash\nconda create -n forge python=3.12\nconda activate forge\n.\u002Fscripts\u002Finstall_rocm.sh\n```\n\n注意事项：\n- 在可能的情况下会自动检测 `PYTORCH_ROCM_ARCH`；如果检测失败，请手动设置（例如：`PYTORCH_ROCM_ARCH=gfx942`）。\n- 在可能的情况下会自动检测 `ROCM_VERSION`；如果检测失败，请手动设置（例如：`ROCM_VERSION=6.4`）。\n- 对于 ROCm 7.x，PyTorch 稳定版 2.9.0 尚不可用。脚本默认使用 nightly 轮子。你可以通过设置 `PYTORCH_CHANNEL=stable|nightly` 来覆盖默认行为。\n- ROCm 构建会以 `USE_TENSOR_ENGINE=0` 的方式安装 Monarch，因此 RDMA 和分布式张量功能目前已被禁用。\n- 可选标志：`--use-sudo`（系统包）和 `--skip-amdsmi`（跳过 amdsmi 安装）。\n\n安装脚本会同时安装系统依赖和 torchforge。请注意，此安装脚本使用 [DNF](https:\u002F\u002Fdocs.fedoraproject.org\u002Fen-US\u002Fquick-docs\u002Fdnf\u002F)，但可以轻松扩展到其他 Linux 发行版。\n\n可选：默认情况下，软件包安装使用 conda。如果你想在目标机器上直接安装系统包而不是通过 conda，可以在安装脚本中添加 `--use-sudo` 标志：`.\u002Fscripts\u002Finstall.sh --use-sudo`。\n\n### Pixi\n\nPixi 结合了 uv 的优势，并可通过 conda forge 获取系统依赖。[pixi.toml](.\u002Fpixi.toml) 提供了一个清单文件，其中包含构建任务，`install` 是一个组合安装任务。\n\n安装 pixi：\n```\ncurl -fsSL https:\u002F\u002Fpixi.sh\u002Finstall.sh | bash\n```\n\n使用 pixi 安装 torchforge：\n```\npixi run install\n```\n\n> **注意：** 我们正在积极努力实现纯 `uv` 安装。目前，推荐使用 Conda。`uv` 支持尚未完全实现，相关进展可在 [issue #494](https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F494) 中跟踪。\n\n安装完成后，你可以运行以下命令，应该会看到 GRPO 训练正在运行的输出（至少需要 2 张 GPU 设备）：\n\n```\npython -m apps.grpo.main --config apps\u002Fgrpo\u002Fqwen3_1_7b.yaml\n```\n\n## 快速入门\n\n要在 Llama3 8B 模型上运行 SFT，运行以下命令：\n\n```bash\npython -m apps.sft.main --config apps\u002Fsft\u002Fllama3_8b.yaml\n```\n\n### 引用\n\n## 许可证\n\n源代码根据 [BSD 3 许可证](.\u002FLICENSE) 提供，然而，您可能还需遵守其他法律义务，这些义务适用于本仓库中链接的其他内容，例如第三方数据和模型的许可或服务条款。","# torchforge 快速上手指南\n\ntorchforge 是一个原生的 PyTorch 智能体强化学习（Agentic RL）库，旨在将基础设施与模型算法解耦，让开发者专注于 RL 算法本身。它支持从异步到同步的训练模式，并可扩展至数千张 GPU。\n\n> ⚠️ **注意**：本项目目前处于早期实验阶段，API 可能发生变化，且可能存在 Bug。生产环境使用请谨慎。\n\n## 1. 环境准备\n\n在开始之前，请确保满足以下系统要求：\n\n*   **操作系统**：Linux (脚本默认使用 DNF 包管理器，适用于 Fedora\u002FCentOS\u002FRHEL 等，其他发行版需手动安装系统依赖)。\n*   **Python 版本**：3.12。\n*   **PyTorch 版本**：2.9.0 (需配合 Monarch, vLLM, 和 torchtitan)。\n*   **硬件要求**：\n    *   **GPU**：运行示例至少需要 **2 块 GPU**。\n    *   **ROCm 用户**：需确认架构版本（如 `gfx942`）和 ROCm 版本（如 `6.4`）。ROCm 7.x 用户需注意 PyTorch 稳定版尚未适配，脚本将默认使用 nightly 版本。\n\n## 2. 安装步骤\n\n推荐使用 **Conda** 进行安装。国内用户若遇到网络问题，建议配置 Conda 国内镜像源（如清华源或中科大源）以加速依赖下载。\n\n### 方法一：标准安装 (CUDA\u002FNVIDIA)\n\n```bash\n# 创建并激活 conda 环境\nconda create -n forge python=3.12\nconda activate forge\n\n# 运行安装脚本\n.\u002Fscripts\u002Finstall.sh\n```\n\n*可选：若希望直接安装系统级包而非 conda 包，可添加 `--use-sudo` 参数：*\n```bash\n.\u002Fscripts\u002Finstall.sh --use-sudo\n```\n\n### 方法二：ROCm 安装 (AMD GPU)\n\n```bash\n# 创建并激活 conda 环境\nconda create -n forge python=3.12\nconda activate forge\n\n# 运行 ROCm 专用安装脚本\n.\u002Fscripts\u002Finstall_rocm.sh\n```\n\n**ROCm 特殊配置说明：**\n*   若自动检测失败，可手动指定架构和版本：\n    ```bash\n    PYTORCH_ROCM_ARCH=gfx942 ROCM_VERSION=6.4 .\u002Fscripts\u002Finstall_rocm.sh\n    ```\n*   若需强制使用稳定版或 nightly 版 PyTorch：\n    ```bash\n    PYTORCH_CHANNEL=stable .\u002Fscripts\u002Finstall_rocm.sh\n    ```\n*   当前 ROCm 构建默认禁用 RDMA 和分布式张量功能 (`USE_TENSOR_ENGINE=0`)。\n\n### 方法三：使用 Pixi (替代方案)\n\nPixi 结合了 uv 的速度和 conda-forge 的系统依赖管理能力。\n\n```bash\n# 安装 pixi\ncurl -fsSL https:\u002F\u002Fpixi.sh\u002Finstall.sh | bash\n\n# 使用 pixi 安装 torchforge\npixi run install\n```\n\n## 3. 基本使用\n\n安装完成后，即可运行内置的示例应用。以下是最简单的快速启动示例。\n\n### 示例：运行 GRPO 训练\n\n确保机器至少有 2 块可用 GPU，运行以下命令启动 GRPO 训练示例：\n\n```bash\npython -m apps.grpo.main --config apps\u002Fgrpo\u002Fqwen3_1_7b.yaml\n```\n\n### 示例：运行 SFT (监督微调)\n\n若要对 Llama3 8B 模型进行 SFT 训练，运行：\n\n```bash\npython -m apps.sft.main --config apps\u002Fsft\u002Fllama3_8b.yaml\n```\n\n运行成功后，终端将输出训练日志，表明 RL 循环已正常启动。更多高级用法和自定义算法请参考官方文档：https:\u002F\u002Fmeta-pytorch.org\u002Ftorchforge\u002F","某大型语言模型实验室的研究团队正试图在数千张 GPU 集群上，通过强化学习（RL）对基础模型进行大规模后训练，以优化其复杂推理能力。\n\n### 没有 torchforge 时\n- **基础设施耦合严重**：研究人员花费大量时间编写分布式通信、故障恢复和显存管理代码，而非专注于 RL 算法本身的创新。\n- **扩展性瓶颈明显**：从单卡调试切换到千卡同步或异步训练时，需要重构底层架构，导致实验迭代周期长达数周。\n- **调试难度极高**：当训练因节点故障中断时，缺乏原生的重定向机制，往往需要人工介入重启整个任务，浪费昂贵算力。\n- **框架割裂感强**：为了性能不得不引入非 PyTorch 原生组件，导致算子兼容性问题频发，维护成本高昂。\n\n### 使用 torchforge 后\n- **专注算法核心**：torchforge 提供了清晰的 RL 抽象层，将基础设施完全隔离，团队可直接在纯 PyTorch 环境中实现新的奖励函数策略。\n- **弹性伸缩自如**：凭借原生可扩展性，团队能无缝在异步与同步训练模式间切换，轻松将实验从测试环境平滑迁移至千卡集群。\n- **容错自动化**：利用内置的细粒度控制原语，系统自动处理节点故障并重新分配负载，无需人工干预即可确保持续训练。\n- **生态原生融合**：作为 PyTorch 原生库，torchforge 完美集成 Monarch 和 vLLM 等依赖，消除了异构框架带来的兼容性摩擦。\n\ntorchforge 通过彻底解耦基础设施与模型逻辑，让研究团队能将原本用于修“路”的时间，全部投入到探索更强大的智能“车”上。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fmeta-pytorch_torchforge_6b1fba56.png","meta-pytorch","Meta PyTorch","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fmeta-pytorch_1dfd3f76.jpg","",null,"https:\u002F\u002Fpytorch.org","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch",[80,84],{"name":81,"color":82,"percentage":83},"Python","#3572A5",96.8,{"name":85,"color":86,"percentage":87},"Shell","#89e051",3.2,667,97,"2026-04-06T13:43:20","BSD-3-Clause",4,"Linux","必需。支持 NVIDIA GPU（需数千卡扩展能力）或 AMD GPU (ROCm)。运行示例至少需要 2 个 GPU 设备。ROCm 用户需注意特定架构设置（如 gfx942）。","未说明",{"notes":97,"python":98,"dependencies":99},"该项目处于早期实验阶段，可能存在 Bug 和 API 变更。安装脚本默认使用 DNF 包管理器（适用于 Fedora\u002FCentOS 等 Linux 发行版）。ROCm 版本下默认禁用 RDMA 和分布式张量功能。目前推荐使用 Conda 进行环境管理，纯 uv 安装尚未完全支持。","3.12",[100,101,102,103],"torch==2.9.0","monarch","vllm","torchtitan",[35,14,13],"2026-03-27T02:49:30.150509","2026-04-08T12:11:33.629596",[108,113,118,123,128,133],{"id":109,"question_zh":110,"answer_zh":111,"source_url":112},24185,"GRPO 训练中 KL 散度爆炸到数十亿怎么办？","该问题通常由代码中的损失计算逻辑或填充策略引起。维护者已合并了相关的 Loss PR（#699）修复了此问题，建议更新到最新代码。此外，用户可以尝试以下调整来稳定训练：1. 增加批次大小（batch size）；2. 添加梯度累积（gradient accumulation）；3. 将损失平均策略从“按序列平均”改为“按 token 平均”；4. 添加梯度范数裁剪（grad_norm_clip）。如果问题仍然存在，项目默认可能会切换到性能更好的 DAPO 算法。","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F664",{"id":114,"question_zh":115,"answer_zh":116,"source_url":117},24186,"运行 GRPO 示例时遇到\"Actor object is missing\"错误如何解决？","这通常是由于分布式后端初始化时序或 Actor 启动失败导致的。首先尝试禁用 RDMA，设置环境变量 `TORCHSTORE_RDMA_ENABLED=0` 后重试。如果问题依旧，可能是指标记录器在 Policy Mesh 或 `local_fetcher_actor` 完全启动前就尝试访问它。虽然这是一个需要修复的底层 Bug，但临时解决方案是确保环境配置正确，或者参考社区提交的 PR 修改代码以允许动态实例化 Actor。如果在 B200 等特定集群上无法复现，请检查本地网络配置。","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F577",{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},24187,"为什么我的 GRPO 训练奖励曲线是平坦的（没有提升）？","奖励平坦可能是因为当前任务对于所选模型来说太简单了。例如，使用 Qwen 1.7B 模型在 GSM8K 数据集上训练时，平均奖励可能已经达到 0.8-0.9 的高位，导致提升空间很小。建议尝试更难的任务（如“单词反转”等自定义任务）来验证奖励机制是否正常工作。此外，建议在项目中参考预期的结果图表作为调试基准，以便区分是任务难度问题还是训练配置问题。","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F556",{"id":124,"question_zh":125,"answer_zh":126,"source_url":127},24188,"如何在 RL 训练中记录具体的样本数据（如 Prompt、Response、Reward）而不仅仅是标量指标？","项目引入了样本级日志记录 API（Sample-level Logging API）来解决此问题。用户可以通过该 API 记录具体的 prompts、responses、targets 和 rewards，以便在 WandB 表格中直接检查产生特定奖励信号的具体案例。这有助于调试零奖励响应、发现分布漂移以及进行定性检查。该功能通过复用现有的 `record_metric` API 实现，开销最小。未来还将支持用户定义的过滤器（如按奖励阈值筛选），以便更灵活地控制记录哪些样本。","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F301",{"id":129,"question_zh":130,"answer_zh":131,"source_url":132},24189,"如何将解析后的配置文件记录到 WandB 以便追溯实验设置？","为了便于实验复现和追溯，项目支持将最终解析完成的配置文件（resolved config）直接记录到 WandB 中。这确保了记录的参数是实际运行时的参数（包括默认值覆盖和命令行参数），而不是原始配置文件。用户可以通过查看 WandB 运行详情页中的配置部分来获取准确的实验设置快照。相关功能已通过 PR #605 合入。","https:\u002F\u002Fgithub.com\u002Fmeta-pytorch\u002Ftorchforge\u002Fissues\u002F182",{"id":134,"question_zh":135,"answer_zh":136,"source_url":127},24190,"在多卡训练中，如何正确处理全局的“最佳\u002F最差”样本筛选？","在处理跨秩（rank）的全局最佳\u002F最差样本时，有两种策略：方案 A 是每个 rank 本地保留其 Top-N 和 Bottom-N 样本，然后在归约时简单合并这些列表（简单且成本低）；方案 B 是在合并所有数据后，再全局应用过滤器以获得真正的全球 Top-N\u002FBottom-N（更精确但成本高）。目前建议采用方案 A 以保持高效，但在需要极高精度的调试场景下，可以探索实现基于堆（heap）的过滤接口以获得更大的灵活性。",[]]