[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-NVlabs--ToolOrchestra":3,"tool-NVlabs--ToolOrchestra":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",151918,2,"2026-04-12T11:33:05",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":77,"owner_location":77,"owner_email":77,"owner_twitter":77,"owner_website":78,"owner_url":79,"languages":80,"stars":101,"forks":102,"last_commit_at":103,"license":104,"difficulty_score":105,"env_os":106,"env_gpu":107,"env_ram":108,"env_deps":109,"category_tags":123,"github_topics":124,"view_count":32,"oss_zip_url":77,"oss_zip_packed_at":77,"status":17,"created_at":129,"updated_at":130,"faqs":131,"releases":142},6929,"NVlabs\u002FToolOrchestra","ToolOrchestra","ToolOrchestra is an end-to-end RL training framework for orchestrating tools and agentic workflows.","ToolOrchestra 是由英伟达与香港大学联合推出的端到端强化学习框架，旨在通过高效协调各类智能工具与工作流来提升 AI 的解决问题的能力。它核心解决的是单一模型在处理复杂、多步骤任务时能力受限且成本高昂的痛点。\n\n该框架训练出一个轻量级的“指挥家”模型（如已发布的 8B 参数 Orchestrator-8B），让它学会在推理过程中灵活调度多种资源：既包括搜索、代码解释器等基础工具，也涵盖编程、数学等专用模型，甚至能协同 GPT-5 等通用大模型共同工作。通过多轮交互与自我优化，ToolOrchestra 能以更低的计算成本实现超越顶级闭源模型的性能，并在 GAIA 等权威基准测试中名列前茅。\n\n其独特亮点在于采用端到端强化学习技术，结合结果、效率和偏好多重奖励机制进行联合优化，并配套了可大规模合成训练数据的自动化流水线。这使得小参数量的指挥模型也能展现出强大的任务规划与执行能力。\n\nToolOrchestra 非常适合 AI 研究人员探索智能体协作新范式，也适合开发者构建低成本、高效率的复杂应用系统。对于希望在不依赖超大模型的前提下解决现实世界多步难题的团队而言，这是一个极具价","ToolOrchestra 是由英伟达与香港大学联合推出的端到端强化学习框架，旨在通过高效协调各类智能工具与工作流来提升 AI 的解决问题的能力。它核心解决的是单一模型在处理复杂、多步骤任务时能力受限且成本高昂的痛点。\n\n该框架训练出一个轻量级的“指挥家”模型（如已发布的 8B 参数 Orchestrator-8B），让它学会在推理过程中灵活调度多种资源：既包括搜索、代码解释器等基础工具，也涵盖编程、数学等专用模型，甚至能协同 GPT-5 等通用大模型共同工作。通过多轮交互与自我优化，ToolOrchestra 能以更低的计算成本实现超越顶级闭源模型的性能，并在 GAIA 等权威基准测试中名列前茅。\n\n其独特亮点在于采用端到端强化学习技术，结合结果、效率和偏好多重奖励机制进行联合优化，并配套了可大规模合成训练数据的自动化流水线。这使得小参数量的指挥模型也能展现出强大的任务规划与执行能力。\n\nToolOrchestra 非常适合 AI 研究人员探索智能体协作新范式，也适合开发者构建低成本、高效率的复杂应用系统。对于希望在不依赖超大模型的前提下解决现实世界多步难题的团队而言，这是一个极具价值的开源选择。","# ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration\n\n\u003Cp align=\"center\">\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArXiv-Paper-brown\" alt=\"Paper\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FGitHub-Code-orange\" alt=\"Code\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FOrchestrator-8B\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20HuggingFace-Model-green\" alt=\"Model\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fnvidia\u002FToolScale\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20HuggingFace-Data-blue\" alt=\"Data\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fresearch.nvidia.com\u002Flabs\u002Flpr\u002FToolOrchestra\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-Page-purple\" alt=\"Website\">\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n\u003Cb>\u003Ca href=\"https:\u002F\u002Fhongjin-su.github.io\u002F\">Hongjin Su\u003C\u002Fa>*\u003C\u002Fb>, \u003Cb>\u003Ca href=\"https:\u002F\u002Fshizhediao.github.io\u002F\">Shizhe Diao\u003C\u002Fa>*\u003C\u002Fb>, \u003Ca href=\"https:\u002F\u002Fgloriaximinglu.github.io\u002F\">Ximing Lu\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fresearch.nvidia.com\u002Fperson\u002Fmingjie-liu\">Mingjie Liu\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fjiacheng-xu.github.io\u002F\">Jiacheng Xu\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fsimonxin.com\u002F\">Xin Dong\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.yongganfu.com\u002F\">Yonggan Fu\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fpbelcak.com\u002F\">Peter Belcak\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fsites.google.com\u002Fsite\u002Fyhrspace\u002Fhome\">Hanrong Ye\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fhongxu-yin.github.io\u002F\">Hongxu Yin\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fyi-dong-04057b18\u002F\">Yi Dong\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fdeveloper.nvidia.com\u002Fblog\u002Fauthor\u002Febakhturina\u002F\">Evelina Bakhturina\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Ftaoyds.github.io\u002F\">Tao Yu\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fyejinc.github.io\u002F\">Yejin Choi\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fjankautz.com\u002F\">Jan Kautz\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.pmolchanov.com\u002F\">Pavlo Molchanov\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n\u003Cb>NVIDIA\u003C\u002Fb>  ·  \u003Cb>The University of Hong Kong\u003C\u002Fb>\u003Cbr>\n\u003Csup>*\u003C\u002Fsup>Equal Contribution\n\u003C\u002Fp>\n\n---\n\n## 📰 News\n\n- **2025\u002F12\u002F5**: Our generated dataset [ToolScale](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fnvidia\u002FToolScale) became the **#1 most-downloaded dataset** on Hugging Face, and [Nemotron-Orchestrator-8B](https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FOrchestrator-8B) ranked **#3 among all models**.\n- **2025\u002F12\u002F2**: 🏆 ToolOrchestra ranks **#1 on [GAIA benchmark](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fgaia-benchmark\u002Fleaderboard)**!\n\n- **2025\u002F11\u002F27**: We release the code, training data, and model checkpoints of ToolOrchestra.\n---\n\n\u003Cp align=\"center\">\n\u003Ctable>\n\u003Ctr>\n\u003Ctd>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_7c1ffbcded77.png\" alt=\"ToolOrchestra Performance\" width=\"1030\"\u002F>\u003C\u002Ftd>\n\u003Ctd>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_019132153e11.png\" alt=\"Cost Performance\" width=\"500\"\u002F>\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftable>\n\u003C\u002Fp>\n\nWe introduce **ToolOrchestra**, a method for training small orchestrators that coordinate the use of intelligent tools. By using both tools and specialized models, ToolOrchestra surpasses GPT-5 while being much more efficient. Given a task, the Orchestrator alternates between reasoning and tool calling in multiple turns to solve it. The Orchestrator interacts with a diverse tool set, including basic tools (e.g., web search, code interpreter), specialized LLMs (e.g., coding models, math models), and generalist LLMs (e.g., GPT-5, Llama-Nemotron-Ultra-253B, Claude Opus 4.1). During training, Orchestrator is jointly optimized by outcome, efficiency, and preference rewards via end-to-end reinforcement learning. To aid RL training, we develop an automatic pipeline to synthesize both environment and tool-call tasks at scale.\n\n\u003Cp align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_8545a00a961f.png\" width=\"100%\"\u002F>\n\u003C\u002Fp>\n\nWith ToolOrchestra, we produce **Orchestrator-8B**, a state-of-the-art 8B parameter orchestration model designed to solve complex, multi-turn agentic tasks by coordinating a diverse set of expert models and tools.\n\n**Key Results:**\n- On **HLE**, Orchestrator-8B achieves a score of **37.1%**, outperforming GPT-5 (35.1%) while being **2.5× more efficient**\n- On **τ²-Bench** and **FRAMES**, Orchestrator-8B surpasses GPT-5 by a wide margin while using only **~30% of the cost**\n\n---\n\n## 🛠️ Setup Environment\n\n```bash\n# Clone this repository\ngit clone https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra.git\ncd ToolOrchestra\n\n# Download index files and checkpoints\ngit clone https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fmulti-train\u002Findex\nexport INDEX_DIR='\u002Fpath\u002Fto\u002Findex'\ngit clone https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FNemotron-Orchestrator-8B\nexport CKPT_DIR='\u002Fpath\u002Fto\u002Fcheckpoint'\n\n# Set environment variables\nexport HF_HOME=\"\u002Fpath\u002Fto\u002Fhuggingface\"\nexport REPO_PATH=\"\u002Fpath\u002Fto\u002Fthis_repo\"\n\n# Environment for Search API, please go to [Tavily](https:\u002F\u002Fapp.tavily.com\u002Fhome) and apply for an API key.\nexport TAVILY_KEY=\"TAVILY_KEY\"\nexport WANDB_API_KEY=\"WANDB_API_KEY\"\nexport OSS_KEY=\"OSS_KEY\" # NVIDIA NGC key\nexport CLIENT_ID=\"CLIENT_ID\"\nexport CLIENT_SECRET=\"CLIENT_SECRET\"\n\n```\n# For Tau2-Bench Evaluation (Enroot Environment)\n\nYou need to re-build the image because it requires local installation of tau2:\n\n```bash\nsrun --partition=interactive --time=04:00:00 --nodes=1 --overcommit --ntasks-per-node=1 --cpus-per-task=128 --job-name tau2-bench --account=nvr_lpr_agentic --gres=gpu:8  --container-image \u002Flustre\u002Ffsw\u002Fportfolios\u002Fnvr\u002Fusers\u002F$USER\u002Fdocker\u002Fs1.sqsh --container-save \u002Flustre\u002Ffsw\u002Fportfolios\u002Fnvr\u002Fusers\u002F$USER\u002Fdocker\u002Fs1.sqsh --container-mounts=$HOME:\u002Fhome,\u002Flustre:\u002Flustre --pty \u002Fbin\u002Fbash\n\npip uninstall -y tau2\ncd toolorchestra\u002Fevaluation\u002Ftau2-bench\npip install -e .\nexit\n```\n\n### Environment for Training (Conda Environment)\n\n```bash\nconda create -n toolorchestra python=3.12 -y\nconda activate toolorchestra\npip install -r requirements.txt\npip install flash-attn --no-build-isolation\npip install flashinfer-python -i https:\u002F\u002Fflashinfer.ai\u002Fwhl\u002Fcu124\u002Ftorch2.6\u002F\npip install -e training\u002Frollout\n```\n\n### Environment for Retrieval\n\n```bash\nconda create -n retriever python=3.12 -y\nconda activate retriever\nconda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia\npip install transformers datasets pyserini psutil\nconda install -c pytorch -c nvidia faiss-gpu\npip install uvicorn fastapi\npip install tavily-python\npip install flash-attn --no-build-isolation\n```\n\n### Environment for vLLM Models\n\n```bash\nconda create -n vllm1 python=3.12 -y\nconda activate vllm1\npip install torch\npip install \"transformers\u003C4.54.0\"\npip install vllm==0.9.2 # for gemma-2-9b-it\ncd evaluation\u002Ftau2-bench\npip install -e .\n```\n\n---\n\n## 🚀 Training\n\n```bash\ncd training\npython resume_h100.py\n```\n\n---\n\n## 📊 Evaluation\n\n```bash\ncd evaluation\n\n# Evaluate on HLE (requires env: vllm1 and retriever)\npython run_hle.py\n\n# Evaluate on FRAMES (requires env: vllm1 and retriever)\npython run_frames.py\n\n# Evaluate on τ²-Bench (requires env: vllm1)\ncd tau2-bench\u002F\npython run.py\n```\n\n---\n\n## ⚙️ Customization\n\n- **LLM Calls**: Modify the `get_llm_response` function in `LLM_CALL.py` to change LLM calls to services beyond vLLM and OpenAI\n- **Prompts**: Modify lines `455-458` in `eval_hle.py` and `506-509` in `eval_frames.py`\n- **Tool Configuration**: Substitute `tool_config` in line 27 of `eval_frames.py` and `eval_hle.py` for different tool sets\n- **Tools & Models**: Modify `tools.json` and the `call_tool` function in `eval_hle.py`\n- **Parallel Experiments**: Modify variables `{EXPERIMENT_NAME1}`, `{EXPERIMENT_NAME2}`, `{EXPERIMENT_NAME3}` in `training\u002Fresume_h100.py`, which should correspond to the file names in the directory\n\n### Preventing Connection Errors\n\nTo prevent connection errors to host models in HLE, you may comment [this line](https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fblob\u002Fmain\u002Fevaluation\u002Frun_hle.py#L248), then run:\n\n```bash\n# In separate processes\npython run_hle.py\npython eval_hle.py --model_name {cur_ckpt_dir} --output_dir {cur_output_dir} --model_config model_configs\u002Fserve2.json --example_path hle.jsonl\n```\n\n---\n\n## 📜 License\n\nThis project is licensed under the [Apache 2.0 License](https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fblob\u002Fmain\u002FLICENSE).\n\n---\n\n## 📝 Citation\n\nIf you find this repository useful, please consider giving a ⭐ and citing our [paper](https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689):\n\n```bibtex\n@misc{toolorchestra,\n      title={ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration}, \n      author={Hongjin Su and Shizhe Diao and Ximing Lu and Mingjie Liu and Jiacheng Xu and Xin Dong and Yonggan Fu and Peter Belcak and Hanrong Ye and Hongxu Yin and Yi Dong and Evelina Bakhturina and Tao Yu and Yejin Choi and Jan Kautz and Pavlo Molchanov},\n      year={2025},\n      eprint={2511.21689},\n      archivePrefix={arXiv},\n      primaryClass={cs.CL},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689}, \n}\n```\n","# ToolOrchestra: 通过高效的模型与工具编排提升智能水平\n\n\u003Cp align=\"center\">\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArXiv-Paper-brown\" alt=\"论文\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FGitHub-Code-orange\" alt=\"代码\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FOrchestrator-8B\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20HuggingFace-Model-green\" alt=\"模型\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fnvidia\u002FToolScale\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20HuggingFace-Data-blue\" alt=\"数据\">\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fresearch.nvidia.com\u002Flabs\u002Flpr\u002FToolOrchestra\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-Page-purple\" alt=\"官网\">\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n\u003Cb>\u003Ca href=\"https:\u002F\u002Fhongjin-su.github.io\u002F\">苏洪锦\u003C\u002Fa>*\u003C\u002Fb>, \u003Cb>\u003Ca href=\"https:\u002F\u002Fshizhediao.github.io\u002F\">刁世哲\u003C\u002Fa>*\u003C\u002Fb>, \u003Ca href=\"https:\u002F\u002Fgloriaximinglu.github.io\u002F\">卢希明\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fresearch.nvidia.com\u002Fperson\u002Fmingjie-liu\">刘明杰\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fjiacheng-xu.github.io\u002F\">徐嘉诚\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fsimonxin.com\u002F\">董欣\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.yongganfu.com\u002F\">傅永干\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fpbelcak.com\u002F\">彼得·贝尔卡克\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fsites.google.com\u002Fsite\u002Fyhrspace\u002Fhome\">叶汉荣\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fhongxu-yin.github.io\u002F\">尹宏旭\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.linkedin.com\u002Fin\u002Fyi-dong-04057b18\u002F\">董毅\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fdeveloper.nvidia.com\u002Fblog\u002Fauthor\u002Febakhturina\u002F\">埃韦丽娜·巴赫图里娜\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Ftaoyds.github.io\u002F\">余涛\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fyejinc.github.io\u002F\">崔艺珍\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fjankautz.com\u002F\">扬·考茨\u003C\u002Fa>, \u003Ca href=\"https:\u002F\u002Fwww.pmolchanov.com\u002F\">帕夫洛·莫尔恰诺夫\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n\u003Cb>英伟达\u003C\u002Fb>  ·  \u003Cb>香港大学\u003C\u002Fb>\u003Cbr>\n\u003Csup>*\u003C\u002Fsup>同等贡献\n\u003C\u002Fp>\n\n---\n\n## 📰 新闻\n\n- **2025年12月5日**: 我们的生成数据集[ToolScale](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fnvidia\u002FToolScale)成为Hugging Face上**下载量第一的数据集**，而[Nemotron-Orchestrator-8B](https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FOrchestrator-8B)则在所有模型中排名第**第三**。\n- **2025年12月2日**: 🏆 ToolOrchestra在**[GAIA基准测试](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fgaia-benchmark\u002Fleaderboard)**中位居**第一**！\n\n- **2025年11月27日**: 我们发布了ToolOrchestra的代码、训练数据以及模型检查点。\n---\n\n\u003Cp align=\"center\">\n\u003Ctable>\n\u003Ctr>\n\u003Ctd>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_7c1ffbcded77.png\" alt=\"ToolOrchestra性能\" width=\"1030\"\u002F>\u003C\u002Ftd>\n\u003Ctd>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_019132153e11.png\" alt=\"成本效益\" width=\"500\"\u002F>\u003C\u002Ftd>\n\u003C\u002Ftr>\n\u003C\u002Ftable>\n\u003C\u002Fp>\n\n我们推出了**ToolOrchestra**，这是一种用于训练小型协调器的方法，该协调器能够协调智能工具的使用。通过结合工具和专用模型，ToolOrchestra不仅超越了GPT-5，而且效率更高。面对一项任务时，协调器会在多个回合中交替进行推理和工具调用，以完成任务。协调器会与多种工具交互，包括基础工具（如网络搜索、代码解释器）、专业LLM（如编程模型、数学模型）以及通用LLM（如GPT-5、Llama-Nemotron-Ultra-253B、Claude Opus 4.1）。在训练过程中，协调器通过端到端强化学习，同时优化结果、效率和偏好奖励。为了辅助强化学习训练，我们开发了一套自动化流水线，可以大规模合成环境和工具调用任务。\n\n\u003Cp align=\"center\">\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_readme_8545a00a961f.png\" width=\"100%\"\u002F>\n\u003C\u002Fp>\n\n借助ToolOrchestra，我们打造了**Orchestrator-8B**，这是一款最先进的80亿参数编排模型，旨在通过协调多样化的专家模型和工具来解决复杂的多轮代理任务。\n\n**关键成果：**\n- 在**HLE**上，Orchestrator-8B获得了**37.1%**的得分，优于GPT-5（35.1%），且效率高出**2.5倍**。\n- 在**τ²-Bench**和**FRAMES**上，Orchestrator-8B大幅领先于GPT-5，同时仅消耗其约**30%的成本**。\n\n---\n\n## 🛠️ 环境搭建\n\n```bash\n# 克隆本仓库\ngit clone https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra.git\ncd ToolOrchestra\n\n# 下载索引文件和检查点\ngit clone https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fmulti-train\u002Findex\nexport INDEX_DIR='\u002Fpath\u002Fto\u002Findex'\ngit clone https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FNemotron-Orchestrator-8B\nexport CKPT_DIR='\u002Fpath\u002Fto\u002Fcheckpoint'\n\n# 设置环境变量\nexport HF_HOME=\"\u002Fpath\u002Fto\u002Fhuggingface\"\nexport REPO_PATH=\"\u002Fpath\u002Fto\u002Fthis_repo\"\n\n# 搜索API环境，请前往[Tavily](https:\u002F\u002Fapp.tavily.com\u002Fhome)申请API密钥。\nexport TAVILY_KEY=\"TAVILY_KEY\"\nexport WANDB_API_KEY=\"WANDB_API_KEY\"\nexport OSS_KEY=\"OSS_KEY\" # 英伟达NGC密钥\nexport CLIENT_ID=\"CLIENT_ID\"\nexport CLIENT_SECRET=\"CLIENT_SECRET\"\n\n```\n# 用于Tau2-Bench评估（Enroot环境）\n\n由于需要本地安装tau2，您需要重新构建镜像：\n\n```bash\nsrun --partition=interactive --time=04:00:00 --nodes=1 --overcommit --ntasks-per-node=1 --cpus-per-task=128 --job-name tau2-bench --account=nvr_lpr_agentic --gres=gpu:8  --container-image \u002Flustre\u002Ffsw\u002Fportfolios\u002Fnvr\u002Fusers\u002F$USER\u002Fdocker\u002Fs1.sqsh --container-save \u002Flustre\u002Ffsw\u002Fportfolios\u002Fnvr\u002Fusers\u002F$USER\u002Fdocker\u002Fs1.sqsh --container-mounts=$HOME:\u002Fhome,\u002Flustre:\u002Flustre --pty \u002Fbin\u002Fbash\n\npip uninstall -y tau2\ncd toolorchestra\u002Fevaluation\u002Ftau2-bench\npip install -e .\nexit\n```\n\n### 训练环境（Conda环境）\n\n```bash\nconda create -n toolorchestra python=3.12 -y\nconda activate toolorchestra\npip install -r requirements.txt\npip install flash-attn --no-build-isolation\npip install flashinfer-python -i https:\u002F\u002Fflashinfer.ai\u002Fwhl\u002Fcu124\u002Ftorch2.6\u002F\npip install -e training\u002Frollout\n```\n\n### 检索环境\n\n```bash\nconda create -n retriever python=3.12 -y\nconda activate retriever\nconda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia\npip install transformers datasets pyserini psutil\nconda install -c pytorch -c nvidia faiss-gpu\npip install uvicorn fastapi\npip install tavily-python\npip install flash-attn --no-build-isolation\n```\n\n### vLLM模型环境\n\n```bash\nconda create -n vllm1 python=3.12 -y\nconda activate vllm1\npip install torch\npip install \"transformers\u003C4.54.0\"\npip install vllm==0.9.2 # 用于gemma-2-9b-it\ncd evaluation\u002Ftau2-bench\npip install -e .\n```\n\n---\n\n## 🚀 训练\n\n```bash\ncd training\npython resume_h100.py\n```\n\n---\n\n## 📊 评估\n\n```bash\ncd evaluation\n\n# 在HLE上评估（需vllm1和retriever环境）\npython run_hle.py\n\n# 在FRAMES上评估（需vllm1和retriever环境）\npython run_frames.py\n\n# 在τ²-Bench上评估（需vllm1环境）\ncd tau2-bench\u002F\npython run.py\n```\n\n---\n\n## ⚙️ 自定义\n\n- **LLM 调用**：修改 `LLM_CALL.py` 中的 `get_llm_response` 函数，以将 LLM 调用扩展到 vLLM 和 OpenAI 之外的服务。\n- **提示词**：修改 `eval_hle.py` 中的第 455–458 行以及 `eval_frames.py` 中的第 506–509 行。\n- **工具配置**：替换 `eval_frames.py` 和 `eval_hle.py` 第 27 行中的 `tool_config`，以使用不同的工具集。\n- **工具与模型**：修改 `tools.json` 文件以及 `eval_hle.py` 中的 `call_tool` 函数。\n- **并行实验**：修改 `training\u002Fresume_h100.py` 中的变量 `{EXPERIMENT_NAME1}`、`{EXPERIMENT_NAME2}`、`{EXPERIMENT_NAME3}`，这些变量应与目录中的文件名相对应。\n\n### 防止连接错误\n\n为防止在 HLE 中连接主机模型时出现错误，您可以注释掉 [这一行](https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fblob\u002Fmain\u002Fevaluation\u002Frun_hle.py#L248)，然后分别运行以下命令：\n\n```bash\n# 在独立进程中\npython run_hle.py\npython eval_hle.py --model_name {cur_ckpt_dir} --output_dir {cur_output_dir} --model_config model_configs\u002Fserve2.json --example_path hle.jsonl\n```\n\n---\n\n## 📜 许可证\n\n本项目采用 [Apache 2.0 许可证](https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fblob\u002Fmain\u002FLICENSE)授权。\n\n---\n\n## 📝 引用\n\n如果您觉得本仓库有用，请考虑给个 ⭐ 并引用我们的 [论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689)：\n\n```bibtex\n@misc{toolorchestra,\n      title={ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration}, \n      author={Hongjin Su and Shizhe Diao and Ximing Lu and Mingjie Liu and Jiacheng Xu and Xin Dong and Yonggan Fu and Peter Belcak and Hanrong Ye and Hongxu Yin and Yi Dong and Evelina Bakhturina and Tao Yu and Yejin Choi and Jan Kautz and Pavlo Molchanov},\n      year={2025},\n      eprint={2511.21689},\n      archivePrefix={arXiv},\n      primaryClass={cs.CL},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2511.21689}, \n}\n```","# ToolOrchestra 快速上手指南\n\nToolOrchestra 是 NVIDIA 开源的高效模型与工具编排框架，旨在通过训练小型编排器（Orchestrator）协调多种智能工具和专业模型，以解决复杂的多轮代理任务。其核心模型 `Orchestrator-8B` 在多个基准测试中超越了 GPT-5，同时具备更高的效率和更低的成本。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux (推荐 Ubuntu 20.04+)\n*   **Python 版本**: 3.12\n*   **GPU**: 支持 CUDA 的 NVIDIA GPU (训练推荐 H100\u002FA100，推理可根据模型大小调整)\n*   **依赖管理**: Conda (推荐)\n*   **API Key**:\n    *   **Tavily**: 用于网络搜索功能，需在 [Tavily 官网](https:\u002F\u002Fapp.tavily.com\u002Fhome) 申请。\n    *   **Hugging Face**: 用于下载模型和数据集。\n    *   **WandB**: 用于训练日志监控（可选）。\n    *   **NVIDIA NGC**: 用于访问特定资源（如需）。\n\n## 安装步骤\n\n### 1. 克隆项目与下载资源\n\n首先克隆代码仓库，并下载必要的索引文件和模型检查点。\n\n```bash\n# 克隆代码仓库\ngit clone https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra.git\ncd ToolOrchestra\n\n# 下载索引文件 (用于检索增强)\ngit clone https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Fmulti-train\u002Findex\nexport INDEX_DIR='\u002Fpath\u002Fto\u002Findex' # 请替换为实际路径\n\n# 下载模型检查点 (Orchestrator-8B)\ngit clone https:\u002F\u002Fhuggingface.co\u002Fnvidia\u002FNemotron-Orchestrator-8B\nexport CKPT_DIR='\u002Fpath\u002Fto\u002Fcheckpoint' # 请替换为实际路径\n\n# 设置基础环境变量\nexport HF_HOME=\"\u002Fpath\u002Fto\u002Fhuggingface\" # 建议设置为缓存目录\nexport REPO_PATH=\"$(pwd)\"\n```\n\n### 2. 配置 API 密钥\n\n根据您的实际需求，导出以下环境变量：\n\n```bash\nexport TAVILY_KEY=\"YOUR_TAVILY_API_KEY\"\nexport WANDB_API_KEY=\"YOUR_WANDB_API_KEY\"\nexport OSS_KEY=\"YOUR_NGC_KEY\" \nexport CLIENT_ID=\"YOUR_CLIENT_ID\"\nexport CLIENT_SECRET=\"YOUR_CLIENT_SECRET\"\n```\n\n### 3. 安装依赖环境\n\n根据您的需求（训练、检索或评估），选择对应的环境进行安装。\n\n#### A. 训练环境 (Training)\n\n如果您需要重新训练或微调模型：\n\n```bash\nconda create -n toolorchestra python=3.12 -y\nconda activate toolorchestra\n\n# 安装基础依赖\npip install -r requirements.txt\n\n# 安装高性能注意力机制 (需确保 CUDA 版本匹配)\npip install flash-attn --no-build-isolation\n# 安装 flashinfer (示例使用 cu124\u002Ftorch2.6，请根据实际情况调整源)\npip install flashinfer-python -i https:\u002F\u002Fflashinfer.ai\u002Fwhl\u002Fcu124\u002Ftorch2.6\u002F\n\n# 安装 rollout 模块\npip install -e training\u002Frollout\n```\n\n#### B. 检索环境 (Retrieval)\n\n如果您需要运行涉及检索功能的评估：\n\n```bash\nconda create -n retriever python=3.12 -y\nconda activate retriever\n\n# 安装 PyTorch (示例为 CUDA 12.4，请根据显卡驱动调整)\nconda install pytorch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 pytorch-cuda=12.4 -c pytorch -c nvidia\n\n# 安装其他依赖\npip install transformers datasets pyserini psutil\nconda install -c pytorch -c nvidia faiss-gpu\npip install uvicorn fastapi tavily-python\npip install flash-attn --no-build-isolation\n```\n\n#### C. vLLM 推理环境 (Evaluation)\n\n用于运行基准测试评估（如 HLE, FRAMES, τ²-Bench）：\n\n```bash\nconda create -n vllm1 python=3.12 -y\nconda activate vllm1\n\npip install torch\n# 注意 transformers 版本限制\npip install \"transformers\u003C4.54.0\"\n# 安装指定版本的 vLLM\npip install vllm==0.9.2\n\n# 安装 tau2-bench 评估模块\ncd evaluation\u002Ftau2-bench\npip install -e .\ncd ..\u002F..\n```\n\n> **注意**：若需运行 `τ²-Bench` 的完整 Enroot 容器化评估，需按照 README 中的 `srun` 命令重建镜像并本地安装 `tau2`。\n\n## 基本使用\n\n### 1. 启动训练\n\n进入训练目录并运行脚本（默认配置针对 H100 集群，单机用户可能需要修改 `resume_h100.py` 中的配置）：\n\n```bash\ncd training\npython resume_h100.py\n```\n\n### 2. 运行评估\n\n切换到评估目录，根据您激活的环境运行相应的基准测试脚本。\n\n**评估 HLE 基准:**\n*(需激活 `vllm1` 和 `retriever` 环境)*\n```bash\ncd evaluation\npython run_hle.py\n```\n\n**评估 FRAMES 基准:**\n*(需激活 `vllm1` 和 `retriever` 环境)*\n```bash\ncd evaluation\npython run_frames.py\n```\n\n**评估 τ²-Bench 基准:**\n*(需激活 `vllm1` 环境)*\n```bash\ncd evaluation\u002Ftau2-bench\npython run.py\n```\n\n### 3. 自定义配置\n\n*   **更换 LLM 后端**: 修改 `LLM_CALL.py` 中的 `get_llm_response` 函数以适配非 vLLM\u002FOpenAI 服务。\n*   **调整提示词**: 在 `eval_hle.py` (第 455-458 行) 和 `eval_frames.py` (第 506-509 行) 修改 Prompt。\n*   **更改工具集**: 修改 `tools.json` 文件及 `eval_hle.py` 中的 `call_tool` 函数逻辑。\n*   **避免连接错误**: 若在 HLE 评估中遇到主机连接问题，可注释掉 `evaluation\u002Frun_hle.py` 第 248 行，然后分进程运行：\n    ```bash\n    # 终端 1: 运行评估脚本\n    python run_hle.py\n    \n    # 终端 2: 运行评测脚本\n    python eval_hle.py --model_name {cur_ckpt_dir} --output_dir {cur_output_dir} --model_config model_configs\u002Fserve2.json --example_path hle.jsonl\n    ```","某金融科技团队需要构建一个自动化系统，每日从全球新闻中抓取数据、分析市场情绪，并生成包含代码回测结果的量化交易日报。\n\n### 没有 ToolOrchestra 时\n- **调度逻辑僵化**：开发人员需硬编码复杂的 `if-else` 规则来决定何时调用搜索工具或数学模型，一旦任务流程变化，维护成本极高。\n- **资源浪费严重**：无论问题难易，系统默认调用最大的通用大模型处理所有步骤，导致高昂的 API 账单和漫长的等待时间。\n- **多步推理易断链**：在面对需要“搜索 - 计算 - 再搜索”的多轮交互任务时，传统代理容易迷失上下文，无法自主修正错误路径，导致任务中途失败。\n- **专家模型协同难**：难以让专用的代码模型与数学模型高效配合，往往需要人工介入拼接不同模型的输出结果。\n\n### 使用 ToolOrchestra 后\n- **智能动态编排**：ToolOrchestra 内置的 8B 编排模型能自主规划任务流，灵活交替进行推理与工具调用，无需人工预设固定流程。\n- **极致成本效益**：系统根据子任务难度自动路由，简单任务用小模型或基础工具，复杂难题才调用顶级模型，整体运行成本降低 60% 以上。\n- **闭环自我修正**：基于端到端强化学习训练，ToolOrchestra 能在执行受阻时自动反思并调整策略，显著提升了长链条任务的完成率。\n- **无缝专家协同**：它能像指挥家一样精准调度专用代码模型生成回测脚本、调用数学模型验证数据，最终由通用模型汇总报告，实现全流程自动化。\n\nToolOrchestra 通过让小模型学会指挥大工具，以极低的算力成本实现了超越单一超大模型的复杂任务解决能力。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FNVlabs_ToolOrchestra_bc950646.png","NVlabs","NVIDIA Research Projects","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FNVlabs_fc20d641.jpg","",null,"http:\u002F\u002Fresearch.nvidia.com","https:\u002F\u002Fgithub.com\u002FNVlabs",[81,85,89,93,97],{"name":82,"color":83,"percentage":84},"Python","#3572A5",94.5,{"name":86,"color":87,"percentage":88},"Shell","#89e051",4.1,{"name":90,"color":91,"percentage":92},"Jupyter Notebook","#DA5B0B",1.1,{"name":94,"color":95,"percentage":96},"Jinja","#a52a22",0.2,{"name":98,"color":99,"percentage":100},"Makefile","#427819",0,701,96,"2026-04-10T18:07:16","Apache-2.0",4,"Linux","必需 NVIDIA GPU。训练示例命令指定 '--gres=gpu:8'（8 卡），检索环境需 'faiss-gpu'，FlashAttention 和 FlashInfer 依赖 CUDA 12.4 (cu124)。","未说明（但训练脚本指定 '--cpus-per-task=128'，暗示需要大量系统内存）",{"notes":110,"python":111,"dependencies":112},"1. 项目明确针对 Linux 环境（使用了 srun 和 Enroot 容器）。2. 需要配置多个环境变量，包括 Tavily API Key、WandB Key 和 NVIDIA NGC (OSS) Key。3. 针对不同功能（训练、检索、vLLM 推理、Tau2-Bench 评估）需分别创建独立的 Conda 环境。4. 评估 Tau2-Bench 基准时需要在特定的 Enroot 容器中重新构建镜像并本地安装 tau2。5. 模型权重和索引文件需从 HuggingFace 单独下载。","3.12",[113,114,115,116,117,118,119,120,121,122],"torch==2.4.0","transformers\u003C4.54.0","vllm==0.9.2","flash-attn","flashinfer-python","faiss-gpu","datasets","pyserini","tavily-python","fastapi",[14,13,35],[125,126,127,128],"agent","agentic-ai","deep-learning","large-language-models","2026-03-27T02:49:30.150509","2026-04-13T04:24:19.624162",[132,137],{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},31226,"如果有新的模型发布或某些专有工具（如 GPT）不可用，ToolOrchestra 是否需要重新训练？","不需要重新训练。ToolOrchestra 的编排器可以泛化到未见过的工具，即使有新模型发布也能直接使用。相关实验证明可参考论文第 6.3 节：https:\u002F\u002Farxiv.org\u002Fpdf\u002F2511.21689","https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fissues\u002F9",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},31227,"代码中定义的 normalize_messages_for_tools 函数为何从未被调用？这是死代码吗？","该函数在当前评估流程中未被使用，可以忽略。目前直接发送请求到 OpenAI\u002FAzure 端点并不会导致 BadRequestError 错误，因此无需调用该函数进行格式修正。","https:\u002F\u002Fgithub.com\u002FNVlabs\u002FToolOrchestra\u002Fissues\u002F10",[]]