dstack

GitHub
2.1k 222 简单 1 次阅读 今天MPL-2.0Agent开发框架语言模型
AI 解读 由 AI 自动生成,仅供参考

dstack 是一个统一的 GPU 资源调度与管理平台,旨在简化人工智能工作流的部署与运行。无论是模型训练、推理还是智能体(Agent)任务,它都能帮助用户在各类云服务商、Kubernetes 集群或本地服务器之间无缝调度计算资源。

面对当前 AI 开发中硬件碎片化严重、不同云厂商接口各异以及环境配置繁琐等痛点,dstack 提供了一套“厂商无关”的解决方案。它屏蔽了底层基础设施的差异,让用户无需关心具体的云提供商或硬件细节,即可轻松启动和管理任务,显著提升了开发效率与资源利用率。

这款工具特别适合 AI 开发者、研究人员以及需要大规模算力支持的工程团队。无论您使用的是 NVIDIA、AMD、Google TPU 还是 Tenstorrent 加速器,dstack 均能原生支持。其核心技术亮点在于强大的兼容性:不仅跨越多种硬件架构,还完美适配开源工具链与主流框架。此外,dstack 提供了直观的命令行界面(CLI)和 API,并创新性地集成了"AI 技能(Skills)”,让 Claude 等智能体能直接协助用户操作集群和编辑配置,进一步降低了运维门槛。通过统一控制平面,dstack 让复杂的算力编排变得像本地运行脚本一样简单。

使用场景

某初创 AI 团队需要在 AWS、Lambda Labs 和本地机房之间频繁切换,以训练一个基于 Llama 3 的大语言模型并部署推理服务。

没有 dstack 时

  • 环境割裂严重:团队成员需分别学习 AWS CLI、Kubernetes YAML 和各云厂商特有的控制台操作,切换云端时配置脚本完全无法复用。
  • 资源调度低效:当首选云厂商的 NVIDIA H100 缺货时,人工寻找并迁移到 AMD 或 TPU 资源耗时数小时,导致训练任务长期排队等待。
  • 运维成本高昂:每次训练结束需手动销毁实例以防费用超支,常因遗忘关闭机器而产生不必要的巨额账单。
  • 框架兼容性差:尝试混合使用不同硬件(如本地调试用 NVIDIA,云端训练用 TPU)时,需花费大量时间修改底层驱动和依赖库。

使用 dstack 后

  • 统一控制平面:通过一套简单的 YAML 配置文件,即可在 AWS、本地集群或任何支持的云厂商间无缝启动训练任务,无需关心底层差异。
  • 智能弹性调度:定义所需算力规格后,dstack 自动在配置的多个后端中查找可用资源(支持 NVIDIA、AMD、TPU 等),瞬间锁定空闲显卡并开始训练。
  • 自动化生命周期管理:任务完成后自动释放计算资源,结合内置的成本监控,彻底杜绝了“僵尸实例”造成的资金浪费。
  • 硬件无关开发:代码与具体硬件解耦,团队可自由组合异构算力池,在不修改任何代码的前提下将任务从 NVIDIA 集群平滑迁移至 TPU 集群。

dstack 通过屏蔽底层基础设施的复杂性,让 AI 团队能专注于模型迭代而非运维琐事,实现了真正的“一次编写,随处运行”。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows (via WSL 2)
GPU
  • 非必需(取决于具体任务)
  • 支持 NVIDIA、AMD、Google TPU 和 Tenstorrent 加速器
  • 服务器端无特定显卡型号或显存要求,实际算力需求由用户配置的任务决定
内存

未说明

依赖
notes该工具是一个统一的控制平面,用于协调 GPU 云、Kubernetes 或本地集群。服务器和 CLI 均需安装 Git 和 OpenSSH。推荐使用 'uv' 工具进行安装。支持在本地服务器上通过 SSH 集群模式运行而无需配置后端。
python未说明(通过 uv 工具安装)
Git
OpenSSH
uv
dstack hero image

快速开始

dstack 是一个统一的 GPU 资源调配与编排控制平面,可兼容任意 GPU 云、Kubernetes 集群或本地集群。

它简化了开发、训练和推理流程,并且与任何硬件、开源工具和框架都保持兼容。

加速器

dstack 开箱即用地支持 NVIDIAAMDGoogle TPUTenstorrent 加速器。

最新消息 ✨

它是如何工作的?

启动服务器

在通过 CLI 或 API 使用 dstack 之前,您需要先搭建一个 dstack 服务器。如果您已经有一个正在运行的 dstack 服务器,则只需 安装 CLI

要跨 GPU 云或 Kubernetes 集群编排计算资源,您需要 配置后端

当使用 dstack 管理本地服务器时,无需配置后端。只需在服务器启动后创建 SSH 集群 即可。

服务器可在 Linux、macOS 和 Windows(通过 WSL 2)上安装。它需要 Git 和 OpenSSH。

$ uv tool install "dstack[all]" -U
$ dstack server

正在应用 ~/.dstack/server/config.yml...

管理员令牌为 "bbae0f28-d3dd-4820-bf61-8f4bb40815da"
服务器正在 http://127.0.0.1:3000/ 上运行

更多关于服务器配置选项的详细信息,请参阅 服务器部署 指南。

安装 CLI

如果 CLI 没有随服务器一起安装

服务器启动后,您可以通过 dstack CLI 访问它。

CLI 可在 Linux、macOS 和 Windows 上安装。它需要 Git 和 OpenSSH。

$ uv tool install dstack -U

要将 CLI 指向 dstack 服务器,您需要配置服务器地址、用户令牌和项目名称:

$ dstack project add \
    --name main \
    --url http://127.0.0.1:3000 \
    --token bbae0f28-d3dd-4820-bf61-8f4bb40815da

配置已更新至 ~/.dstack/config.yml

安装代理技能

安装 dstack 技能,以帮助 AI 代理使用 CLI 并编辑配置文件。

$ npx skills add dstackai/dstack

像 Claude、Codex 和 Cursor 这样的 AI 代理现在可以代表您创建和管理集群,并提交工作负载。

定义配置

dstack 支持以下配置:

  • 集群 —— 用于管理云端和本地集群
  • 开发环境 —— 用于使用桌面 IDE 进行交互式开发
  • 任务 —— 用于调度作业(包括分布式作业)或运行 Web 应用
  • 服务 —— 用于部署模型和 Web 应用(具备自动扩展和授权功能)
  • —— 用于管理持久化存储卷

配置可以定义为仓库内的 YAML 文件。

应用配置

您可以通过 dstack apply CLI 命令、程序化 API,或借助 AI 代理技能 来应用配置。

dstack 自动管理资源供应、作业队列、自动扩展、网络连接、卷管理、运行失败处理、容量超限错误、端口转发等——无论是在云端还是本地集群中。

有用链接

如需更多信息,请参阅以下链接:

贡献

我们非常欢迎您的贡献!有关如何参与项目的更多信息,请查看 CONTRIBUTING.md

许可证

Mozilla 公共许可证 2.0

版本历史

0.20.172026/04/16
0.20.162026/04/06
0.20.152026/03/27
0.20.142026/03/26
0.20.132026/03/13
0.20.122026/02/26
0.20.112026/02/26
0.20.102026/02/19
0.20.92026/02/12
0.20.82026/02/05
0.20.72026/01/28
0.20.62026/01/21
0.20.52026/01/21
0.20.42026/01/21
0.20.32026/01/08
0.20.22025/12/30
0.20.12025/12/25
0.20.02025/12/17
0.20.0rc12025/12/11
0.19.402025/11/27

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|2周前
Agent开发框架图像

n8n

n8n 是一款面向技术团队的公平代码(fair-code)工作流自动化平台,旨在让用户在享受低代码快速构建便利的同时,保留编写自定义代码的灵活性。它主要解决了传统自动化工具要么过于封闭难以扩展、要么完全依赖手写代码效率低下的痛点,帮助用户轻松连接 400 多种应用与服务,实现复杂业务流程的自动化。 n8n 特别适合开发者、工程师以及具备一定技术背景的业务人员使用。其核心亮点在于“按需编码”:既可以通过直观的可视化界面拖拽节点搭建流程,也能随时插入 JavaScript 或 Python 代码、调用 npm 包来处理复杂逻辑。此外,n8n 原生集成了基于 LangChain 的 AI 能力,支持用户利用自有数据和模型构建智能体工作流。在部署方面,n8n 提供极高的自由度,支持完全自托管以保障数据隐私和控制权,也提供云端服务选项。凭借活跃的社区生态和数百个现成模板,n8n 让构建强大且可控的自动化系统变得简单高效。

184.7k|★★☆☆☆|今天
数据工具开发框架Agent

AutoGPT

AutoGPT 是一个旨在让每个人都能轻松使用和构建 AI 的强大平台,核心功能是帮助用户创建、部署和管理能够自动执行复杂任务的连续型 AI 智能体。它解决了传统 AI 应用中需要频繁人工干预、难以自动化长流程工作的痛点,让用户只需设定目标,AI 即可自主规划步骤、调用工具并持续运行直至完成任务。 无论是开发者、研究人员,还是希望提升工作效率的普通用户,都能从 AutoGPT 中受益。开发者可利用其低代码界面快速定制专属智能体;研究人员能基于开源架构探索多智能体协作机制;而非技术背景用户也可直接选用预置的智能体模板,立即投入实际工作场景。 AutoGPT 的技术亮点在于其模块化“积木式”工作流设计——用户通过连接功能块即可构建复杂逻辑,每个块负责单一动作,灵活且易于调试。同时,平台支持本地自托管与云端部署两种模式,兼顾数据隐私与使用便捷性。配合完善的文档和一键安装脚本,即使是初次接触的用户也能在几分钟内启动自己的第一个 AI 智能体。AutoGPT 正致力于降低 AI 应用门槛,让人人都能成为 AI 的创造者与受益者。

183.6k|★★★☆☆|今天
Agent语言模型插件

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|2周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

161.1k|★★☆☆☆|今天
开发框架Agent语言模型

opencode

OpenCode 是一款开源的 AI 编程助手(Coding Agent),旨在像一位智能搭档一样融入您的开发流程。它不仅仅是一个代码补全插件,而是一个能够理解项目上下文、自主规划任务并执行复杂编码操作的智能体。无论是生成全新功能、重构现有代码,还是排查难以定位的 Bug,OpenCode 都能通过自然语言交互高效完成,显著减少开发者在重复性劳动和上下文切换上的时间消耗。 这款工具专为软件开发者、工程师及技术研究人员设计,特别适合希望利用大模型能力来提升编码效率、加速原型开发或处理遗留代码维护的专业人群。其核心亮点在于完全开源的架构,这意味着用户可以审查代码逻辑、自定义行为策略,甚至私有化部署以保障数据安全,彻底打破了传统闭源 AI 助手的“黑盒”限制。 在技术体验上,OpenCode 提供了灵活的终端界面(Terminal UI)和正在测试中的桌面应用程序,支持 macOS、Windows 及 Linux 全平台。它兼容多种包管理工具,安装便捷,并能无缝集成到现有的开发环境中。无论您是追求极致控制权的资深极客,还是渴望提升产出的独立开发者,OpenCode 都提供了一个透明、可信

144.3k|★☆☆☆☆|4天前
Agent插件