DGX Spark 操作手册

针对采用 Blackwell 架构的 NVIDIA DGX Spark 设备，提供部署 AI/ML 工作负载的分步操作指南合集。

关于

这些操作手册提供了详细的指导，涵盖以下内容：

• 安装和配置流行的 AI 框架
• 使用优化模型进行推理
• 搭建开发环境
• 连接并管理您的 DGX Spark 设备

每份操作手册均包含先决条件、分步说明、故障排除指南以及示例代码。

可用操作手册

NVIDIA

• Comfy UI
• 将三台 DGX Spark 组成环形拓扑
• 设置本地网络访问权限
• 连接两台 DGX Spark
• CUDA-X 数据科学
• DGX 控制面板
• FLUX.1 Dreambooth LoRA 微调
• 安装并使用 Isaac Sim 和 Isaac Lab
• 优化的 JAX
• Live VLM WebUI
• 在 DGX Spark 上使用 llama.cpp 运行模型
• LLaMA Factory
• LM Studio 在 DGX Spark 上运行
• 构建并部署多智能体聊天机器人
• 多模态推理
• 通过交换机连接多台 DGX Spark
• NCCL 用于两台 DGX Spark
• 使用 NeMo 进行微调
• Nemotron-3-Super 结合 Telegram，在 DGX Spark 上运行 Nemoclaw
• Nemotron-3-Nano 结合 llama.cpp
• NIM 在 Spark 上运行
• NVFP4 量化
• Ollama
• Open WebUI 结合 Ollama
• OpenClaw 🦞
• 在 DGX Spark 上使用 OpenShell 保障长期运行的 AI 代理安全
• 投资组合优化
• 使用 PyTorch 进行微调
• AI Workbench 中的 RAG 应用
• SGLang 用于推理
• 单细胞 RNA 测序
• Spark 与 Reachy 照相亭
• 推测性解码
• 在您的 DGX Spark 上设置 Tailscale
• TRT LLM 用于推理
• 在 DGX Spark 上实现文本到知识图谱的转换
• Unsloth 在 DGX Spark 上运行
• VS Code 中的 Vibe 编程
• vLLM 用于推理
• VS Code
• 构建视频搜索与摘要（VSS）智能体

资源

• 文档: https://www.nvidia.com/en-us/products/workstations/dgx-spark/
• 开发者论坛: https://forums.developer.nvidia.com/c/accelerated-computing/dgx-spark-gb10
• 服务条款: https://assets.ngc.nvidia.com/products/api-catalog/legal/NVIDIA%20API%20Trial%20Terms%20of%20Service.pdf

许可证

详情请参阅：

• LICENSE 获取许可信息。
• LICENSE-3rd-party 获取第三方许可信息。

DGX Spark Playbooks 快速上手指南

本指南旨在帮助开发者在基于 Blackwell 架构的 NVIDIA DGX Spark 设备上快速部署和运行 AI/ML 工作负载。DGX Spark Playbooks 提供了一系列分步教程，涵盖环境配置、模型推理、微调及多机互联等场景。

1. 环境准备

在开始之前，请确保您的硬件和软件环境满足以下要求：

• 硬件设备：NVIDIA DGX Spark (GB10 Blackwell 架构)。
• 操作系统：预装的 DGX OS 或兼容的 Ubuntu Linux 发行版。
• 网络连接：确保设备已连接互联网，以便下载容器镜像和依赖包。
  • 国内用户建议：若遇到拉取镜像缓慢问题，建议配置 Docker/Containerd 使用国内镜像加速器（如阿里云、腾讯云或网易云镜像源）。
• 基础工具：已安装 git, docker (或 podman), 以及 NVIDIA Container Toolkit。

2. 安装步骤

DGX Spark Playbooks 并非单一软件，而是一组针对特定任务的配置脚本和文档集合。以下是获取并运行任意一个 Playbook 的通用流程：

第一步：克隆仓库

将官方 Playbooks 仓库克隆到本地：

git clone https://github.com/NVIDIA/dgx-spark-playbooks.git
cd dgx-spark-playbooks

第二步：选择具体任务

根据您的需求进入对应的子目录。例如，若要部署 Ollama 进行大模型推理：

cd nvidia/ollama/

若要配置 VS Code 开发环境：

cd nvidia/vscode/

第三步：执行安装脚本

大多数 Playbook 目录下包含 README.md 详细说明及自动化脚本。通常只需运行提供的 shell 脚本即可自动完成环境搭建。以 Ollama 为例：

# 查看具体指令说明
cat README.md

# 运行安装脚本 (示例命令，具体以各目录说明为准)
./setup.sh

注意：部分高级功能（如多机互联 connect-three-sparks 或 nccl）需要确保多台 DGX Spark 设备之间的网络拓扑已正确物理连接。

3. 基本使用

安装完成后，您可以根据所选 Playbook 的功能立即开始使用。以下是两个典型场景的快速示例：

场景一：运行本地大模型推理 (基于 Ollama)

如果您安装了 nvidia/ollama/ Playbook，可以直接通过命令行拉取并运行模型：

# 拉取并运行 Llama 3 模型
ollama run llama3

# 在交互界面中输入提示词
>>> 你好，请介绍一下 NVIDIA Blackwell 架构的特点。

场景二：启动可视化 Web 界面 (基于 Open WebUI)

如果您部署了 nvidia/open-webui/，可以通过浏览器访问本地服务：

1. 确保服务已启动（通常脚本会自动后台运行）。
2. 在浏览器中打开：

   http://localhost:8080
   

3. 创建账户后即可在图形化界面中调用 DGX Spark 上的加速模型。

场景三：多智能体聊天机器人 (Multi-Agent Chatbot)

若部署了 nvidia/multi-agent-chatbot/，可运行示例代码测试多智能体协作：

python main.py --config config.yaml

---

更多资源：

• 完整文档列表请参阅各子目录下的 README.md。
• 官方产品文档：NVIDIA DGX Spark Documentation
• 开发者论坛：NVIDIA Developer Forum