ComfyUI_NetDist

在多台本地 GPU 或联网机器上运行 ComfyUI 工作流。

NetDist_2xspeed.webm

安装说明：

目前只有一个外部依赖，即 requests 库。

pip install requests

安装时，只需将其克隆到自定义节点文件夹中。

git clone https://github.com/city96/ComfyUI_NetDist ComfyUI/custom_nodes/ComfyUI_NetDist

使用方法

本地远程控制

您至少需要两个不同的 ComfyUI 实例。可以通过设置不同的 --port [端口] 和 --cuda-device [编号] 启动参数来使用两块本地 GPU。通常建议使用 --port 8288 --cuda-device 1。

简单双 GPU 设置

这是拥有两块 GPU 或两台独立电脑的用户的最简单设置。它只需要两个节点即可工作。

您可以设置本地或远程的批次大小，以及节点何时触发（如果节点未执行——例如您更改了采样器设置但未更改种子——请将其设置为“始终”）。

如果您在另一台电脑上运行第二个实例，请在启动参数中添加 --listen，并设置正确的远程 IP 地址（在 Windows 上打开终端窗口并使用 ipconfig 命令，在 Linux 上使用 ip a 命令查看）。

FetchRemote（“从远程获取”）节点接受一个图像输入。这应该是您希望从第二个实例返回的最终图像（请确保不要将其路由回自身）。该节点会等待第二个图像生成完毕（目前没有预览或进度条）。

工作流 JSON：NetDistSimple.json

简单多机设置

您可以通过将更多简单的队列节点连接起来来扩展上述示例，但种子处理稍显不稳定，重复使用种子可能会导致重复图像。建议在两个实例上都设置随机种子。

高级设置

此设置主要用于具有两块以上 GPU 的“高级”配置。它允许更轻松地覆盖每个批次的设置，并可设定默认批次大小。

此外，它还支持将工作流 JSON 作为输入。为了使任何工作流都能运行，可以将最终图像设置为“任意”，而不是默认的“final_image”（后者要求工作流中包含 FetchRemote 节点）。

我提供了一些用于保存和加载工作流的节点，但理想情况下还应有用于编辑工作流的节点，例如搜索和替换种子等。欢迎提交 PR；P

工作流 JSON：NetDistAdvancedV2.json

（此设置需要一个假图像输入来触发，您可以直接提供一张空白图像）。

远程图像

LoadImageUrl（“加载图像（URL）”）节点的功能与普通“加载图像”节点完全相同。

SaveImageUrl（“保存图像（URL）”）节点会向目标 URL 发送一个包含图像的 JSON 格式 POST 请求：

• 文件名是键。
• 值是经过 Base64 编码的 PNG 图像（可选地带有 data:image/png;base64 前缀）。
• 不保证不同批次之间的文件名唯一，因为这些文件不会在服务器端保存。您应在服务器端自行处理这一点。
• 服务器端不会将任何数据写入磁盘。

这些事情可能最好不要做：

• 从同一客户端多次将同一个工作流排队到同一远程工作者。
• 期望它能顺利运行。

路线图

• 修复一些边缘情况，例如 Linux 控制 Windows 时的 os.sep 不匹配问题。
• 改进静态工作流的编辑功能。
• 处理多个独立的图像输出节点。

ComfyUI_NetDist 快速上手指南

ComfyUI_NetDist 是一个允许你在多张本地显卡或多台联网机器上分布式运行 ComfyUI 工作流的自定义节点包。

环境准备

• 系统要求：支持 Windows 或 Linux，需安装 Python 和 ComfyUI。
• 硬件要求：至少需要两张 GPU（同一台机器）或两台独立的计算机。
• 前置依赖：需要安装 requests 库。

安装步骤

1. 安装依赖库 在终端或命令行中运行以下命令：

   pip install requests
   

   提示：国内用户如遇下载缓慢，可使用清华源加速： pip install requests -i https://pypi.tuna.tsinghua.edu.cn/simple

2. 安装节点插件 进入你的 ComfyUI 根目录，将插件克隆到 custom_nodes 文件夹中：

   git clone https://github.com/city96/ComfyUI_NetDist ComfyUI/custom_nodes/ComfyUI_NetDist
   

   安装完成后重启 ComfyUI。

基本使用（双卡/双机简易模式）

这是最基础的用法，适用于拥有两张显卡的单台主机，或两台独立的电脑。

1. 启动多个 ComfyUI 实例

你需要同时运行两个 ComfyUI 实例，并区分端口和设备 ID。

• 实例 A (主控端)：正常启动。
• 实例 B (远程执行端)：
  • 单主机双卡：添加启动参数指定端口和显卡编号（例如使用第二张卡）：

    python main.py --port 8288 --cuda-device 1
    

  • 多主机互联：在另一台电脑上启动时，需添加 --listen 参数以允许网络访问，并记下该电脑的局域网 IP 地址（Windows 使用 ipconfig，Linux 使用 ip a 查看）。

    python main.py --port 8288 --listen
    

2. 构建工作流

在主控端的工作流中，只需使用两个核心节点即可实现分布式推理：

1. QueueRemote (排队发送到远程)：

   • 将需要处理的数据（如潜空间、提示词等）连接到此节点。
   • 设置目标远程实例的 IP 地址和端口（本地双卡通常为 127.0.0.1:8288）。
   • 可设置批次大小 (Batch Size) 和触发条件（建议设为 'always' 以确保每次更改参数都执行）。

2. FetchRemote (从远程获取)：

   • 此节点接收一个图像输入（通常是你希望最终返回的图像占位符，注意不要将其输出连回自身形成死循环）。
   • 该节点会阻塞等待，直到远程实例生成完毕并返回图像。

3. 运行

点击队列提示 (Queue Prompt)。主控端会将任务发送给远程实例，远程实例完成计算后，结果会自动回传至主控端的 FetchRemote 节点显示。

注意：目前远程执行过程中没有进度条预览，需等待最终图像出现。