Stable Diffusion 的 TensorRT 扩展

此扩展利用 TensorRT，在 NVIDIA RTX GPU 上为 Stable Diffusion 提供最佳性能。在使用该扩展之前，您需要先安装它并生成优化后的引擎。请按照以下说明进行设置。

支持 Stable Diffusion 1.5、2.1、SDXL、SDXL Turbo 和 LCM。对于 SDXL 和 SDXL Turbo，由于其模型规模较大且计算密集度高，我们建议使用显存 12 GB 或以上的 GPU 以获得最佳性能。

安装

以 Automatic1111 为例：

1. 启动 webui.bat。
2. 选择“Extensions”选项卡，点击“Install from URL”。
3. 复制本仓库的链接，并将其粘贴到扩展的 Git 仓库 URL 中。
4. 点击“Install”。

使用方法

1. 点击“Generate Default Engines”按钮。此步骤根据您的 GPU 不同，可能需要 2 到 10 分钟。您也可以为其他组合生成引擎。
2. 前往“Settings → User Interface → Quick Settings List”，添加 sd_unet。应用这些设置后，重新加载界面。
3. 返回主界面，如果尚未选择，请在页面顶部的 sd_unet 下拉菜单中选择“Automatic”。
4. 现在您可以开始使用 TRT 加速生成图像了。如果需要创建更多引擎，请前往“TensorRT”选项卡。

祝您生成愉快！

LoRA

要使用 LoRA / LyCORIS 检查点，首先需要将其转换为 TensorRT 格式。这可以在 TensorRT 扩展的“Export LoRA”选项卡中完成。

1. 从下拉菜单中选择一个 LoRA 检查点。
2. 点击“Export”。（此操作不会生成引擎，而只是在约 20 秒内转换权重）
3. 您可以像往常一样使用导出的 LoRA，通过提示词嵌入来应用它们。

更多信息

TensorRT 使用针对特定分辨率和批大小的优化引擎。您可以根据需要生成任意数量的优化引擎。类型如下：

• “Export Default Engines” 选项会为 Stable Diffusion 1.5 和 2.1 添加对 512 x 512 至 768 x 768 分辨率的支持，批大小范围为 1 到 4。对于 SDXL，此选项会生成一个支持 1024 x 1024 分辨率、批大小为 1 的引擎。
• 静态引擎支持单一特定的输出分辨率和批大小。
• 动态引擎支持一定范围内的分辨率和批大小，但性能会略有下降。支持的范围越广，所需的显存也越多。
• 第一次为某个检查点生成引擎时耗时较长。后续为同一检查点生成的引擎则会快得多。

每个预设都可以通过“Advanced Settings”选项进行调整。更详细的说明请参见 此处。

常见问题与限制

HIRES FIX：如果您在 Automatic1111 中使用 hires.fix 选项，必须构建同时匹配起始和结束分辨率的引擎。例如，如果初始分辨率为 512 x 512，而 hires.fix 会将其放大到 1024 x 1024，则需要生成一个覆盖整个范围的动态引擎。

分辨率：生成图像时，分辨率必须是 64 的倍数。这一点同样适用于 hires.fix，即低分辨率和高分辨率都必须能被 64 整除。

CMD 参数失败：

• medvram 和 lowvram 在编译引擎时曾引发问题。
• api 曾导致 model.json 文件未更新，从而使得编译后 SD Unets 无法显示。
• 如果安装失败或 UI 中未出现 TensorRT 选项卡，很可能是安装过程中出现了问题。您可以参考此指南手动解决。

系统要求

驱动程序：

• Linux: >= 450.80.02
• Windows: >= 452.39

我们始终建议保持驱动程序最新，以提升系统整体性能。

Stable-Diffusion-WebUI-TensorRT 快速上手指南

本指南旨在帮助开发者在 NVIDIA RTX GPU 上通过 TensorRT 扩展大幅提升 Stable Diffusion 的生成速度。

环境准备

在开始之前，请确保满足以下硬件和驱动要求：

• GPU: NVIDIA RTX 系列显卡。
  • 对于 SDXL 及 SDXL Turbo 模型，推荐使用 12GB 或更大显存 的显卡以获得最佳性能。
• 显卡驱动:
  • Linux: >= 450.80.02
  • Windows: >= 452.39
  • 建议始终保持驱动为最新版本以获取系统级性能优化。
• 前置依赖:
  • 已安装并正常运行 stable-diffusion-webui (Automatic1111)。
  • 支持模型：Stable Diffusion 1.5, 2.1, SDXL, SDXL Turbo, LCM。

安装步骤

请按照以下步骤在 Automatic1111 WebUI 中安装扩展：

1. 启动 WebUI：

   webui.bat
   

   (Linux 用户运行 webui.sh)

2. 在浏览器打开的界面中，点击顶部导航栏的 Extensions 标签页。

3. 选择 Install from URL 子标签。

4. 在 "URL for extension's git repository" 输入框中粘贴仓库地址：

   https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT
   

   提示：若国内访问 GitHub 较慢，可尝试使用镜像源地址（如 https://ghproxy.com/https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT）或在本地克隆后手动放入 extensions 文件夹。

5. 点击 Install 按钮等待安装完成。

6. 安装完成后，进入 Installed 标签页，点击 Apply and restart UI 重启服务。

基本使用

安装完成后，需生成优化的 TensorRT 引擎方可加速推理。

1. 生成默认引擎

• 在 WebUI 主界面找到 TensorRT 标签页（通常在底部或侧边栏）。
• 点击 Generate Default Engines 按钮。
  • 耗时说明：根据显卡性能，此过程需 2-10 分钟。首次生成耗时较长，后续同模型引擎生成会更快。
  • 默认配置：SD 1.5/2.1 将生成支持 512x512 至 768x768 分辨率（Batch 1-4）的引擎；SDXL 将生成 1024x1024 分辨率（Batch 1）的引擎。

2. 配置用户界面

• 进入 Settings -> User Interface。
• 在 Quick settings list 文本框中添加以下内容（若已有其他项，请用逗号分隔）：

  sd_unet
  

• 点击页面顶部的 Apply settings 按钮。
• 点击 Reload UI 刷新界面。

3. 启用加速

• 返回主界面（txt2img 或 img2img）。
• 在页面顶部的新增下拉菜单 sd_unet 中，选择 Automatic。
• 现在即可开始生成图像，系统将自动调用 TensorRT 引擎进行加速。

4. 使用 LoRA (可选)

若需使用 LoRA 或 LyCORIS 模型，必须先将其转换为 TensorRT 格式：

1. 进入 TensorRT 标签页，切换到 Export LoRA 子标签。
2. 从下拉菜单中选择所需的 LoRA checkpoint。
3. 点击 Export（仅需约 20 秒，此步骤仅转换权重，不生成引擎）。
4. 转换完成后，即可在主界面像往常一样通过 Prompt 使用该 LoRA。