📰 新闻

2026.01.14 - Soprano-1.1-80M 发布！幻觉减少 95%，相比 Soprano-80M 的偏好度提升了 63%。
2026.01.13 - Soprano-Factory 发布！你现在可以训练/微调属于自己的 Soprano 模型。
2025.12.22 - Soprano-80M 发布！模型 | 演示

---

概述

Soprano 是一款超轻量级的设备端文本转语音（TTS）模型，专为以空前速度实现富有表现力、高保真度的语音合成而设计。Soprano 具备以下特点：

• 在 CPU 上最高可达 20 倍 实时生成，在 GPU 上则高达 2000 倍 实时；
• 无损流式传输，CPU 上延迟低于 250 毫秒，GPU 上低于 15 毫秒；
• 内存占用低于 1 GB，采用紧凑的 80M 参数架构；
• 自动分段文本，支持无限长度生成；
• 高度富有表现力、清晰透彻的音频输出，采样率为 32kHz；
• 广泛支持 Windows、Linux 和 Mac 上的 CUDA、CPU 和 MPS 设备；
• 支持与 OpenAI 兼容的 API 端点、ONNX、WebUI、CLI 以及 ComfyUI，便于部署和生产环境推理。

https://github.com/user-attachments/assets/525cf529-e79e-4368-809f-6be620852826

---

目录

• 安装
• 使用
  • WebUI
  • CLI
  • 与 OpenAI 兼容的 API 端点
  • Python 脚本
• 使用技巧
• 路线图

安装

使用 wheel 包安装（CUDA）

pip install soprano-tts[lmdeploy]

使用 wheel 包安装（CPU/MPS）

pip install soprano-tts

若需获取最新功能，可选择从源码安装。

从源码安装（CUDA）

git clone https://github.com/ekwek1/soprano.git
cd soprano
pip install -e .[lmdeploy]

从源码安装（CPU/MPS）

git clone https://github.com/ekwek1/soprano.git
cd soprano
pip install -e .

⚠️ 注意：Windows 下使用 CUDA 的用户

在 Windows 系统上使用 CUDA 时，pip 默认会安装仅支持 CPU 的 PyTorch 版本。为确保 CUDA 支持正常工作，请在安装 Soprano 后，手动重新安装正确版本的 CUDA Wheel：

pip uninstall -y torch
pip install torch==2.8.0 --index-url https://download.pytorch.org/whl/cu128

---

使用

WebUI

启动 WebUI：

soprano-webui # 默认托管在 http://127.0.0.1:7860

提示：可通过增加缓存大小和解码器批处理大小来提升推理速度，但会相应增加内存消耗。例如：

soprano-webui --cache-size 1000 --decoder-batch-size 4

CLI

soprano "Soprano 是一款极其轻量级的文本转语音模型。"

可选参数：
  --output, -o                  输出音频文件路径（仅非流式）。默认为 'output.wav'
  --model-path, -m              本地模型目录路径（可选）
  --device, -d                  推理所用设备。支持：auto、cuda、cpu、mps。默认为 'auto'
  --backend, -b                 推理后端。支持：auto、transformers、lmdeploy。默认为 'auto'
  --cache-size, -c              缓存大小，单位为 MB（适用于 lmdeploy 后端）。默认为 100
  --decoder-batch-size, -bs     解码器批处理大小。默认为 1
  --streaming, -s               启用扬声器流式播放

提示：可通过增加缓存大小和解码器批处理大小来提升推理速度，但会增加内存消耗。

注意：每次调用 CLI 时，模型都会被重新加载。因此，其推理速度会比其他方法慢。

与 OpenAI 兼容的 API 端点

启动服务器：

uvicorn soprano.server:app --host 0.0.0.0 --port 8000

使用该端点的方式如下：

curl http://localhost:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "input": "Soprano 是一款极其轻量级的文本转语音模型。"
  }' \
  --output speech.wav

注意：目前该端点仅支持非流式输出。

Python 脚本

from soprano import SopranoTTS

model = SopranoTTS(backend='auto', device='auto', cache_size_mb=100, decoder_batch_size=1)

提示：可通过增大 cache_size_mb 和 decoder_batch_size 来提升推理速度，但会增加内存消耗。

# 基础推理
out = model.infer("Soprano 是一款极其轻量级的文本转语音模型。") # 对于足够长的输入，可达到 2000 倍实时！

# 将输出保存到文件
out = model.infer("Soprano 是一款极其轻量级的文本转语音模型。", "out.wav")

# 自定义采样参数
out = model.infer(
    "Soprano 是一款极其轻量级的文本转语音模型。",
    temperature=0.3,
    top_p=0.95,
    repetition_penalty=1.2,
)


# 批量推理
out = model.infer_batch(["Soprano 是一款极其轻量级的文本转语音模型。"] * 10) # 对于足够大的输入，可达到 2000 倍实时！

# 将批量输出保存到目录
out = model.infer_batch(["Soprano 是一款极其轻量级的文本转语音模型。"] * 10, "/dir")


# 流式推理
from soprano.utils.streaming import play_stream
stream = model.infer_stream("Soprano 是一款极其轻量级的文本转语音模型。", chunk_size=1)
play_stream(stream) # 以低于 15 毫秒的延迟播放音频！

第三方工具

ONNX

https://github.com/KevinAHM/soprano-web-onnx

ComfyUI 节点

https://github.com/jo-nike/ComfyUI-SopranoTTS

https://github.com/SanDiegoDude/ComfyUI-Soprano-TTS

使用技巧：

• 引用文本时，请使用双引号而非单引号。
• Soprano 在每句话长度介于 2 至 30 秒之间时效果最佳。
• 尽管 Soprano 能识别数字和部分特殊字符，但有时仍会出现发音错误。将这些内容转换为拼音形式通常能获得更好的效果。（1+1 -> one plus one 等）
• 若 Soprano 的生成结果不理想，可轻松重新生成，尝试获得更优的结果。此外，调整采样设置也能带来更多样化的输出。

---

路线图

• 添加模型和推理代码
• 无缝流式传输
• 批量推理
• 命令行界面 (CLI)
• 支持 CPU
• 服务器 / API 推理
• 支持 ROCm（参见 #29）
• 其他大语言模型后端
• 音色克隆
• 多语言支持

---

限制

Soprano 目前仅支持英语，且不支持音色克隆。此外，Soprano 仅在 1,000 小时的音频数据上进行训练（约为其他 TTS 模型的 1/100），因此可能会出现罕见词汇的发音错误。随着 Soprano 接收更多训练数据，这种情况预计将有所改善。

---

致谢

Soprano 使用或受到以下项目的启发：

• Vocos
• XTTS
• LMDeploy

---

许可证

本项目采用 Apache-2.0 许可证。详情请参阅 LICENSE 文件。

Soprano 快速上手指南

Soprano 是一款超轻量级、可端侧部署的文本转语音（TTS）模型，主打极速生成与高保真音质。它支持 CPU/GPU/MPS 加速，具备低延迟流式播放能力，并兼容 OpenAI API 标准。

环境准备

• 操作系统：Windows, Linux, macOS
• 硬件要求：
  • GPU: 支持 CUDA (NVIDIA) 或 MPS (Apple Silicon)。显存需求极低（模型仅 80M 参数）。
  • CPU: 通用 x86/ARM 处理器即可运行。
• 软件依赖：
  • Python 3.8+
  • PyTorch (安装脚本会自动处理，但 Windows CUDA 用户需注意版本兼容性)

安装步骤

1. 基础安装 (推荐 CPU / Mac MPS 用户)

直接使用 pip 安装预编译包：

pip install soprano-tts

2. 高性能安装 (推荐 Linux / Windows CUDA 用户)

若需启用 lmdeploy 后端以获得极致推理速度：

pip install soprano-tts[lmdeploy]

⚠️ Windows CUDA 用户特别注意 在 Windows 上，pip 默认可能安装仅支持 CPU 的 PyTorch 版本。安装完 Soprano 后，请务必强制重装带有 CUDA 支持的 PyTorch：

pip uninstall -y torch
pip install torch==2.8.0 --index-url https://download.pytorch.org/whl/cu128

3. 源码安装 (获取最新特性)

git clone https://github.com/ekwek1/soprano.git
cd soprano
# CUDA 版本
pip install -e .[lmdeploy]
# 或 CPU/MPS 版本
pip install -e .

基本使用

方式一：命令行工具 (CLI)

最简单的使用方式，直接输入文本生成音频文件：

soprano "Soprano is an extremely lightweight text to speech model."

• 默认输出文件为 output.wav。
• 添加 -s 参数可直接通过扬声器进行流式播放：

  soprano "Hello world" -s
  

方式二：Web 界面 (WebUI)

启动本地 Web 服务，通过浏览器交互：

soprano-webui

• 服务默认运行在 http://127.0.0.1:7860。
• 可通过参数调整性能（以内存换速度）：

  soprano-webui --cache-size 1000 --decoder-batch-size 4
  

方式三：Python 脚本调用

在代码中集成 Soprano：

from soprano import SopranoTTS

# 初始化模型
model = SopranoTTS(backend='auto', device='auto', cache_size_mb=100, decoder_batch_size=1)

# 基础推理并保存文件
out = model.infer("Soprano is an extremely lightweight text to speech model.", "out.wav")

# 流式推理 (超低延迟)
from soprano.utils.streaming import play_stream
stream = model.infer_stream("Real-time streaming with low latency.", chunk_size=1)
play_stream(stream)

方式四：OpenAI 兼容接口

启动服务器以兼容现有 OpenAI 客户端：

uvicorn soprano.server:app --host 0.0.0.0 --port 8000

调用示例：

curl http://localhost:8000/v1/audio/speech \
  -H "Content-Type: application/json" \
  -d '{
    "input": "Soprano is an extremely lightweight text to speech model."
  }' \
  --output speech.wav

使用小贴士

• 文本长度：单句时长控制在 2~30 秒效果最佳。
• 数字处理：模型对特殊字符和数字的识别偶有偏差，建议手动转换为拼音或单词形式（如将 1+1 写为 one plus one）。
• 引号规范：在命令行使用时，请使用双引号 " 包裹文本。
• 重试机制：若生成结果不理想，可直接重新运行命令，模型会生成新的采样结果。