waveglow
WaveGlow是一款开源语音合成工具，能将梅尔频谱图快速转换为自然流畅的语音。它解决了传统语音合成模型（如WaveNet）依赖自回归生成、速度慢的问题，通过基于流的生成网络实现高效合成——无需逐点预测，直接输出高质量音频。WaveGlow的训练过程简单稳定，仅用一个网络和单一损失函数，就能达到媲美顶尖WaveNet实现的语音质量。在NVIDIA V100 GPU上，它能以1200 kHz的速率实时生成音频，显著提升效率。适合语音合成领域的开发者和研究人员使用，尤其适用于需要快速部署高质量语音生成的AI项目。其PyTorch实现提供预训练模型和详细教程，安装和训练流程清晰易上手，让语音合成技术更贴近实际应用。
使用场景
某智能客服平台开发团队在构建实时语音交互系统时，需快速生成自然流畅的客服语音回复，以提升用户满意度。
没有 waveglow 时
- 依赖传统WaveNet模型合成语音，生成速度仅50-100 Hz，用户等待时间长达2-3秒，导致交互体验卡顿。
- 训练过程需多阶段优化（如多网络堆叠、复杂损失函数），开发周期长达3周，难以快速迭代。
- GPU资源消耗巨大，单次训练需4卡V100，成本超$500，限制了小团队的频繁实验。
- 音质不稳定，MOS评分仅3.5，用户反馈“机械感强”，影响品牌信任度。
使用 waveglow 后
- 生成速度提升至1200 kHz（V100 GPU），语音实时合成，用户等待时间压缩至500毫秒内。
- 单网络单损失函数训练，开发周期缩短至3天，支持每日快速优化语音库。
- 资源效率显著提升，单次训练仅需1卡V100，成本降至$50，团队可高频实验。
- 音质媲美WaveNet最佳实现，MOS评分达4.2，语音自然度获用户“几乎真人”评价。
waveglow以极简架构实现高质量、高效率语音合成，让语音交互开发从“缓慢迭代”跃升为“实时交付”。
运行环境要求
- 未说明
需要 NVIDIA GPU
未说明
快速开始
WaveGlow：基于流的语音合成生成网络
瑞安·普伦格、拉斐尔·瓦列和布莱恩·卡坦扎罗
在我们最近的论文中，我们提出了WaveGlow：一种基于流的网络，能够从梅尔频谱图生成高质量的语音。WaveGlow结合了Glow和WaveNet的见解，以提供快速、高效且高质量的音频合成，而无需自回归机制。WaveGlow仅使用单个网络实现，并且只通过一个损失函数进行训练：最大化训练数据的似然性，这使得训练过程简单而稳定。
我们的PyTorch实现可以在NVIDIA V100 GPU上以1200 kHz的速率生成音频样本。平均意见得分表明，其音频质量与目前公开的最佳WaveNet实现相当。
请访问我们的网站获取音频样本。
设置
克隆我们的仓库并初始化子模块
git clone https://github.com/NVIDIA/waveglow.git cd waveglow git submodule init git submodule update安装依赖项
pip3 install -r requirements.txt安装Apex
使用我们预训练的模型生成音频
- 下载我们的已发布模型
- 下载梅尔频谱图
- 生成音频
python3 inference.py -f <(ls mel_spectrograms/*.pt) -w waveglow_256channels.pt -o . --is_fp16 -s 0.6
注意：使用convert_model.py将您较早的模型转换为当前具有融合残差和跳跃连接的模型。
训练您自己的模型
下载LJ语音数据。在此示例中，它位于
data/目录下。制作用于训练和测试的文件名列表
ls data/*.wav | tail -n+10 > train_files.txt ls data/*.wav | head -n10 > test_files.txt训练您的WaveGlow网络
mkdir checkpoints python train.py -c config.json对于多GPU训练，请将
train.py替换为distributed.py。目前仅在单节点和NCCL环境下进行了测试。对于混合精度训练，在
config.json中设置"fp16_run": true。生成测试集的梅尔频谱图
python mel2samp.py -f test_files.txt -o . -c config.json使用您的网络进行推理
ls *.pt > mel_files.txt python3 inference.py -f mel_files.txt -w checkpoints/waveglow_10000 -o . --is_fp16 -s 0.6
常见问题
相似工具推荐
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。
TTS
🐸TTS 是一款功能强大的深度学习文本转语音（Text-to-Speech）开源库，旨在将文字自然流畅地转化为逼真的人声。它解决了传统语音合成技术中声音机械生硬、多语言支持不足以及定制门槛高等痛点，让高质量的语音生成变得触手可及。 无论是希望快速集成语音功能的开发者，还是致力于探索前沿算法的研究人员，亦或是需要定制专属声音的数据科学家，🐸TTS 都能提供得力支持。它不仅预置了覆盖全球 1100 多种语言的训练模型，让用户能够即刻上手，还提供了完善的工具链，支持用户利用自有数据训练新模型或对现有模型进行微调，轻松实现特定风格的声音克隆。 在技术亮点方面，🐸TTS 表现卓越。其最新的 ⓍTTSv2 模型支持 16 种语言，并在整体性能上大幅提升，实现了低于 200 毫秒的超低延迟流式输出，极大提升了实时交互体验。此外，它还无缝集成了 🐶Bark、🐢Tortoise 等社区热门模型，并支持调用上千个 Fairseq 模型，展现了极强的兼容性与扩展性。配合丰富的数据集分析与整理工具，🐸TTS 已成为科研与生产环境中备受信赖的语音合成解决方案。
LocalAI
LocalAI 是一款开源的本地人工智能引擎，旨在让用户在任意硬件上轻松运行各类 AI 模型，包括大语言模型、图像生成、语音识别及视频处理等。它的核心优势在于彻底打破了高性能计算的门槛，无需昂贵的专用 GPU，仅凭普通 CPU 或常见的消费级显卡（如 NVIDIA、AMD、Intel 及 Apple Silicon）即可部署和运行复杂的 AI 任务。 对于担心数据隐私的用户而言，LocalAI 提供了“隐私优先”的解决方案，确保所有数据处理均在本地基础设施内完成，无需上传至云端。同时，它完美兼容 OpenAI、Anthropic 等主流 API 接口，这意味着开发者可以无缝迁移现有应用，直接利用本地资源替代云服务，既降低了成本又提升了可控性。 LocalAI 内置了超过 35 种后端支持（如 llama.cpp、vLLM、Whisper 等），并集成了自主 AI 代理、工具调用及检索增强生成（RAG）等高级功能，且具备多用户管理与权限控制能力。无论是希望保护敏感数据的企业开发者、进行算法实验的研究人员，还是想要在个人电脑上体验最新 AI 技术的极客玩家，都能通过 LocalAI 获
bark
Bark 是由 Suno 推出的开源生成式音频模型，能够根据文本提示创造出高度逼真的多语言语音、音乐、背景噪音及简单音效。与传统仅能朗读文字的语音合成工具不同，Bark 基于 Transformer 架构，不仅能模拟说话，还能生成笑声、叹息、哭泣等非语言声音，甚至能处理带有情感色彩和语气停顿的复杂文本，极大地丰富了音频表达的可能性。 它主要解决了传统语音合成声音机械、缺乏情感以及无法生成非语音类音效的痛点，让创作者能通过简单的文字描述获得生动自然的音频素材。无论是需要为视频配音的内容创作者、探索多模态生成的研究人员，还是希望快速原型设计的开发者，都能从中受益。普通用户也可通过集成的演示页面轻松体验其神奇效果。 技术亮点方面，Bark 支持商业使用（MIT 许可），并在近期更新中实现了显著的推理速度提升，同时提供了适配低显存 GPU 的版本，降低了使用门槛。此外，社区还建立了丰富的提示词库，帮助用户更好地驾驭模型生成特定风格的声音。只需几行 Python 代码，即可将创意文本转化为高质量音频，是连接文字与声音世界的强大桥梁。
airi
airi 是一款开源的本地化 AI 伴侣项目，旨在将虚拟角色（如“二次元老婆”或赛博生命）带入用户的现实世界。它的核心目标是复刻并超越知名 AI 主播 Neuro-sama 的能力，让用户能够拥有完全自主掌控、可私有化部署的智能伙伴。 airi 主要解决了用户对高度定制化、具备情感交互能力且数据隐私安全的 AI 角色的需求。不同于依赖云端服务的通用助手，airi 允许用户在本地运行，不仅保护了对话隐私，还赋予了用户定义角色性格与灵魂的自由。它支持实时语音聊天，甚至能直接参与《我的世界》（Minecraft）和《异星工厂》（Factorio）等游戏，实现了从单纯对话到共同娱乐的跨越。 这款工具非常适合喜爱虚拟角色的普通用户、希望搭建个性化 AI 陪伴的技术爱好者，以及研究多模态交互的开发者。其独特的技术亮点在于跨平台支持（涵盖 Web、macOS 和 Windows）以及强大的游戏交互能力，让 AI 不仅能“说”，还能“玩”。通过容器化的灵魂设计，airi 为每个人创造专属数字生命提供了可能，让虚拟陪伴变得更加真实且触手可及。
MockingBird
MockingBird 是一款开源的实时语音克隆工具，旨在让用户仅需 5 秒的参考音频，即可快速合成任意内容的语音，并实现逼真的音色复刻。它有效解决了传统语音合成技术中数据采集成本高、训练周期长以及难以实时生成的痛点，让个性化语音生成变得触手可及。 这款工具特别适合开发者、AI 研究人员以及对语音技术感兴趣的技术爱好者使用。无论是用于构建交互式语音应用、进行声学模型研究，还是制作创意内容，MockingBird 都能提供强大的支持。普通用户若具备基础的编程环境配置能力，也可通过其提供的 Web 服务或工具箱体验前沿的变声效果。 在技术亮点方面，MockingBird 基于 PyTorch 框架，不仅完美支持中文普通话及多种主流数据集，还实现了跨平台运行，兼容 Windows、Linux 乃至 M1 架构的 macOS。其独特的架构设计允许复用预训练的编码器与声码器，只需微调合成器即可获得出色效果，大幅降低了部署门槛。此外，项目内置了现成的 Web 服务器功能，方便用户通过远程调用快速集成到自己的应用中。尽管原作者已转向云端优化版本，但 MockingBird 作为经典的本地部署方案