ASRT是一个基于深度学习的中文语音识别系统，如果您觉得喜欢，请点一个 "Star" 吧~

ReadMe Language | 中文版 | English |

ASRT项目主页 | 发布版下载 | 查看本项目的Wiki文档 | 实用效果体验Demo | 打赏作者

如果程序运行期间或使用中有什么问题，可以及时在issue中提出来，我将尽快做出答复。本项目作者交流QQ群：894112051 ，加微信群请先加AI柠檬微信号：ailemon-me ，并备注“ASRT语音识别”

提问前请仔细查看项目文档、 FAQ常见问题 以及Issues 避免重复提问

如果程序运行时有任何异常情况，在提问时请发出完整截图，并注明所使用的CPU架构，GPU型号，操作系统、Python，TensorFlow和CUDA版本，以及是否修改过任何代码或增删数据集等。

Introduction 简介

本项目使用tensorFlow.keras基于深度卷积神经网络和长短时记忆神经网络、注意力机制以及CTC实现。

训练模型的最低软硬件要求

硬件

• CPU: 4核 (x86_64, amd64) +
• RAM: 16 GB +
• GPU: NVIDIA, Graph Memory 11GB+ (1080ti起步)
• 硬盘: 500 GB 机械硬盘(或固态硬盘)

软件

• Linux: Ubuntu 20.04+ / CentOS 7+ (训练+推理) 或 Windows: 10/11(仅推理)
• Python: 3.9 - 3.11 及后续版本
• TensorFlow: 2.5 - 2.11 及后续版本

快速开始

以在Linux系统下的操作为例：

首先通过Git将本项目克隆到您的计算机上，然后下载本项目训练所需要的数据集，下载链接详见文档末尾部分。

$ git clone https://github.com/nl8590687/ASRT_SpeechRecognition.git

或者您也可以通过 "Fork" 按钮，将本项目Copy一份副本，然后通过您自己的SSH密钥克隆到本地。

通过git克隆仓库以后，进入项目根目录；并创建一个存储数据的子目录， 例如 /data/speech_data (可使用软链接代替)，然后将下载好的数据集直接解压进去

注意，当前版本中，在配置文件里，默认添加了Thchs30、ST-CMDS、Primewords、aishell-1、aidatatang200、MagicData 六个数据集，如果不需要请自行删除。如果要使用其他数据集需要自行添加数据配置，并提前使用ASRT支持的标准格式整理数据。

$ cd ASRT_SpeechRecognition

$ mkdir /data/speech_data

$ tar zxf <数据集压缩文件名> -C /data/speech_data/ 

下载默认数据集的拼音标签文件：

$ python download_default_datalist.py

目前可用的模型有24、25、251和251bn

运行本项目之前，请安装必要的Python3版依赖库

本项目开始训练请执行：

$ python3 train_speech_model.py

本项目开始测试请执行：

$ python3 evaluate_speech_model.py

测试之前，请确保代码中填写的模型文件路径存在。

预测单条音频文件的语音识别文本：

$ python3 predict_speech_file.py

启动ASRT HTTP协议的API服务器启动请执行：

$ python3 asrserver_http.py

本地测试调用HTTP协议API服务是否成功：

$ python3 client_http.py

启动ASRT GRPC协议的API服务器启动请执行：

$ python3 asrserver_grpc.py

本地测试调用GRPC协议API服务是否成功：

$ python3 client_grpc.py

请注意，开启API服务器之后，需要使用本ASRT项目对应的客户端软件来进行语音识别，详见Wiki文档下载ASRT语音识别客户端SDK和Demo。

如果要训练和使用非251bn版模型，请在代码中 from speech_model.xxx import xxx 的相应位置做修改。

使用docker直接部署ASRT：

$ docker pull ailemondocker/asrt_service:1.3.0
$ docker run --rm -it -p 20001:20001 -p 20002:20002 --name asrt-server -d ailemondocker/asrt_service:1.3.0

仅CPU运行推理识别，不作训练

Model 模型

Speech Model 语音模型

DCNN + CTC

其中，输入的音频的最大时间长度为16秒，输出为对应的汉语拼音序列

• 关于下载已经训练好的模型的问题

已经训练好的模型包含在发布版服务端程序压缩包里面，发布版成品服务端程序可以在此下载：ASRT下载页面。

Github本仓库下Releases页面里面还包括各个不同版本的介绍信息，每个版本下方的zip压缩包也是包含已经训练好的模型的发布版服务端程序压缩包。

Language Model 语言模型

基于概率图的最大熵隐马尔可夫模型

输入为汉语拼音序列，输出为对应的汉字文本

About Accuracy 关于准确率

当前，最好的模型在测试集上基本能达到85%的汉语拼音正确率

Python依赖库

• tensorFlow (2.5-2.11+)
• numpy
• wave
• matplotlib
• scipy
• requests
• flask
• waitress
• grpcio / grpcio-tools / protobuf

不会安装环境的同学请直接运行以下命令(前提是有GPU且已经安装好 Python3.9、CUDA 11.2 和 cudnn 8.1)：

$ pip install -r requirements.txt

依赖环境和性能配置要求

Data Sets 数据集

完整内容请查看：几个最新免费开源的中文语音数据集

数据集	时长	大小	国内下载	国外下载
THCHS30	40h	6.01G	data_thchs30.tgz	data_thchs30.tgz
ST-CMDS	100h	7.67G	ST-CMDS-20170001_1-OS.tar.gz	ST-CMDS-20170001_1-OS.tar.gz
AIShell-1	178h	14.51G	data_aishell.tgz	data_aishell.tgz
Primewords	100h	8.44G	primewords_md_2018_set1.tar.gz	primewords_md_2018_set1.tar.gz
MagicData	755h	52G/1.0G/2.2G	train_set.tar.gz / dev_set.tar.gz / test_set.tar.gz	train_set.tar.gz / dev_set.tar.gz / test_set.tar.gz

注：AISHELL-1 数据集解压方法

$ tar xzf data_aishell.tgz
$ cd data_aishell/wav
$ for tar in *.tar.gz;  do tar xvf $tar; done

特别鸣谢！感谢前辈们的公开语音数据集

如果提供的数据集链接无法打开和下载，请点击该链接 OpenSLR

ASRT语音识别API客户端调用SDK

ASRT为客户端通过RPC方式调用开发语音识别功能提供了不同平台和编程语言的SDK接入能力，对于其他平台，可直接通过调用通用RESTful Open API方式进行语音识别功能接入。具体接入步骤请看ASRT项目文档。

客户端平台	项目仓库链接
Windows客户端SDK和Demo	ASRT_SDK_WinClient
跨平台Python3客户端SDK和Demo	ASRT_SDK_Python3
跨平台Golang客户端SDK和Demo	asrt-sdk-go
Java客户端SDK和Demo	ASRT_SDK_Java

ASRT相关资料

• 查看ASRT项目的Wiki文档

ASRT的原理请查看本文：

• ASRT：一个中文语音识别系统

ASRT训练和部署教程请看：

• 教你如何使用ASRT训练中文语音识别模型
• 教你如何使用ASRT部署中文语音识别API服务器

关于经常被问到的统计语言模型原理的问题，请看：

• 统计语言模型：从中文拼音到文本
• 统计N元语言模型生成算法：简单中文词频统计

关于CTC的问题请看：

• [翻译]使用CTC进行序列建模

更多内容请访问作者的博客：AI柠檬博客

或使用AI柠檬站内搜索引擎进行相关信息的搜索

License 开源许可协议

GPL v3.0 © nl8590687 作者：AI柠檬

参考引用本项目

DOI: 10.5281/zenodo.5808434

Contributors 贡献者们

贡献者页面

@nl8590687 (repo owner)

ASRT 中文语音识别快速上手指南

ASRT 是一个基于深度学习（DCNN + LSTM + Attention + CTC）的中文语音识别系统，支持训练、推理及 API 服务部署。

1. 环境准备

硬件要求（训练模式）

• CPU: 4 核及以上 (x86_64/amd64)
• 内存: 16 GB 及以上
• GPU: NVIDIA 显卡，显存 11GB+ (推荐 GTX 1080Ti 起步)
• 硬盘: 500 GB 及以上 (建议使用 SSD 以提升读取速度)
• 注：若仅进行推理识别，可使用 CPU 运行，无需高性能 GPU。

软件要求

• 操作系统:
  • Linux: Ubuntu 20.04+ / CentOS 7+ (支持训练 + 推理)
  • Windows: 10/11 (仅支持推理)
• Python: 3.9 - 3.11
• 深度学习框架: TensorFlow 2.5 - 2.11
• GPU 驱动 (如需训练): CUDA 11.2 + cuDNN 8.1

2. 安装步骤

第一步：克隆项目

git clone https://github.com/nl8590687/ASRT_SpeechRecognition.git
cd ASRT_SpeechRecognition

第二步：准备数据集

创建数据目录并解压数据集（以 Thchs30 等开源数据集为例）。 国内用户推荐使用 MagicData 或 OpenSLR 国内镜像源下载数据。

# 创建数据目录
mkdir -p /data/speech_data

# 解压数据集到指定目录 (请替换为实际下载的文件名)
tar zxf <数据集压缩文件名> -C /data/speech_data/

注意：默认配置文件已包含 Thchs30、ST-CMDS、Primewords、aishell-1、aidatatang200、MagicData 六个数据集配置。若未下载全部数据集，请修改配置文件移除对应项，或自行添加新数据集配置。

第三步：下载标签文件

下载默认的拼音标签列表文件：

python download_default_datalist.py

第四步：安装依赖库

确保已安装 Python 3.9+ 及对应的 CUDA/cuDNN (如有 GPU)，然后安装依赖：

pip install -r requirements.txt

若 pip 下载缓慢，可添加国内源加速，例如：pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 基本使用

场景一：训练模型

开始训练语音识别模型（需满足硬件要求）：

python3 train_speech_model.py

场景二：单文件语音识别预测

对单个音频文件进行识别测试：

python3 predict_speech_file.py

使用前请确保代码中已正确填写待测音频文件的路径。

场景三：启动 API 服务

启动 HTTP 协议的识别服务器：

python3 asrserver_http.py

本地测试调用是否成功：

python3 client_http.py

场景四：Docker 快速部署（仅推理）

若无需训练，仅需部署推理服务，可直接使用 Docker：

docker pull ailemondocker/asrt_service:1.3.0
docker run --rm -it -p 20001:20001 -p 20002:20002 --name asrt-server -d ailemondocker/asrt_service:1.3.0