Logo
Project Icon

icefall

多语种语音识别开源工具箱

icefall语音识别k2-fsaZipformerTransducerGithub开源项目

icefall是基于k2-fsa和lhotse的开源语音识别工具箱，支持多种数据集和模型架构。它提供预训练模型和详细文档，便于快速部署和实验。icefall在LibriSpeech等基准数据集上表现出色，适合开发高性能的语音识别系统。

GithubGithubHuggingfaceHuggingface文档文档
介绍相关项目

简介

icefall项目包含了使用k2-fsa和lhotse的各种数据集的语音相关配方。

您可以使用sherpa、sherpa-ncnn或sherpa-onnx来部署icefall中的模型；这些框架也支持icefall之外的模型；更多详情请参阅各自的文档。

您可以通过访问这个huggingface space，在浏览器中试用预训练模型，无需下载或安装任何东西。更多详情请参阅文档。

安装

请参阅文档进行安装。

配方

更多详情请参阅文档。

ASR: 自动语音识别

支持的数据集

  • [yesno][yesno]

  • [Aidatatang_200zh][aidatatang_200zh]

  • [Aishell][aishell]

  • [Aishell2][aishell2]

  • [Aishell4][aishell4]

  • [Alimeeting][alimeeting]

  • [AMI][ami]

  • [CommonVoice][commonvoice]

  • [Corpus of Spontaneous Japanese][csj]

  • [GigaSpeech][gigaspeech]

  • [LibriCSS][libricss]

  • [LibriSpeech][librispeech]

  • [Libriheavy][libriheavy]

  • [Multi-Dialect Broadcast News Arabic Speech Recognition][mgb2]

  • [PeopleSpeech][peoplespeech]

  • [SPGISpeech][spgispeech]

  • [Switchboard][swbd]

  • [TIMIT][timit]

  • [TED-LIUM3][tedlium3]

  • [TAL_CSASR][tal_csasr]

  • [Voxpopuli][voxpopuli]

  • [XBMU-AMDO31][xbmu-amdo31]

  • [WenetSpeech][wenetspeech]

未来将会添加更多数据集。

支持的模型

[LibriSpeech][librispeech]配方支持最全面的模型集合，欢迎您尝试。

CTC

  • TDNN LSTM CTC
  • Conformer CTC
  • Zipformer CTC

MMI

  • Conformer MMI
  • Zipformer MMI

Transducer

  • 基于Conformer的编码器
  • 基于LSTM的编码器
  • 基于Zipformer的编码器
  • 基于LSTM的预测器
  • 无状态预测器

Whisper

如果您愿意为icefall做出贡献，请参阅contributing以获取更多详情。

我们想在此强调一些配方的性能。

[yesno][yesno]

这是icefall中最简单的ASR配方，可以在CPU上运行。 训练不到30秒，就能得到以下WER：

[test_set] %WER 0.42% [1 / 240, 0 ins, 1 del, 0 sub ]

我们为这个配方提供了一个Colab笔记本：Open In Colab

[LibriSpeech][librispeech]

请查看RESULTS.md 获取最新结果。

Conformer CTC

test-cleantest-other
WER2.425.73

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

TDNN LSTM CTC

test-cleantest-other
WER6.5917.69

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + LSTM预测器)

test-cleantest-other
greedy_search3.077.51

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + 无状态预测器)

test-cleantest-other
modified_beam_search (beam_size=4)2.566.27

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Zipformer编码器 + 无状态预测器)

WER（除非另有说明，否则使用modified_beam_search beam_size=4）

  1. LibriSpeech-960小时
编码器参数数量test-cleantest-other训练轮数设备
Zipformer65.5M2.214.79504 32G-V100
Zipformer-small23.2M2.425.73502 32G-V100
Zipformer-large148.4M2.064.63504 32G-V100
Zipformer-large148.4M2.004.381748 80G-A100
  1. LibriSpeech-960小时 + GigaSpeech
编码器参数数量test-cleantest-other
Zipformer65.5M1.784.08
  1. LibriSpeech-960小时 + GigaSpeech + CommonVoice | 编码器 | 参数量 | test-clean | test-other | |--------|--------|------------|------------| | Zipformer | 65.5M | 1.90 | 3.98 |

[GigaSpeech][gigaspeech]

Conformer CTC

开发集测试集
词错率10.4710.58

Transducer (pruned_transducer_stateless2)

Conformer 编码器 + 无状态预测器 + k2 剪枝 RNN-T 损失

开发集测试集
贪婪搜索10.5110.73
快速束搜索10.5010.69
改进束搜索10.4010.51

Transducer (Zipformer 编码器 + 无状态预测器)

开发集测试集
贪婪搜索10.3110.50
快速束搜索10.2610.48
改进束搜索10.2510.38

[Aishell][aishell]

TDNN LSTM CTC

测试集
字错率10.16

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Conformer 编码器 + 无状态预测器)

测试集
字错率4.38

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Zipformer 编码器 + 无状态预测器)

词错率（改进束搜索 beam_size=4）

编码器参数量开发集测试集训练轮数
Zipformer73.4M4.134.4055
Zipformer-small30.2M4.404.6755
Zipformer-large157.3M4.034.2856

[Aishell4][aishell4]

Transducer (pruned_transducer_stateless5)

1 使用所有子集训练：

测试集
字错率29.08

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TIMIT][timit]

TDNN LSTM CTC

测试集
音素错误率19.71%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TDNN LiGRU CTC

测试集
音素错误率17.66%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TED-LIUM3][tedlium3]

Transducer (Conformer 编码器 + 无状态预测器)

开发集测试集
改进束搜索 (beam_size=4)6.916.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (pruned_transducer_stateless)

开发集测试集
改进束搜索 (beam_size=4)6.776.14

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[Aidatatang_200zh][aidatatang_200zh]

Transducer (pruned_transducer_stateless2)

开发集测试集
贪婪搜索5.536.59
快速束搜索5.306.34
改进束搜索5.276.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[WenetSpeech][wenetspeech]

Transducer (pruned_transducer_stateless2)

开发集测试网络测试会议
贪婪搜索7.808.7513.49
快速束搜索7.948.7413.80
改进束搜索7.768.7113.41

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

转换器 流式 (pruned_transducer_stateless5)

开发集测试网络测试会议
贪婪搜索8.7810.1216.16
快速束搜索9.0110.4716.28
改进束搜索8.539.9515.81

[阿里会议][alimeeting]

转换器 (pruned_transducer_stateless2)

评估集测试网络
贪婪搜索31.7734.66
快速束搜索31.3933.02
改进束搜索30.3834.25

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TAL_CSASR][tal_csasr]

转换器 (pruned_transducer_stateless5)

中文字错率(CER%)和英文词错率(WER%)的最佳结果（zh: 中文，en: 英文）：

解码方法开发集开发集_中文开发集_英文测试集测试集_中文测试集_英文
贪婪搜索7.306.4819.197.396.6619.13
快速束搜索7.186.3918.907.276.5518.77
改进束搜索7.156.3518.957.226.5018.70

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TTS: 文本转语音

支持的数据集

  • [LJSpeech][ljspeech]
  • [VCTK][vctk]

支持的模型

使用 C++ 部署

一旦您在 icefall 中训练了模型，您可能希望使用 C++ 部署它，而不依赖 Python。

请参考以下内容了解如何操作：

我们还提供了一个 Colab 笔记本，向您展示如何在 [k2][k2] 中使用 C++ 运行 torch 脚本化模型。 请查看：在 Colab 中打开

相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号