Project Icon

CTCWordBeamSearch

CTC解码器提升文本和语音识别的性能

CTC Word Beam Search是一种基于词典和语言模型的连接时序分类(CTC)解码器,支持Python 3.11和3.12版本。项目提供详细的安装和使用指南,并通过示例代码展示其在文本识别模型中的应用。算法具有四大特点:使用词典约束词语、允许词间出现任意非词字符、可选用词级语言模型(LM)以及比token传递算法更快。文档中提供了主要参数的说明和更多的技术细节及使用案例,适用于手写文本识别和自动语音识别。

SimpleHTR - TensorFlow手写文本识别系统,支持单词和整行文本识别
CTC解码GithubIAM数据集TensorFlow字束搜索解码开源项目手写文字识别
本手写文本识别系统使用TensorFlow实现,并训练于IAM数据集。其能够识别单词和整行文本,验证集中3/4的单词被正确识别,字符错误率约为10%。系统提供预训练模型下载和多种解码器选项,包括适用于Windows的word beam search解码器。此外,还支持快速数据加载和训练设置,适合快速开发与部署文本识别应用。
parakeet-tdt_ctc-1.1b - 高性能自动语音识别模型解决方案
GithubHuggingfaceNeMo开源项目快速同构体数据集模型自动语音识别词错误率
parakeet-tdt_ctc-1.1b提供了一个功能强大的语音识别模型,支持将语音转录为包含标点和大写字母的文本。由NVIDIA NeMo和Suno.ai团队联合开发,拥有1.1B的参数规模,能够高效地处理大规模的音频数据。该模型利用局部注意力和全局令牌技术实现单次处理11小时音频。其在多个公开数据集上的出色表现,表明其在语音转录应用中有广泛的适用性和较低的词错误率(WER)。
parakeet-tdt_ctc-110m - 流畅高效的FastConformer TDT-CTC语音识别解决方案
GithubHuggingfaceNVIDIA NeMo开源项目快速Conformer模型模型架构自动语音识别语音转写
该模型融合FastConformer与TDT-CTC架构,专为英文语音识别而优化,支持转录标点和大写字母。以高效架构处理长达20分钟音频数据,通过NVIDIA NeMo和Suno团队训练,在多个基准数据集中表现优异。通过NeMo工具包,预训练检查点便于进行模型推理或微调。
LookaheadDecoding - 创新并行算法加速大型语言模型推理
GithubJacobi迭代LLMLookahead Decoding并行解码开源项目推理加速
LookaheadDecoding项目开发了一种创新的并行解码算法,旨在加速大型语言模型(LLM)的推理过程。该方法不依赖草稿模型或数据存储,而是结合Jacobi迭代和n-gram缓存技术,有效减少解码步骤。实验结果显示,在多个数据集上可将延迟降低1.5到2.3倍。项目提供便捷的安装和使用方式,并支持FlashAttention技术,可广泛应用于各类LLM场景。
mms-300m-1130-forced-aligner - 多语言音频文本强制对齐Python工具包
CTC模型GithubHugging FaceHuggingface开源项目强制对齐模型语音识别音频处理
这是一个基于Hugging Face预训练模型的Python包,用于实现音频和文本的强制对齐。该工具采用了优化的实现方式,相比TorchAudio的强制对齐API,能显著降低内存使用。它支持超过100种语言,提供简便的安装和使用方法。该包可以生成精确的词级时间戳,适用于语音识别、字幕生成、语音合成等多种应用场景。此外,它还支持音频批处理和自定义设备选择,提高了处理效率。
voicebox-pytorch - 新一代MetaAI文本到语音模型Voicebox的Pytorch实现
GithubMetaAIPytorchSpear-TTSText-to-SpeechVoicebox开源项目
该项目实现了MetaAI的最新文本到语音模型Voicebox,利用旋转嵌入和自适应归一化技术提升模型效果。还融合了SpearTTS和Conditioned Flow Matching等技术,提高训练和采样效率。项目获得Imminent Grant资助,致力于推动开源文本到语音技术的发展,并感谢各大赞助商的支持。用户可以通过pip install命令轻松安装和使用该项目。
speculative-decoding - 推测解码技术,优化大型语言模型推理速度
GithubSpeculative Decoding大语言模型开源项目性能优化推理加速自然语言处理
该开源项目聚焦于推测解码技术的研究与实现,旨在提升大型语言模型的文本生成效率。项目涵盖了多种推测解码策略,包括提前退出、推测采样和先知变压器。同时,项目致力于优化批处理推测解码,以增强整体性能。研究计划还包括对比不同策略的效果,并探索微观优化方法。这些工作为加快AI模型推理速度提供了新的技术思路。
DeepSpeech - 开源的深度学习语音识别引擎
GithubProject DeepSpeechTensorFlow开源开源项目机器学习语音识别
DeepSpeech是一个开源语音转文字引擎,基于百度的Deep Speech研究,并利用Google TensorFlow实现。提供详细的安装、使用和训练模型文档。最新版本及预训练模型可在GitHub获取,支持和贡献指南请参阅相应文件。
languagemodels - 轻松实现低内存大语言模型推理的Python库
GPU加速GithubLanguage ModelsPython大语言模型开源项目语义搜索
该Python库简化了大语言模型的使用,最低内存需求仅为512MB,确保所有推理在本地完成以保障数据隐私。支持GPU加速及多种模型配置,功能涵盖文本翻译、代码补全、语义搜索等,适合教育和商业用途。用户可通过简单的pip命令安装,在REPL、笔记本或脚本中使用。详见官方网站的文档与示例程序。
CTranslate2 - 高效的Transformer模型推理库,提供多种性能优化方案
CTranslate2Github并行执行开源项目性能优化模型压缩转换器模型
CTranslate2是一个用于Transformer模型高效推理的C++和Python库,通过权重量化、层融合、批次重排序等技术,显著提升CPU和GPU上的执行速度并减少内存占用。支持多种模型类型,包括编码器-解码器、仅解码器和仅编码器模型,兼容OpenNMT-py、OpenNMT-tf、Fairseq等框架。其主要特点包括自动CPU检测、代码分发、并行和异步执行以及动态内存使用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号