PaSST

Patchout技术优化音频变换器训练效率及性能

PaSST 音频转换器 Patchout 预训练模型音频分类 Github 开源项目

PaSST项目开发的Patchout方法通过丢弃部分输入patch优化音频频谱图变换器模型训练。该技术显著降低训练时间和GPU内存消耗，同时提升模型性能。Patchout支持随机丢弃或丢弃整个时间帧、频率区间。项目提供预训练模型、推理和嵌入提取功能，以及下游任务微调框架，为音频AI研究和应用提供全面支持。

Github

介绍相关项目

Bridge-TTS - 创新方法提升文本转语音合成效果

Bridge-TTSGithubSchrodinger Bridge开源项目文本转语音机器学习语音合成

Bridge-TTS是一个革新性的文本转语音(TTS)项目，利用人工智能和机器学习技术，通过创新的数据处理方法优化语音合成。无论在简单还是复杂的应用场景中，它都显著优于传统的扩散模型。这一突破不仅提升了TTS技术水平，还为语音合成和相关人工智能领域开辟了新的研究方向。项目详情、研究方法和结果可在官方网站查阅，完整源代码将在论文被学术界正式接受后公开发布。

NATSpeech - 非自回归文本转语音（NAR-TTS）框架

DiffSpeechGithubNATSpeechPortaSpeechPyTorchText-to-Speech开源项目

NATSpeech框架是一款高效的非自回归文本至语音转换系统，特点为便捷的操作、可扩展性强，并采用精准的数据处理技术。框架包括PortaSpeech与DiffSinger两种高质量语音合成技术，适用于高端研究与商业应用，配备详尽的技术文档及安装指导。

dasp-pytorch - 基于PyTorch的可微分音频信号处理器库

GithubPyTorch信号处理开源项目深度学习神经网络音频处理

dasp-pytorch是一个基于PyTorch的可微分音频信号处理库。它实现了混响、失真、动态范围处理、均衡和立体声处理等功能，可用于虚拟模拟建模、参数估计、自动DSP和风格迁移。该库支持CPU和GPU批处理，有助于加速训练和优化性能。作为开源项目，dasp-pytorch在Apache 2.0许可下可免费用于学术和商业目的。

FastSpeech2 - 快速且高质量的端到端文本转语音

FastSpeech 2GithubMelGANNVIDIAPyTorch开源项目文本转语音

FastSpeech 2，面向精准快速的文本到语音转换，基于PyTorch与Espnet技术，配备Nvidia与MelGAN工具，极致优化语音生成效果，适合各类开发者利用和研究。

awesome-large-audio-models - 音频AI模型前沿进展与资源汇总

Github大型音频模型开源项目语音合成语音识别跨模态AI音乐生成

本项目汇总了音频AI领域的精选资源,涵盖语音识别、合成、翻译等多个方向的前沿进展。定期更新最新论文和开源实现,为研究者和开发者提供全面了解音频AI发展的平台。内容包括主流大型音频模型、各应用领域技术及大规模数据集,是音频AI研究的重要参考资料。

Whisper-Finetune - 语音识别模型的高效微调与加速

GithubWhisper中文识别加速推理开源项目模型微调语音识别

Whisper-Finetune项目致力于优化OpenAI的Whisper语音识别模型。该项目采用Lora技术进行微调，支持多种数据类型的训练，并通过CTranslate2和GGML实现加速推理。此外，项目提供了跨平台应用和服务器部署方案，为语音识别应用开发提供了全面支持。

GPT-SoVITS - 少样本声音克隆模型

GPT-SoVITS-WebUIGithubWebUI工具开源项目文本转语音模型训练热门跨语言支持

GPT-SoVITS-WebUI是一款功能强大的在线语音转换和文本转语音工具，支持跨语言转换与实时语音合成。项目集成了自动训练集分段、中文语音识别和文本标记等工具，能够帮助初学者轻松创建训练数据集和GPT/SoVITS模型。GPT-SoVITS支持零样本和少样本文本转语音，是音频处理领域的创新应用。

so-vits-svc - 虚拟歌声转换工具，提供丰富的自定义功能

GithubSinging Voice ConversionSoftVC VITS人工智能模型开源项目热门语音合成

so-vits-svc是一个专注于虚拟歌声转换(SVC)的项目，不支持文本到语音(TTS)功能。该项目利用SoftVC内容编码器从源音频中提取语音特征，并通过VITS进行处理，保留了原始音频的音调和语调。此外，该项目还支持Whisper-PPG编码器和静态/动态声音融合等新功能。最新版本支持通过浅层扩散模型改善声音质量，为开发者提供了一个稳定的学习和实验平台，但不适用于商业生产环境。

audio-diffusion - 使用Hugging Face扩散器包应用扩散模型以合成音乐

GithubHugging Faceaudio-diffusiondiffusion modelsmel spectrogram开源项目生成音频

audio-diffusion项目使用Hugging Face的diffusers包，将扩散模型应用在音乐合成领域，不再局限于图像生成。项目介绍了条件音频生成、预训练模型的使用、Mel谱图处理，在谷歌Colab和本地环境下的训练方法。项目包含实际案例和最新更新，展示了如何用扩散模型生成和插值音频。此外，还提供了从音频文件生成Mel谱图数据集的详细指南，涵盖多种技术细节和操作方法。

ParallelWaveGAN - 通过Pytorch实现多种高效声码器模型

GithubHiFi-GANMelGANParallelWaveGAN多扬声器模型实时语音合成开源项目

ParallelWaveGAN项目以非官方形式用Pytorch实现了多种声码器模型，如Parallel WaveGAN、MelGAN等，支持实时语音合成并兼容ESPnet-TTS、NVIDIA's Tacotron2等系统。可帮助用户搭建适应多种语言的声音合成器。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号