tango

利用扩散模型和大语言模型实现先进的文本到音频生成

Tango 文本转音频生成潜在扩散模型人工智能音频生成 Github 开源项目

Tango是一个创新的文本到音频生成模型,结合了潜在扩散模型和大语言模型技术。该模型使用冻结的Flan-T5作为文本编码器,训练UNet扩散模型生成音频。尽管训练数据集较小,Tango的性能仍可媲美最先进模型。Tango 2版本通过在Audio-alpaca数据集上的DPO对齐训练进一步提升了生成质量。项目开源了模型代码和预训练权重,为音频生成研究提供了有价值的资源。

访问官网

Github

Huggingface

介绍相关项目

audio-diffusion - 使用Hugging Face扩散器包应用扩散模型以合成音乐

GithubHugging Faceaudio-diffusiondiffusion modelsmel spectrogram开源项目生成音频

audio-diffusion项目使用Hugging Face的diffusers包，将扩散模型应用在音乐合成领域，不再局限于图像生成。项目介绍了条件音频生成、预训练模型的使用、Mel谱图处理，在谷歌Colab和本地环境下的训练方法。项目包含实际案例和最新更新，展示了如何用扩散模型生成和插值音频。此外，还提供了从音频文件生成Mel谱图数据集的详细指南，涵盖多种技术细节和操作方法。

ChatTTS - 高质量中英文对话场景文本转语音模型

AI工具ChatTTS多语言支持对话场景开源模型语音合成

ChatTTS是专注于对话场景的语音生成模型，支持中英双语。经过约10万小时的数据训练，该模型能生成高质量、自然的语音，适用于大型语言模型助手的对话任务和会话式音视频制作。项目团队计划开源基础模型，推动相关研究发展。ChatTTS具有多语言支持和易用性，为开发者和研究人员提供了便捷的文本转语音解决方案。

audio2photoreal - AI驱动的音频转人物对话视频技术

AI合成Github对话场景开源项目深度学习计算机视觉音频到真人化身

audio2photoreal项目实现了音频到逼真人物对话视频的自动转换。该开源项目集成了面部表情和全身动作生成模型,能根据音频输入合成自然的人物表情和动作。项目提供预训练模型、训练代码和数据集,便于研究者复现和改进。这一技术为虚拟人物制作和视频合成领域开辟了新的可能性。

mandarin-tts - 模块化的中文文本到语音合成框架

AI绘图Githubgithubmandarin-ttsvocoder开源项目语音合成

mandarin-tts是一个模块化的中文文本到语音合成框架，适用于加速科研和产品开发。它的主要特点包括模块化配置、多样的声码器支持以及丰富的嵌入选项，如说话人、韵律和文本嵌入。此外，该框架还支持预测语音的持续时间、音调和能量变化，通过开源合作进一步拓展其功能。框架提供多数据集的音频样本和预训练模型，方便用户使用和进一步开发。此外通过正确使用专有名词，如YAML配置文件，并加入客观描述，提供高效的开发工具给研究人员和开发者。

bigvsan - GAN神经声码器结合切片对抗网络的创新音频生成模型

BigVSANGANGithub开源项目深度学习神经声码器语音合成

BigVSAN项目结合GAN神经声码器和切片对抗网络，旨在提高音频生成质量。该项目基于LibriTTS数据集训练，提供预训练模型及完整的代码实现。包括训练、评估和推理功能，并附有详细使用说明。在多项客观评估指标中，BigVSAN展现出优秀性能，为语音合成技术开辟新方向。

TATS - 创新长视频生成框架基于时间无关VQGAN和时间敏感Transformer

GithubTATSTransformerVQGAN开源项目视频生成长视频生成

TATS项目是一个创新的长视频生成框架，通过结合时间无关的VQGAN和时间敏感的Transformer模型，实现了高效的长视频生成。该技术仅需使用数十帧视频进行训练，就能利用滑动窗口方法生成包含数千帧的连贯视频。TATS支持无条件生成以及基于文本、音频等条件的视频生成，为视频内容创作开辟了新的可能性。

Pandrator - AI驱动的多语言语音生成和视频配音工具

GithubPandrator开源项目文本处理语音克隆语音合成音频生成

Pandrator是一款开源的多语言语音生成工具,支持将文本、PDF、EPUB和SRT文件转换为语音。该工具集成了语音克隆、LLM文本预处理和AI优化功能,可将生成的音频同步到视频中。Pandrator采用图形界面设计,提供一键安装,操作简便。它利用XTTS、Silero等开源模型实现语音合成,并支持RVC语音增强和NISQA质量评估,为语音生成提供全面解决方案。

text-generation-inference - 生产级高性能文本生成推理工具

GithubHugging FaceText Generation Inference分布式追踪大语言模型开源项目量化

Text Generation Inference (TGI) 是一个部署和服务大型语言模型的工具包。它支持Llama、Falcon、StarCoder、BLOOM、GPT-NeoX等流行的开源模型，提供简便的启动器、分布式追踪、张量并行、多GPU推理加速、令牌流等特性。TGI还支持权重量化和安全张量加载，具备自定义提示生成和微调功能，兼容Nvidia、AMD、Inferentia、Intel GPU、Gaudi和Google TPU等硬件平台。

dl-for-emo-tts - 通过深度学习实现情感语音合成

GithubTacotron优化器开源项目情感语音合成数据集深度学习

项目通过深度学习实现情感语音合成，包括Tacotron和DCTTS模型的应用。详细介绍了使用的数据集、相关文献和多种模型微调策略，如调整学习率和冻结网络层。尽管面临情感数据集有限的问题，但实验验证了改进方案对低资源情感TTS传递学习的有效性。

talk-llama-fast - 开源AI语音对话系统支持多语言实时交互及视频生成

AI对话Githubtalk-llama-fast开源项目视频生成语音合成语音识别

talk-llama-fast是一个开源的AI语音对话系统,支持实时语音识别、自然语言生成和语音合成,可进行多语言交互。系统集成了视频生成功能,能创建与音频同步的唇形动画。采用流式处理和激进VAD等优化技术,实现低延迟响应。提供多种语音命令和中断机制,增强交互体验。适用于开发AI助手、虚拟角色等应用。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号