Logo
Project Icon

speech-driven-animation

语音驱动的端到端面部动画合成模型

Speech-Driven Animation视频动画人脸合成语音驱动深度学习Github开源项目

Speech-Driven Animation是一个开源项目，实现语音驱动的端到端面部合成模型。该项目根据输入图像和音频生成面部动画视频，支持GRID、TIMIT和CREMA等预训练模型。通过API可输入自定义音频和图像，输出同步动画视频。项目还提供音频和视频编码器，可用于特征提取和分类任务。

GithubGithub论文论文
介绍相关项目
EasyAnimate - 基于Transformer的高分辨率长视频生成框架
AI绘图EasyAnimateGithub开源项目深度学习视频生成计算机视觉
EasyAnimate是一个开源的高分辨率长视频生成框架。该项目基于Transformer架构,采用类Sora结构和DIT技术,使用Transformer作为视频生成的扩散器。EasyAnimate支持训练扩散模型生成器、处理长视频的VAE和元数据预处理。用户可直接使用预训练模型生成多种分辨率的6秒24帧视频,也可训练自定义基线模型和Lora模型实现特定风格转换。
ComfyUI-AnimateAnyone-Evolved - 姿态驱动视频生成的开源AI项目
AI视频生成AnimateAnyoneComfyUIGithub姿态转视频开源项目深度学习
ComfyUI-AnimateAnyone-Evolved是AnimateAnyone的改进实现，利用姿态图像序列和参考图像生成风格化视频。项目支持DDIM、DPM++等多种采样器和调度器，能处理长序列姿态图像。目标是在RTX 3080及以上GPU上实现每秒1帧以上的姿态到视频生成速度，并通过优化提升性能和质量。
dl-for-emo-tts - 通过深度学习实现情感语音合成
GithubTacotron优化器开源项目情感语音合成数据集深度学习
项目通过深度学习实现情感语音合成，包括Tacotron和DCTTS模型的应用。详细介绍了使用的数据集、相关文献和多种模型微调策略，如调整学习率和冻结网络层。尽管面临情感数据集有限的问题，但实验验证了改进方案对低资源情感TTS传递学习的有效性。
ControlSpeech - 实现零样本语音克隆和风格控制的开源工具包
ControlSpeechGithub开源项目评估指标语言风格控制语音合成零样本说话人克隆
ControlSpeech是一个开源的语音合成项目，专注于实现零样本说话人克隆和语言风格控制。项目包含基线模型、VccmDataset数据集、评估指标和复现代码。通过解耦编解码器技术，ControlSpeech为研究人员和开发者提供了探索灵活语音合成的工具。该项目可应用于个性化语音助手、多语言配音等领域，为语音合成技术的研究和应用提供新的可能性。
speechbrain - 加速对话AI开发的开源PyTorch工具包
GithubPyTorchSpeechBrain人工智能开源项目聊天机器人语音处理
SpeechBrain是一个基于PyTorch的开源框架，专注于对话AI技术的快速开发，涵盖语音助手、聊天机器人和大型语言模型。该项目包含超过200个训练配方，覆盖40个数据集进行20种语音和文本处理任务。支持从零开始构建模型或微调如Whisper、Wav2Vec2等预训练模型。此外，SpeechBrain通过30多个Google Colab教程促进教育和学习，帮助用户深入了解对话AI系统。
speecht5_hifigan - 用于语音合成和声音转换的开源声码器
GithubHiFi-GANHuggingfaceSpeechT5声音转换开源项目文本转语音模型语音处理
SpeechT5 HiFi-GAN是一个专为SpeechT5文本转语音和声音转换模型开发的开源声码器。该项目采用MIT许可证，提供预训练权重，能够与SpeechT5的语音处理功能无缝集成。它为开发者和研究人员在语音合成和声音转换领域提供了实用工具。SpeechT5采用统一模态的编码器-解码器预训练方法，为口语处理技术开辟了新的研究方向。
TADA - 基于文本生成高品质可动画3D数字角色
3D头像生成GithubTADA人工智能动画化角色开源项目文本到3D模型
TADA是一个基于AI的系统，通过文本描述生成高质量、可动画化的3D数字角色。生成的角色具有精细的几何结构和纹理，可直接用于动画制作和渲染。该系统支持大规模角色资产创建，并允许通过自然语言编辑角色特征。TADA为游戏开发、电影制作和虚拟现实等领域提供了创新的角色创作解决方案。
DiffGesture - 音频驱动协同语音手势生成的扩散模型框架
AI动画Github开源项目扩散模型计算机视觉语音驱动手势生成跨模态学习
DiffGesture是一个基于扩散模型的框架，旨在生成与音频同步的协同语音手势。该框架通过扩散条件生成过程和音频-手势变换器捕捉跨模态关联，并使用手势稳定器和无分类器引导保持时间一致性。DiffGesture生成的手势具有良好的模式覆盖和音频相关性，在多个数据集上展现出优秀性能。
tacotron - 谷歌发展的全自动语音合成模型Tacotron
Brain teamsGithubGoogleSound UnderstandingTacotron开源项目语音合成
由Google的声音理解与大脑团队开发的Tacotron，是一款实现自动语音生成的模型。包含相关论文的音频样本。注意：此模型不是Google的官方产品。
TensorFlowTTS - TensorFlow 2驱动的多模型实时语音合成系统
GithubTensorFlowTTS多语言支持实时处理开源项目模型优化语音合成
探索TensorFlowTTS：快速、灵活的多语言语音合成平台，采用最新技术如Tacotron-2、MelGAN，可部署于移动设备，助力全球开发者创造多语种语音应用。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号