speech-driven-animation

语音驱动的端到端面部动画合成模型

Speech-Driven Animation 视频动画人脸合成语音驱动深度学习 Github 开源项目

Speech-Driven Animation是一个开源项目，实现语音驱动的端到端面部合成模型。该项目根据输入图像和音频生成面部动画视频，支持GRID、TIMIT和CREMA等预训练模型。通过API可输入自定义音频和图像，输出同步动画视频。项目还提供音频和视频编码器，可用于特征提取和分类任务。

Github

论文

介绍相关项目

AI-Powered-Video-Tutorial-Generator - 自动生成视频教程的AI工具具备角色动画和幻灯片功能

AI视频教程Github字符动画幻灯片开源项目自定义内容语音合成

AI-Powered-Video-Tutorial-Generator是一款自动生成视频教程的AI工具。它使用Cohere语言模型生成脚本,通过Edge TTS提供配音,利用SadTalker实现角色面部动画,并整合Google图片作为幻灯片。该工具允许调整创意度、幽默感、解释深度、角色外观和声音,以制作个性化的教学视频。它采用FastAPI作为后端,Next.js作为前端,为视频教程制作提供了灵活的平台。

MuseTalk - 音频驱动的实时高质量唇形同步模型

AI虚拟人GithubMuseTalk实时唇形同步开源项目潜在空间修复音频驱动

MuseTalk是一款实时高质量的音频驱动唇形同步模型,可在NVIDIA Tesla V100上以30fps+的速度运行。该模型能根据输入音频修改未见过的人脸,支持多种语言,并可调整面部区域中心点来影响生成效果。MuseTalk在HDTF数据集上训练,可与MuseV等虚拟人技术结合,为生成具全身动作和交互能力的虚拟人奠定基础。

StyleSpeech - 多说话人自适应文本转语音生成

GithubMeta-StyleSpeech开源项目文本到语音自适应音质预训练模型

Meta-StyleSpeech项目结合最新的多说话者适应性文本到语音合成技术，通过样本少量的语音输入即可生成高质量合成语音。该项目运用风格自适应层归一化技术，高效适配不同说话者的声音特征。提供预训练模型和在线演示供实际应用测试。

AnimationGPT - 基于文本生成战斗风格角色动画的开源项目

AnimationGPTCombatMotionGithubMotionGPT动作数据集开源项目文本生成动画

AnimationGPT是一个开源项目，致力于基于文本生成战斗风格的角色动画。该项目基于MotionGPT技术，开发了首个专用于战斗风格的角色动画数据集CombatMotion。项目提供了经处理的CMP数据集和原始CMR数据集，并使用多种算法训练了模型。通过生成多样化、高质量的战斗动画，AnimationGPT为游戏开发和动画制作领域带来了新的可能性。

Bert-VITS2-ext - 实现声音到脸部表情的同步生成的TTS及声音识别的应用

Bert-VITS2GithubTTS开源项目数据预处理表情生成音频质量

Bert-VITS2-ext 专注于TTS及声音识别的创新应用，实现声音到脸部表情的同步生成。该技术结合VITS，支持多语言，适用于复杂交互场景，为动画与虚拟互动领域开辟新可能。

first-order-model - First Order Motion Model：图像动画的高效解决方案

DockerFirst Order Motion ModelGithubPython图像动画开源项目数据集

First Order Motion Model项目提供了一种先进的图像动画运动模型，通过驾驶视频和源图像生成逼真的动画序列。支持包括VoxCeleb、Fashion和MGIF在内的多种数据集，提供详细的安装和使用指南。项目支持Python和Docker，确保了环境兼容性，还提供Colab和Kaggle的在线演示。此外，该项目还具备面部交换功能，适用于监督和非监督的视频编辑任务。

mandarin-tts - 模块化的中文文本到语音合成框架

AI绘图Githubgithubmandarin-ttsvocoder开源项目语音合成

mandarin-tts是一个模块化的中文文本到语音合成框架，适用于加速科研和产品开发。它的主要特点包括模块化配置、多样的声码器支持以及丰富的嵌入选项，如说话人、韵律和文本嵌入。此外，该框架还支持预测语音的持续时间、音调和能量变化，通过开源合作进一步拓展其功能。框架提供多数据集的音频样本和预训练模型，方便用户使用和进一步开发。此外通过正确使用专有名词，如YAML配置文件，并加入客观描述，提供高效的开发工具给研究人员和开发者。

speecht5_tts - 基于统一模态预训练的高效语音合成模型

GithubHuggingfaceSpeechT5开源项目文本转语音模型语音合成语音处理预训练模型

SpeechT5是一个基于统一模态预训练框架的语音合成模型。它通过大规模未标记语音和文本数据学习统一表示，提升了语音和文本的建模能力。该模型在语音识别、合成、翻译等多项任务中表现优异。研究者可使用Hugging Face Transformers库轻松实现文本到语音转换，或针对特定需求进行模型微调。SpeechT5为语音处理领域提供了强大而灵活的解决方案。

DreamFace - AI驱动的照片动画和文字转语音工具

AI创意工作室AI头像AI工具AI肖像AI语音DreamFace

DreamFace是一款AI驱动的照片动画和文字转语音应用。主要功能包括AI人像动画制作、静态照片转动态视频、AI语音合成等。适用于社交媒体内容创作、演示制作和教育资料制作等场景。该应用还提供一键生成AI头像、制作个性化生日祝福和创建表情包等功能。简单操作即可创建专业效果，DreamFace为用户提供了多样化的创意工具，满足不同的内容创作需求。

AudioLDM2 - 多功能文本到音频生成开源项目

AudioLDM 2Github人工智能开源项目文本生成音频深度学习音频合成

AudioLDM2是一个开源的文本到音频生成项目，支持创建音效、音乐和语音。该模型能生成超过10秒的音频，输出高达48kHz的高保真音频，并与Hugging Face Diffusers库集成。AudioLDM2提供多个预训练检查点，适用于不同生成任务，支持CPU、CUDA和MPS设备。用户可通过命令行或Web应用程序使用，提供灵活的音频生成选项。项目还包括随机种子调整功能，可优化不同硬件上的性能表现。支持批量生成和自动质量控制，允许用户生成多个候选音频并选择最佳结果。此外，项目提供了详细的使用说明和参数设置选项，方便用户根据需求调整生成过程。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com