Logo
Project Icon

MuseTalk

音频驱动的实时高质量唇形同步模型

MuseTalk实时唇形同步AI虚拟人音频驱动潜在空间修复Github开源项目

MuseTalk是一款实时高质量的音频驱动唇形同步模型,可在NVIDIA Tesla V100上以30fps+的速度运行。该模型能根据输入音频修改未见过的人脸,支持多种语言,并可调整面部区域中心点来影响生成效果。MuseTalk在HDTF数据集上训练,可与MuseV等虚拟人技术结合,为生成具全身动作和交互能力的虚拟人奠定基础。

访问官网访问官网GithubGithubHuggingfaceHuggingface
介绍相关项目
Real-Time-Voice-Cloning - 实时语音克隆与多声源文本到语音转换技术
GithubSV2TTS多说话者文本转语音合成实时语音克隆开源项目深度学习热门语音合成
Real-Time Voice Cloning是一个基于深度学习的实时语音克隆工具，能够通过简短语音样本快速创建个性化语音模型。项目实现了从说话人验证到多说话人文本到语音合成的框架（SV2TTS），并配备了实时工作的声码器。适用于需要个性化语音合成的开发者和研究人员，支持多种数据集，提供预训练模型以简化使用和实验过程。
ZMM-TTS - 零样本多语言多说话人语音合成技术创新
GithubZMM-TTS多语言多说话人开源项目自监督学习语音合成
ZMM-TTS是一个多语言多说话人语音合成框架，基于大规模预训练自监督模型的量化语音表示。该项目首次将文本和语音自监督学习模型的表示应用于多语言语音合成。实验表明，ZMM-TTS在六种高资源语言中，对已知和未知说话人都能生成自然度高、相似度好的语音。即使对缺乏训练数据的新语言，也能合成清晰且与目标说话人相似的音频。
AudioGPT - 多功能音频生成与理解平台，支持语音、音乐、音效及虚拟人对话
AudioGPTGithub开源项目语音增强语音识别音乐生成音频合成
AudioGPT 是一个多功能音频生成与理解平台，具备语音合成、语音识别、语音分离、风格迁移、声音检测、声音提取、文本到音频转换等功能，还支持音乐生成与虚拟人对话。集成了 FastSpeech、whisper、GeneFace 等多个领先的基础模型，AudioGPT 为开发者提供强大的开源工具和预训练模型，支持多种音频相关任务，不断扩展其功能和应用场景。此平台适合音频处理、自然语言处理及多模态研究的需求。
uLipSync - Unity口型同步资产 支持实时分析和预烘焙处理
GithubUnity动画唇形同步实时渲染开源项目音频分析
uLipSync是一款Unity口型同步资产,采用Job System和Burst Compiler技术提高性能。支持实时分析和预烘焙处理,可集成Timeline并转换为AnimationClip。系统支持角色配置文件创建、麦克风输入、VRM模型和WebGL。提供校准工具便于调整口型同步效果。
TensorVox - 用 C++ 编写的神经语音合成桌面应用程序
Coqui-TTSGithubTensorFlowTTSTensorVoxVITS开源项目神经语音合成
TensorVox是为提高神经语音合成技术普及度而设计的桌面应用。支持多语言，不需庞大Python库，该工具通过TensorFlow C API和LibTorch实现轻量级操作。提供清晰易懂的模型训练和导出指南，是语音技术爱好者的顶级选择。
ttts - 创新多语言语音合成技术的突破性进展
AI模型GithubTTSVQVAE声音合成多语言支持开源项目
TTTS_v4是一个开源的多语言语音合成项目，通过创新的'细节'建模方法改进了传统VQ技术。该项目现已支持中文、英文、日语和韩语，并具有扩展性。TTTS_v4整合了tokenizer训练、VQVAE训练和GPT语音合成技术，旨在生成高质量的自然语音。此外，项目还提供模型微调功能，适用于多种语言场景和个性化需求。
Linly-Talker - 智能数字人交互系统 打造个性化虚拟对话体验
GithubLinly-Talker人工智能多模态开源项目数字人对话系统语音交互
Linly-Talker整合了大型语言模型、语音识别、文本转语音和声音克隆等AI技术，提供了一个功能丰富的数字人对话系统。用户可通过web界面上传图片，与AI进行个性化对话。系统支持多模型集成和多轮对话，能创建逼真的数字人头像并实现实时交互。Linly-Talker旨在探索更先进的人机交互方式，为用户提供超越传统问答的智能对话体验。
FCH-TTS - 并行语音合成模型
GithubParallelTTS合成样例声码器开源项目语音合成预训练模型
FCH-TTS采用先进的并行语音合成技术，快速生成高质量语音。支持多语种及多种声音风格，满足多样化应用需求。项目持续迭代，引入诸如SoftDTW损失函数等新功能和优化，同时集成顶尖的声码器技术。FCH-TTS不仅提供预训练模型和丰富的合成示例，还允许用户自定义训练和合成，适用于教育、娱乐及商业多个领域。
Bert-VITS2-ext - 实现声音到脸部表情的同步生成的TTS及声音识别的应用
Bert-VITS2GithubTTS开源项目数据预处理表情生成音频质量
Bert-VITS2-ext 专注于TTS及声音识别的创新应用，实现声音到脸部表情的同步生成。该技术结合VITS，支持多语言，适用于复杂交互场景，为动画与虚拟互动领域开辟新可能。
Multilingual_Text_to_Speech - 多语言文本到语音合成技术
GithubMeta-learningTacotron 2多语言文本转语音开源项目神经网络模型语音合成
Multilingual_Text_to_Speech项目综合采用Tacotron 2模型与元学习技术，支持复杂的多语言语音合成实验，提供完善的编码器共享机制，并包含丰富的语言数据及互动示范，旨在推动学术研究及应用开发。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号