Logo
Project Icon

MuseTalk

音频驱动的实时高质量唇形同步模型

MuseTalk实时唇形同步AI虚拟人音频驱动潜在空间修复Github开源项目

MuseTalk是一款实时高质量的音频驱动唇形同步模型,可在NVIDIA Tesla V100上以30fps+的速度运行。该模型能根据输入音频修改未见过的人脸,支持多种语言,并可调整面部区域中心点来影响生成效果。MuseTalk在HDTF数据集上训练,可与MuseV等虚拟人技术结合,为生成具全身动作和交互能力的虚拟人奠定基础。

访问官网访问官网GithubGithubHuggingfaceHuggingface
介绍相关项目
Talking_Face_Avatar - 将单张肖像图片转换为说话视频的开源AI项目
AI绘图GithubSadTalker人脸动画开源项目深度学习语音合成
Talking_Face_Avatar是一个开源AI项目，能将单张肖像图片和音频转换为逼真的说话视频。项目整合了Leonardo.ai的图像生成和ElevenLabs的语音合成技术，支持静态、参考和调整大小等多种模式。除了生成说话头视频外，还可制作全身视频，并通过GFPGAN等工具提升视频质量。项目适用于Linux系统，提供WebUI和API接口，方便开发者和创作者使用。
RealtimeSTT_LLM_TTS - 整合语音识别与AI对话的开源项目
GPU支持GithubRealtimeSTT唤醒词实时转录开源项目语音转文字
该项目集成语音识别、AI对话和语音合成,支持GPU加速以实现低延迟交互。具备语音检测、实时转录和唤醒词等功能,可用于开发语音助手和AI对话应用。Web界面支持个性化配置,适合快速构建语音交互系统。
metahuman-stream - 实时交互音视频同步对话的开源数字人项目
AI模型Github交互流式开源项目数字人视频处理音视频同步
metahuman-stream是一个开源的实时交互数字人项目，支持音视频同步对话和多种数字人模型。项目具备声音克隆、说话打断和全身视频拼接等功能，支持rtmp和webrtc传输。系统集成了多种TTS模型和LLM对话功能，为数字人应用开发提供丰富选择。该项目适用于商业级数字人应用开发，支持视频编排等高级特性。
talk-llama-fast - 开源AI语音对话系统 支持多语言实时交互及视频生成
AI对话Githubtalk-llama-fast开源项目视频生成语音合成语音识别
talk-llama-fast是一个开源的AI语音对话系统,支持实时语音识别、自然语言生成和语音合成,可进行多语言交互。系统集成了视频生成功能,能创建与音频同步的唇形动画。采用流式处理和激进VAD等优化技术,实现低延迟响应。提供多种语音命令和中断机制,增强交互体验。适用于开发AI助手、虚拟角色等应用。
Awesome-Talking-Head-Synthesis - 最新音频驱动和神经辐射场技术在数字人头像生成中的应用
3DGithubNeRFTalking Head Synthesis开源项目数据集音频驱动
这个项目收集了生成对抗网络(GANs)和神经辐射场(NeRF)在说话头合成领域的相关研究。内容包括图像和音频驱动的说话头生成技术、数据集、研究综述和代表性工作。从2D到3D、单模态到多模态,项目全面展示了说话头生成的技术发展,为相关研究提供参考资料。
VideoChat - 通过GLM-4-Voice和级联语音方案实现低延迟交互的数字人对话系统
GLM-4-VoiceGithubMuseTalk开源项目数字人语音交互音色克隆
数字人对话系统提供支持实时语音交互的平台，采用GLM-4-Voice结合ASR-LLM-TTS-THG技术，实现低延迟和音色克隆。用户可选择端到端或级联系统，享受3秒首包延迟的优势。项目支持本地部署和多种推理方式，结合FunASR、Qwen和MuseTalk技术，提升视频和语音合成稳定性。该系统为开发者提供灵活高效的语音对话解决方案。
TalkingGaussian - 结构持久性3D会说话头像合成的高斯散射方法
3D说话头合成GithubTalkingGaussian开源项目深度学习计算机视觉高斯散射
TalkingGaussian项目展示了一种新型3D会说话头像合成技术，基于高斯散射方法实现结构持久性。该项目包含完整的处理流程，涵盖视频预处理、音频特征提取和模型训练。系统支持目标音频推理，生成结构稳定且口型同步的逼真说话头像。项目提供了详细的安装指南、数据准备步骤和使用说明，便于研究人员进行实验和开发。
TensorFlowTTS - TensorFlow 2驱动的多模型实时语音合成系统
GithubTensorFlowTTS多语言支持实时处理开源项目模型优化语音合成
探索TensorFlowTTS：快速、灵活的多语言语音合成平台，采用最新技术如Tacotron-2、MelGAN，可部署于移动设备，助力全球开发者创造多语种语音应用。
open-muse - 开源项目MUSE模型重现，用于高效文本到图像生成
GithubHuggingfaceMUSEVQGANopen-musetransformer开源项目
open-muse项目致力于重现Transformer MUSE模型，通过LAION-2B和COYO-700M数据集的训练，提供简单且可扩展的代码库。项目包括在Imagenet上训练类别条件模型、在CC12M上进行文本到图像实验，以及训练改进的VQGAN模型，所有结果将上传至Huggingface的openMUSE组织。支持的模型包括MaskGitTransformer和VQGAN，方便使用并可在Huggingface hub上加载和保存。
Imitator - 个性化语音驱动3D面部动画生成系统
3D面部动画GithubICCV 2023Imitator个性化开源项目语音驱动
Imitator是一个3D面部动画生成系统，能将个人语音转化为逼真的面部表情。该项目基于深度学习技术，实现了语音到面部动作的精确映射。Imitator提供通用模型和个性化训练方法，可适应不同说话者的特征。这项技术可应用于虚拟现实、电影制作和人机交互等领域。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号