Project Icon

Wav2Lip

先进的AI视频口型同步技术

Wav2Lip是一个开源项目,采用先进的人工智能技术实现高精度的视频口型同步。该技术适用于各种身份、声音和语言,包括CGI人脸和合成语音。项目提供完整的训练和推理代码以及预训练模型,方便用户将任意音频与视频进行口型同步。Wav2Lip在多个基准数据集上展现出领先性能,为视频制作和内容创作领域提供了有力支持。

speech-resynthesis - 基于离散解耦自监督表示的语音重合成技术
Github开源项目自监督学习表示学习语音合成语音编码语音重合成
该项目开发了一种新型语音重合成方法,采用自监督学习的离散表示技术,分别提取语音内容、韵律信息和说话人特征。这种方法实现了可控的语音合成,在重建质量和特征解耦方面表现优异。此外,该技术还可应用于超轻量级语音编解码,以365比特/秒的低比特率提供高质量语音输出。项目提供完整的训练和推理流程,兼容多种数据集和自监督学习方法。
audio-ai-timeline - 音频AI领域2023年重大进展及模型概览
AI音频生成Github开源项目扩散模型文本转语音深度学习音乐生成
Audio AI Timeline项目追踪2023年音频生成领域AI模型进展。涵盖MusicLM、AudioLDM 2等重要模型,展示文本到音频、音乐生成和语音合成技术发展。项目记录模型发布日期、论文、代码和训练资源,为音频AI领域研究者和开发者提供参考。
Digital-Life-DL-B - 数字形象解决方案,结合ChatGLM、Wav2lip和so-vits-svc技术
AI学社ChatGLMDL-BGithubWav2Lipso-vits-svc开源项目
DL-B是一个开源的数字形象解决方案,结合了ChatGLM、Wav2lip和so-vits-svc技术。目前,项目正处于比赛阶段,计划在比赛结束后发布优化版及详细代码。硬件需求为RTX 3060显卡和Intel i5-12400F CPU,系统环境为Python 3.9.13。未来项目将由AI学社负责,致力于用户友好框架的开发。诚邀技术爱好者提供优化建议并参与完善项目。
TalkingHead - 实时3D虚拟人物交互与唇形同步系统
3D头像GithubTalkingHeadWebGL唇形同步实时对话开源项目
TalkingHead是一个开源的JavaScript类,用于创建具有实时语音和唇形同步功能的3D虚拟形象。该系统集成了Ready Player Me全身3D头像和Mixamo动画,并支持字幕显示。借助Google Cloud TTS实现文本转语音,TalkingHead还提供英语、芬兰语和立陶宛语的内置唇形同步。通过ThreeJS/WebGL进行3D渲染,开发者可以将其轻松集成到各种网页应用中。
Video-LLaMA - 指令微调的音视频语言模型实现多模态视频理解
AI对话GithubVideo-LLaMA多模态开源项目视频理解语言模型
Video-LLaMA是一个多模态AI项目,为大型语言模型赋予视频和音频理解能力。该项目基于BLIP-2和MiniGPT-4构建,包含视觉-语言和音频-语言两个分支。经过大规模视频和图像数据预训练及指令微调后,Video-LLaMA能够进行视频分析、音频理解和多轮对话。该模型支持英文和中文交互,为视频内容分析提供了新的AI解决方案。
EMO - 音频驱动的富表情肖像视频生成模型
EMOGithub人像视频生成开源项目扩散模型表情合成音频到视频转换
EMO是一种音频到视频的扩散模型,可在弱条件下生成表现力丰富的肖像视频。该项目由阿里巴巴智能计算研究院开发,将音频输入转化为面部表情和头部动作,增强数字人物的自然度和情感表达。EMO技术在虚拟主播和数字人互动等领域具有应用潜力,可提供更真实的视觉体验。
IP_LAP - 基于身份保持的说话人脸生成新方法
CVPR 2023Github开源项目深度学习计算机视觉说话人脸生成身份保持
IP_LAP (Identity-Preserving Talking Face Generation with Landmark and Appearance Priors) 项目提出新型说话人脸生成方法,结合地标和外观先验实现身份保持。该技术在CVPR 2023发表,开源代码和预训练模型。研究团队使用LRS2数据集和PyTorch框架,在身份一致性和自然表情生成方面取得进展。
diffwave - 神经网络驱动的语音及波形快速合成技术
DiffWaveGithub开源项目波形合成器神经声码器语音合成预训练模型
DiffWave是一种基于迭代精细化的神经语音合成器,能从高斯噪声生成语音。支持多GPU和混合精度训练,提供命令行和程序化推理接口,并配有模型和音频样本。
AudioGPT - 多功能音频生成与理解平台,支持语音、音乐、音效及虚拟人对话
AudioGPTGithub开源项目语音增强语音识别音乐生成音频合成
AudioGPT 是一个多功能音频生成与理解平台,具备语音合成、语音识别、语音分离、风格迁移、声音检测、声音提取、文本到音频转换等功能,还支持音乐生成与虚拟人对话。集成了 FastSpeech、whisper、GeneFace 等多个领先的基础模型,AudioGPT 为开发者提供强大的开源工具和预训练模型,支持多种音频相关任务,不断扩展其功能和应用场景。此平台适合音频处理、自然语言处理及多模态研究的需求。
hallo - 分层音频驱动人像动画合成框架
AI动画GithubHallo人像动画开源项目视频合成语音驱动
Hallo是一个分层音频驱动的视觉合成框架,用于生成人像图像动画。该框架可根据输入音频创建高质量的说话头像视频,支持重现多种经典电影场景。Hallo采用分层设计,整合多个先进模型,实现精细的面部表情和唇形同步。项目提供完整的训练和推理代码,适用于多种应用场景。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号