Project Icon

MuseTalk

音频驱动的实时高质量唇形同步模型

MuseTalk是一款实时高质量的音频驱动唇形同步模型,可在NVIDIA Tesla V100上以30fps+的速度运行。该模型能根据输入音频修改未见过的人脸,支持多种语言,并可调整面部区域中心点来影响生成效果。MuseTalk在HDTF数据集上训练,可与MuseV等虚拟人技术结合,为生成具全身动作和交互能力的虚拟人奠定基础。

ultravox - 实现实时语音交互的多模态大语言模型
GithubLlama 3Ultravox多模态LLM实时语音开源项目语音识别
Ultravox 是一个创新的多模态大语言模型,能直接理解文本和语音,无需单独的语音识别步骤。基于 Llama 3 模型,它通过多模态投影器将音频转换为高维空间。Ultravox 的首字响应时间约为 200 毫秒,每秒可生成约 100 个 token,有效支持实时语音交互。目前支持音频输入和文本输出,未来计划增加语音输出功能。
AI-Vtuber - 整合多模型的开源AI虚拟主播项目
GithubLuna AI人工智能开源项目直播平台自然语言处理虚拟主播
Luna AI是一个开源的AI虚拟主播项目,集成了多种大语言模型和外观技术。该系统支持Live2D、UE5等视觉呈现,使用文本转语音技术实现自然交流。Luna AI可在主流直播平台进行实时互动,并能与Stable Diffusion结合展示画作。这个免费开源项目为开发者和用户提供了全面的虚拟主播解决方案。
ultravox-v0_4 - 结合语音与文本处理的多模态模型
AI模型Fixie.aiGithubHuggingfaceUltravox多模态开源项目模型语音识别
Ultravox是一种多模态语言模型,结合了Llama3.1-8B和Whisper-medium技术,支持语音和文本的输入。通过特殊音频标记,该模型将音频转换为文本嵌入以生成输出。未来版本计划支持直接生成语音。Ultravox可以应用于语音代理、翻译和音频分析。模型使用多语种语音识别数据集进行训练,并在8x H100 GPU上运用BF16精度。最新版本在A100-40GB GPU上实现首次生成标记时间约为150毫秒。
MuseChat - AI角色定制平台 - 释放想象力的新方式
AI人物定制AI伴侣AI小说创作AI工具AI角色创建数字分身
MuseChat是一个创新的AI角色定制平台,支持用户设计和互动独特的AI角色。平台功能包括个性定制、背景故事上传和声音视觉特征添加。应用场景广泛,涵盖数字分身创建、AI辅助写作等。MuseChat致力于提供一个激发想象力的环境,实现AI角色创作的无限可能。
muse-maskgit-pytorch - 基于掩码生成变压器的PyTorch文本到图像生成框架
AI绘图GithubMaskGitMusePyTorch图像生成开源项目
muse-maskgit-pytorch是一个实现Muse: Text-to-Image Generation via Masked Generative Transformers的开源项目。该框架集成了VQGanVAE和MaskGit模型,支持基础图像生成和超分辨率处理。项目提供了完整的训练和生成流程,包括VAE训练、基础MaskGit和超分辨率MaskGit的使用方法,为研究人员提供了探索文本到图像生成技术的工具。
alltalk_tts - 开源多功能语音合成框架
APIAllTalkGithubTTS开源项目文本生成语音合成
AllTalk TTS是一个开源的语音合成框架,支持本地和自定义模型,提供API接口和第三方集成。它具备模型微调、批量生成、低显存模式等功能,可独立运行或与多种AI平台集成。该项目提供便捷安装工具、详细文档和清晰控制台输出,适用于多样化的语音合成应用场景。
TTS-Cube - 基于神经网络的端到端语音合成系统
GithubTTS-Cube开源项目神经网络端到端系统语音合成音频生成
TTS-Cube是一个基于神经网络的端到端语音合成系统,提供训练和部署TTS模型的完整流程。系统无需预对齐数据,仅通过字符或音素序列即可训练生成音频。它包含一个编码器模块,将输入序列转换为梅尔对数谱图,以及一个基于RNN的声码器模块。TTS-Cube采用轻量级架构和引导注意力技术,实现快速收敛。项目提供交互式演示、安装指南和训练实例。
metavoice-src - 1.2B参数开源TTS模型,支持情感语音合成和跨语言声音克隆
GithubMetaVoice-1BTTS开源开源项目情感语音语音克隆
MetaVoice-1B是一个开源的1.2B参数TTS模型,经过10万小时的语音训练,支持英语情感语音合成和零样本的美式和英式语音克隆(仅需30秒参考音频)。该模型还支持跨语言声音克隆和任意长度文本的语音合成。可通过云端或本地部署使用,并提供Hugging Face和Google Colab的演示。
speech-resynthesis - 基于离散解耦自监督表示的语音重合成技术
Github开源项目自监督学习表示学习语音合成语音编码语音重合成
该项目开发了一种新型语音重合成方法,采用自监督学习的离散表示技术,分别提取语音内容、韵律信息和说话人特征。这种方法实现了可控的语音合成,在重建质量和特征解耦方面表现优异。此外,该技术还可应用于超轻量级语音编解码,以365比特/秒的低比特率提供高质量语音输出。项目提供完整的训练和推理流程,兼容多种数据集和自监督学习方法。
FasterLivePortrait - 高效实时AI人像动画生成框架
AI换脸FasterLivePortraitGithubONNXTensorRT实时渲染开源项目
FasterLivePortrait是一个高效的实时AI人像动画生成框架。基于TensorRT优化,在RTX 3090 GPU上可实现30+ FPS的速度。支持ONNX模型转换,便于跨平台部署。主要特性包括原生gradio应用支持、多人脸同时推理和动物模型。项目提供Docker环境,支持Windows一键运行,并兼容macOS系统。该框架为开发者提供了灵活高效的实时人像动画生成功能。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号