Project Icon

metahuman-stream

实时交互音视频同步对话的开源数字人项目

metahuman-stream是一个开源的实时交互数字人项目,支持音视频同步对话和多种数字人模型。项目具备声音克隆、说话打断和全身视频拼接等功能,支持rtmp和webrtc传输。系统集成了多种TTS模型和LLM对话功能,为数字人应用开发提供丰富选择。该项目适用于商业级数字人应用开发,支持视频编排等高级特性。

VideoChat - 通过GLM-4-Voice和级联语音方案实现低延迟交互的数字人对话系统
GLM-4-VoiceGithubMuseTalk开源项目数字人语音交互音色克隆
数字人对话系统提供支持实时语音交互的平台,采用GLM-4-Voice结合ASR-LLM-TTS-THG技术,实现低延迟和音色克隆。用户可选择端到端或级联系统,享受3秒首包延迟的优势。项目支持本地部署和多种推理方式,结合FunASR、Qwen和MuseTalk技术,提升视频和语音合成稳定性。该系统为开发者提供灵活高效的语音对话解决方案。
StreamSpeech - 在线和实时翻译模型
GithubStreamSpeech多任务学习实时合成开源项目语音翻译语音识别
StreamSpeech通过一个整合的模型,在线和实时翻译中展现行业领先水平,支持多达8种包括语音识别和语音转换任务。提供Web GUI演示,允许用户在浏览器中直接体验。探索StreamSpeech的功能和实例。
TalkingHead - 实时3D虚拟人物交互与唇形同步系统
3D头像GithubTalkingHeadWebGL唇形同步实时对话开源项目
TalkingHead是一个开源的JavaScript类,用于创建具有实时语音和唇形同步功能的3D虚拟形象。该系统集成了Ready Player Me全身3D头像和Mixamo动画,并支持字幕显示。借助Google Cloud TTS实现文本转语音,TalkingHead还提供英语、芬兰语和立陶宛语的内置唇形同步。通过ThreeJS/WebGL进行3D渲染,开发者可以将其轻松集成到各种网页应用中。
RealtimeSTT_LLM_TTS - 整合语音识别与AI对话的开源项目
GPU支持GithubRealtimeSTT唤醒词实时转录开源项目语音转文字
该项目集成语音识别、AI对话和语音合成,支持GPU加速以实现低延迟交互。具备语音检测、实时转录和唤醒词等功能,可用于开发语音助手和AI对话应用。Web界面支持个性化配置,适合快速构建语音交互系统。
metavoice-src - 1.2B参数开源TTS模型,支持情感语音合成和跨语言声音克隆
GithubMetaVoice-1BTTS开源开源项目情感语音语音克隆
MetaVoice-1B是一个开源的1.2B参数TTS模型,经过10万小时的语音训练,支持英语情感语音合成和零样本的美式和英式语音克隆(仅需30秒参考音频)。该模型还支持跨语言声音克隆和任意长度文本的语音合成。可通过云端或本地部署使用,并提供Hugging Face和Google Colab的演示。
video-retalking - 音频驱动的实时视频唇形同步编辑系统
AI技术GithubVideoReTalking人脸编辑唇形同步开源项目视频处理
VideoReTalking是一个创新系统,通过输入音频编辑真实世界说话人头视频的面部,生成高质量且唇形同步的输出视频。系统将任务分为三步:生成标准表情面部视频、实现音频驱动的唇形同步,以及增强面部真实感。整个过程采用基于机器学习的方法,无需人工干预即可自动完成。
Virtual-Human-for-Chatting - Unity驱动的实时交互Live2D虚拟人系统
APIGithubLive2DUnity开源项目聊天虚拟人物
Virtual-Human-for-Chatting项目是Unity驱动的实时交互Live2D虚拟人系统。整合Azure、OpenAI和APISpace API,提供虚拟人物对话、表情变化和人脸检测功能。项目附带详细部署指南和技术文档,面向研究人员和开发者需求。支持1920*1080高清分辨率,采用OpenCVPlusUnity等开源计算机视觉工具。遵循MIT许可证,同时尊重模型和美术资源版权。
whisper_streaming - 基于Whisper的实时语音转录和翻译开源系统
GithubWhisper多语言实时转录开源项目流式处理语音识别
whisper_streaming是基于Whisper模型的实时语音转录和翻译系统。该项目采用本地协议和自适应延迟实现流式转录,在长篇未分段语音测试中实现高质量转录,延迟仅3.3秒。系统提供多种后端选择,支持GPU加速,适用于多语言会议实时转录。项目还提供灵活API,便于开发者集成到不同应用场景。
MuseTalk - 音频驱动的实时高质量唇形同步模型
AI虚拟人GithubMuseTalk实时唇形同步开源项目潜在空间修复音频驱动
MuseTalk是一款实时高质量的音频驱动唇形同步模型,可在NVIDIA Tesla V100上以30fps+的速度运行。该模型能根据输入音频修改未见过的人脸,支持多种语言,并可调整面部区域中心点来影响生成效果。MuseTalk在HDTF数据集上训练,可与MuseV等虚拟人技术结合,为生成具全身动作和交互能力的虚拟人奠定基础。
videollm-online - 流式视频实时理解与交互的先进模型
GithubVideoLLM-online大语言模型实时交互开源项目流媒体视频视频处理
VideoLLM-online是一款针对流媒体视频的在线大语言模型。该模型支持视频流实时交互,可主动更新响应,如记录活动变化和提供实时指导。项目通过创新的数据合成方法将离线注释转化为流式对话数据,并采用并行化推理技术实现高速处理,在A100 GPU上处理速度可达10-15 FPS。VideoLLM-online在在线和离线环境中均表现出色,能高效处理长达10分钟的视频,为视频理解与交互领域带来新的可能性。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号