Project Icon

speech-separation-ami-1.0

基于pyannote.audio的多说话人语音分离与分类系统

这是一个基于pyannote.audio的开源项目,实现了同步的说话人分类和语音分离功能。系统接收16kHz采样率的单声道音频,输出说话人分类结果和分离后的语音。该项目由Joonas Kalda基于AMI数据集开发,适用于实际多说话人场景。项目提供简洁的Python接口,支持GPU加速和内存处理,为语音分析提供了实用解决方案。

parler-tts-large-v1 - 开源大规模语音合成模型支持自然语言控制和多人声定制
GithubHuggingfaceParler TTS人工智能开源项目模型自然语言处理语音合成音频生成
Parler-TTS Large v1是一个基于22亿参数、45K小时音频数据训练的文本转语音模型。通过文本提示可控制语音的性别、噪音、语速等特征,内置34个预设发音人。项目开源了完整训练资源和数据处理代码,采用Apache 2.0许可证发布。
SpeechTokenizer - 将语音标记化统一的开源工具
GithubRVQSpeechTokenizer开源项目语音信息处理语音标记器语音语言模型
SpeechTokenizer 是一个开源的语音标记化工具,采用编码器-解码器架构和残差向量量化技术,统一了语义和声学标记。该项目能够分层分离语音信息的不同方面,为语音语言模型提供更精确的输入。它提供了在 LibriSpeech 和 Common Voice 数据集上训练的模型,支持 16kHz 单声道语音处理。项目开源了训练代码和预训练模型,可用于语音处理研究和应用开发。
wavlm-base - 适用于多语音任务的自监督预训练模型
GithubHuggingfaceLibriSpeechWavLM开源项目模型自监督学习语音识别音频分类
WavLM是基于自监督学习的语音预训练模型,旨在支持多种语音任务。模型在960小时Librispeech数据集上进行预训练,适用于语音识别和分类等任务,需在下游任务中微调。WavLM通过门控相对位置偏置和发音混合训练策略,强调说话者身份保留和内容建模,在SUPERB基准测试中表现优异。模型主要在英语环境中有良好表现,但目标是提供全语言栈的统一表示。
AniPortrait - 基于音频的高质量肖像动画生成框架
AniPortraitGithub人像动画人工智能图像合成开源项目音频驱动
AniPortrait是一个基于音频和参考肖像图像生成高质量动画的开源框架。该项目支持自驱动、面部重演和音频驱动三种模式,可生成逼真的肖像动画。项目开源了预训练模型,并提供了详细的安装指南、推理命令和训练流程。AniPortrait为数字内容创作者提供了一种制作生动肖像动画的新方法,拓展了视觉内容创作的可能性。
EchoMimic - 音频驱动的逼真人像动画系统 支持关键点编辑
AI模型EchoMimicGithub关键点条件开源项目肖像动画音频驱动
EchoMimic是一个音频驱动的人像动画系统,通过编辑关键点来控制动画效果。系统支持英语和中文音频输入,可生成自然的口型、表情和头部动作。项目开源了推理代码和预训练模型,可用于生成高质量的说话头视频,适用于虚拟主播等应用场景。
video-retalking - 音频驱动的实时视频唇形同步编辑系统
AI技术GithubVideoReTalking人脸编辑唇形同步开源项目视频处理
VideoReTalking是一个创新系统,通过输入音频编辑真实世界说话人头视频的面部,生成高质量且唇形同步的输出视频。系统将任务分为三步:生成标准表情面部视频、实现音频驱动的唇形同步,以及增强面部真实感。整个过程采用基于机器学习的方法,无需人工干预即可自动完成。
nnAudio - 基于PyTorch的快速GPU音频处理工具箱
GPUGithubPyTorchnnAudio开源项目音频处理频谱图
nnAudio是一款基于PyTorch的音频处理工具箱,利用卷积神经网络实现实时频谱图生成和傅里叶核心训练。它具备跨平台兼容性、可训练性和可微分性,支持STFT、梅尔频谱、MFCC、CQT等多种音频处理功能。相比传统工具,nnAudio在GPU上提供更高效的音频分析和处理方案。
wavlm-base-plus-sv - 面向说话人验证的先进语音模型
GithubHuggingfaceWavLM开源项目模型自监督学习语音识别说话人验证预训练模型
WavLM-Base-Plus-SV是一款专为说话人验证优化的预训练语音模型。基于HuBERT框架,通过创新的门控相对位置偏置和话语混合训练,显著提升了语音内容和说话人特征的建模能力。经过94000小时语音数据预训练和VoxCeleb1数据集微调,该模型在SUPERB基准测试中展现出卓越性能。它能够有效提取说话人嵌入向量,适用于相似度检索和说话人验证等多种应用场景。
speakerverification_en_titanet_large - NVIDIA TitaNet-Large英语说话人识别模型
GithubHuggingfaceNeMoTitaNet开源项目模型语音识别说话人识别说话人验证
NVIDIA TitaNet-Large是一个专为英语说话人验证和分割设计的深度学习模型。它采用深度可分离1D卷积架构,参数量约23M,能从16kHz单声道音频中提取说话人特征。模型在VoxCeleb1等数据集上表现优异,可通过NVIDIA NeMo工具包进行推理和微调。适用于说话人验证、分割等多种语音识别任务。
tensorflow-speech-recognition - 开源TensorFlow中的语音识别示例
DeepSpeechGithubTensorflowWhisper开源项目深度学习语音识别
使用谷歌的TensorFlow框架进行语音识别,最初目标是为Linux系统创建独立的语音识别模型。尽管该项目现主要用于教学,开发者展示了使用开源数据和强大模型实现高效语音识别的潜力。推荐查看更新项目如Whisper和Mozilla的DeepSpeech,这两个项目在错误率方面的表现出色。该项目包含示例代码、依赖安装指导及功能扩展,如GPU上的WarpCTC和P2P学习模块。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号