Project Icon

clap-htsat-fused

对比语言与音频学习中的多任务性能提升

CLAP项目使用对比语言-音频预训练模型结合音频编码器与文本编码器,提升多模态学习表现。该模型支持文本到音频检索、零样本音频分类及监督音频分类等多项任务。通过特征融合机制和关键词到字幕增强,CLAP能高效处理不同长度的音频输入。所发布的LAION-Audio-630K数据集及模型在文本到音频检索和零样本音频分类中表现优异,适用于零样本音频分类及音频、文本特征提取。

stable-audio-metrics - 音频生成模型评估指标集合
GPU支持Githubstable-audio-metrics开源项目数据结构音频指标音频生成模型评估
stable-audio-metrics是一个评估音乐和音频生成模型的开源指标集合。它包含基于Openl3的Fréchet距离、基于PaSST的Kullback-Leibler散度和基于CLAP-LAION的CLAP分数。该项目针对长形式全频带立体声生成进行了优化,支持可变长度输入,并提供了详细文档和示例。适用于评估MusicCaps、AudioCaps和Song Describer等数据集的音频生成质量。
metavoice-src - 1.2B参数开源TTS模型,支持情感语音合成和跨语言声音克隆
GithubMetaVoice-1BTTS开源开源项目情感语音语音克隆
MetaVoice-1B是一个开源的1.2B参数TTS模型,经过10万小时的语音训练,支持英语情感语音合成和零样本的美式和英式语音克隆(仅需30秒参考音频)。该模型还支持跨语言声音克隆和任意长度文本的语音合成。可通过云端或本地部署使用,并提供Hugging Face和Google Colab的演示。
Video-LLaVA-7B - 统一图像和视频处理的多模态AI模型
GithubHuggingfaceVideo-LLaVA多模态模型大语言模型开源项目模型视觉语言处理视频理解
Video-LLaVA是一种新型多模态AI模型,采用对齐后投影方法学习统一视觉表示。该模型能同时处理图像和视频,具备出色的视觉推理能力。即使没有图像-视频配对数据,Video-LLaVA也能实现图像和视频间的有效交互。通过将统一视觉表示与语言特征空间绑定,该模型在多模态学习和各类视觉任务中展现优异性能。
multimodal - PyTorch多模态模型开发框架
GithubPyTorchTorchMultimodal多模态模型开源项目机器学习深度学习
TorchMultimodal是基于PyTorch的多模态模型开发框架,提供模块化构建块和预训练模型,支持ALBEF、BLIP-2、CLIP等多种架构。该框架包含训练、微调和评估示例,可用于构建内容理解和生成模型。TorchMultimodal整合了PyTorch生态系统,便于研究人员复现和开发先进的多模态多任务模型。
XTTS-v2 - 多语言语音克隆与生成的开源解决方案
CoquiGithubHuggingfaceⓍTTS声音克隆多语言支持开源项目模型语音生成
XTTS-v2是一个开源的语音生成模型,通过6秒音频实现跨语言声音克隆。支持17种语言,包括新增的匈牙利语和韩语。模型优化了说话人条件设置,提升了音质和韵律表现。适用于文本到语音转换、语音克隆等场景,采用Coqui公共模型许可证。
audio-ai-timeline - 音频AI领域2023年重大进展及模型概览
AI音频生成Github开源项目扩散模型文本转语音深度学习音乐生成
Audio AI Timeline项目追踪2023年音频生成领域AI模型进展。涵盖MusicLM、AudioLDM 2等重要模型,展示文本到音频、音乐生成和语音合成技术发展。项目记录模型发布日期、论文、代码和训练资源,为音频AI领域研究者和开发者提供参考。
hubert-xlarge-ls960-ft - 采用大规模LibriSpeech数据集微调的HuBERT模型,展示前沿语音识别性能
GithubHubertHuggingface开源项目模型聚类自动语音识别自监督学习语音表示学习
HuBERT模型通过LibriSpeech数据集上的960小时微调,提供准确的自动语音识别功能。解决大声单元处理、无词汇表和声单元长度可变等挑战,并在多项基准测试中与wav2vec 2.0性能相当或更优。通过自监督学习和离线聚类,得益于1B参数模型,显著降低了错误率,成为语音识别的关键突破方法。
llava-v1.6-34b-hf - 图像与文本交互的多模态AI模型
GithubHuggingfaceLLaVa-NeXTNous-Hermes-2-Yi-34B光学字符识别多模态聊天机器人开源项目模型视觉指令微调
LLaVa-NeXT模型结合大规模语言模型与视觉编码器,通过提高图像分辨率和优化数据集,增强了OCR和常识推理能力,适用于多模态对话应用场景。支持图像字幕生成和视觉问答,提供双语功能与商业许可保障。
Video-LLaVA - 统一视觉表示学习的新方法 增强跨模态交互能力
GithubVideo-LLaVA图像理解多模态开源项目视觉语言模型视频理解
Video-LLaVA项目提出了一种新的对齐方法,实现图像和视频统一视觉表示的学习。该模型在无图像-视频配对数据的情况下,展现出色的跨模态交互能力,同时提升图像和视频理解性能。研究显示多模态学习的互补性明显改善了模型在各类视觉任务上的表现,为视觉-语言模型开发提供新思路。
Wav2Lip - 先进的AI视频口型同步技术
GithubWav2Lip唇形同步开源项目深度学习视频处理音频处理
Wav2Lip是一个开源项目,采用先进的人工智能技术实现高精度的视频口型同步。该技术适用于各种身份、声音和语言,包括CGI人脸和合成语音。项目提供完整的训练和推理代码以及预训练模型,方便用户将任意音频与视频进行口型同步。Wav2Lip在多个基准数据集上展现出领先性能,为视频制作和内容创作领域提供了有力支持。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号
\"}]}]\n21:null\n"])