Project Icon

SALMONN

通用听觉能力赋能大语言模型 实现音频输入的多模态理解

SALMONN是清华大学和字节跳动共同开发的大语言模型,能处理语音、音频和音乐输入。通过结合Whisper和BEATs编码器,SALMONN实现了多语言语音识别、翻译和音频-语音推理等功能。该模型可理解多种音频输入并执行文本和语音指令,展现了跨模态能力,推动了具听觉能力的人工智能发展。

faster-whisper-large-v2 - 多语言语音识别模型 支持高效转录和翻译
CTranslate2GithubHuggingfaceWhisper开源项目模型模型转换自然语言处理语音识别
faster-whisper-large-v2是基于OpenAI Whisper large-v2模型转换的CTranslate2格式语音识别模型。该模型支持100多种语言的音频转录和翻译,性能高效且语言覆盖范围广泛。开发者可通过faster-whisper库轻松使用,实现强大的多语言语音处理。模型采用FP16格式保存权重,可在加载时根据需求调整计算类型,适应不同应用场景。
ultravox - 实现实时语音交互的多模态大语言模型
GithubLlama 3Ultravox多模态LLM实时语音开源项目语音识别
Ultravox 是一个创新的多模态大语言模型,能直接理解文本和语音,无需单独的语音识别步骤。基于 Llama 3 模型,它通过多模态投影器将音频转换为高维空间。Ultravox 的首字响应时间约为 200 毫秒,每秒可生成约 100 个 token,有效支持实时语音交互。目前支持音频输入和文本输出,未来计划增加语音输出功能。
seamless_communication - AI多语言实时表情语音翻译系统
AI模型GithubSeamless多语言翻译实时翻译开源项目语音翻译
Seamless Communication项目开发了一系列AI模型,包括SeamlessM4T、SeamlessExpressive和SeamlessStreaming,支持近100种语言的多模态、实时和富有表现力的翻译。该项目通过开源工具和数据集,为研究人员和开发者提供了强大的序列建模组件,推动了更自然、真实的跨语言交流技术发展。
distil-whisper - 快速高效的音频转录模型
Distil-WhisperGithub开源项目机器学习模型压缩自然语言处理语音识别
Distil-Whisper是OpenAI Whisper模型的蒸馏版本,速度提升6倍,模型规模缩小49%,同时保持了相近的准确性。该项目支持短语音和长语音转录,提供多个针对英语语音识别的高效模型。Distil-Whisper还可作为Whisper的辅助模型实现推测解码,在保证输出一致性的同时将速度提升2倍。
nb-whisper-large-beta - 挪威国家图书馆开发的多语言语音识别模型NB-Whisper
GithubHuggingfaceNB-Whisper人工智能开源项目挪威语机器学习模型语音识别
NB-Whisper是挪威国家图书馆开发的自动语音识别和语音翻译模型系列。基于OpenAI的Whisper架构,使用20,000小时标注数据训练,支持挪威语、挪威博克马尔语、挪威尼诺斯克语和英语。该模型能将口语转换为语法正确的书面语句,目前处于公开测试阶段,提供从tiny到large共5种规模可供选择。NB-Whisper在挪威语语音识别领域达到了最先进水平,但仍存在幻觉和丢失部分转录内容的问题。
faster-whisper-medium - CTranslate2优化的Whisper medium模型支持多语言音频处理
CTranslate2GithubHuggingfaceWhisper开源项目机器翻译模型模型转换语音识别
这是OpenAI Whisper medium模型的CTranslate2优化版本,支持100多种语言的音频转录和识别。模型采用float16量化,通过faster-whisper库易于集成。它具有高效的推理速度和较小的内存占用,适合快速、准确处理多语言音频的应用场景。用户可根据需求调整计算类型,平衡性能和资源消耗。该模型为开发者提供了灵活、高效的多语言音频处理解决方案。
Qwen-Audio-Chat - 多模态音频语言模型支持多种音频类型和复杂场景分析
GithubHuggingfaceQwen-Audio多任务学习多模态开源项目模型语音识别音频语言模型
Qwen-Audio-Chat是一款大规模音频语言模型,支持多种音频输入和文本输出。该模型采用创新的多任务学习框架,可处理30多种音频任务,在多个基准测试中表现优异。它能够支持多轮对话、声音理解、音乐欣赏等复杂场景,为音频AI研究和应用提供了有力工具。Qwen-Audio-Chat已开源模型代码和权重,并允许商业使用,推动了音频AI技术的发展。
WhisperLive - 基于OpenAI Whisper模型开发的实时音频转写应用
GithubOpenAI WhisperTensorRTWhisperLive多语言模型实时语音识别开源项目
WhisperLive是基于OpenAI Whisper模型开发的实时音频转写应用,能高效地将直播或预录音频转换成文本。支持多语言和自定义设置,适用于个人、教育及商业场景。项目还提供Docker部署,简化安装和服务部署过程。
wavlm-base - 适用于多语音任务的自监督预训练模型
GithubHuggingfaceLibriSpeechWavLM开源项目模型自监督学习语音识别音频分类
WavLM是基于自监督学习的语音预训练模型,旨在支持多种语音任务。模型在960小时Librispeech数据集上进行预训练,适用于语音识别和分类等任务,需在下游任务中微调。WavLM通过门控相对位置偏置和发音混合训练策略,强调说话者身份保留和内容建模,在SUPERB基准测试中表现优异。模型主要在英语环境中有良好表现,但目标是提供全语言栈的统一表示。
VisionLLM - 面向视觉任务的开放式多模态大语言模型
GithubVisionLLM人工智能多模态大语言模型开源项目视觉语言任务计算机视觉
VisionLLM 系列是一种多模态大语言模型,专注于视觉相关任务。该模型利用大语言模型作为开放式解码器,支持数百种视觉语言任务,包括视觉理解、感知和生成。VisionLLM v2 进一步提升了模型的通用性,扩展了其在多模态应用场景中的能力,推动了计算机视觉与自然语言处理的融合。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号