Project Icon

AudioLCM

基于潜在一致性模型的文本到音频生成系统

AudioLCM是一个开源的文本到音频生成系统,基于潜在一致性模型。该项目提供完整实现代码和预训练模型,支持高效生成高质量音频内容。AudioLCM在ACM-MM'24会议被接受,并在GitHub和HuggingFace平台发布。研究人员可使用预训练模型进行推理,或按指南准备数据集训练自定义模型。项目还包含数据集处理、变分自编码器训练等功能。

Text2Video - 文本生成视频模型
GithubText2Video开源项目深度学习生成对抗网络视频合成语音合成
Text2Video采用深度学习技术,通过建立音素姿势字典与训练生成对抗网络,从文本生成视频,该技术相较于传统音频驱动的视频生成方法,具有更少的数据需求、更高的灵活性和更低的时间成本。在标准数据集上的广泛测试证明了其显著的效果和优势。
latent-consistency-model - 高效快速的少步推理图像合成模型
AI绘图GithubLatent Consistency Models图像生成开源项目扩散模型深度学习
Latent Consistency Models (LCM) 是一种创新的图像生成技术,通过将分类器自由引导蒸馏到模型输入中,实现高效的少步推理。LCM支持文本到图像和图像到图像的生成,在极短时间内生成高质量图像,同时提供多种易用的演示。该技术在保持图像质量的同时显著缩短推理时间,为实时图像生成提供了新的可能性。
audiocraft - Facebook开源的AI音频生成工具库
AI模型AudioCraftGithubPyTorch开源项目深度学习音频生成
AudioCraft是Facebook Research开发的开源PyTorch库,专注于音频生成的深度学习研究。它集成了AudioGen和MusicGen两个先进的AI模型,支持文本到音乐、文本到声音等多种任务。该库还包含EnCodec和Multi Band Diffusion等相关模型,提供完整的训练管道、详细文档和API。AudioCraft为研究人员提供了一个强大的平台,用于探索和开发高质量音频生成技术。
ltu - 音频和语音理解大模型与技术突破
GithubLTULTU-AS大语言模型开源项目语音理解音频理解
LTU和LTU-AS是首个桥接音频和语音感知与理解的大型语言模型。这两个模型在多个封闭式音频和语音任务上达到最先进水平,同时能基于给定音频回答开放式问题。项目提供PyTorch实现、预训练模型和数据集,支持推理和微调。发布的OpenAQA和OpenASQA训练数据集为音频和语音理解研究提供了重要资源。
WavJourney - AI多模态音频内容生成系统
AI音频生成GithubWavJourney多媒体叙事大语言模型开源项目音频创作
WavJourney是一个开源的音频内容生成系统,利用大型语言模型技术,将文本输入转化为包含故事情节、个性化语音、音乐和音效的完整音频作品。该项目整合了GPT-4、文本转语音和音频生成等技术,提供了全面的音频创作功能。WavJourney适用于研究和商业领域,并提供详细的使用文档和示例。
audio2photoreal - AI驱动的音频转人物对话视频技术
AI合成Github对话场景开源项目深度学习计算机视觉音频到真人化身
audio2photoreal项目实现了音频到逼真人物对话视频的自动转换。该开源项目集成了面部表情和全身动作生成模型,能根据音频输入合成自然的人物表情和动作。项目提供预训练模型、训练代码和数据集,便于研究者复现和改进。这一技术为虚拟人物制作和视频合成领域开辟了新的可能性。
TTS-Cube - 基于神经网络的端到端语音合成系统
GithubTTS-Cube开源项目神经网络端到端系统语音合成音频生成
TTS-Cube是一个基于神经网络的端到端语音合成系统,提供训练和部署TTS模型的完整流程。系统无需预对齐数据,仅通过字符或音素序列即可训练生成音频。它包含一个编码器模块,将输入序列转换为梅尔对数谱图,以及一个基于RNN的声码器模块。TTS-Cube采用轻量级架构和引导注意力技术,实现快速收敛。项目提供交互式演示、安装指南和训练实例。
Qwen2-Audio - 大规模音频语言模型 支持语音交互和音频理解
GithubQwen2-Audio多语言支持开源项目语音翻译语音识别音频分析
Qwen2-Audio是一款先进的音频语言模型,可处理多种音频输入并执行分析或生成文本响应。该模型提供语音交互和音频分析两种功能,在13项基准测试中展现出色性能,包括语音识别、翻译和情感分析等任务。目前已发布Qwen2-Audio-7B和Qwen2-Audio-7B-Instruct两个版本。
wavlm-base - 适用于多语音任务的自监督预训练模型
GithubHuggingfaceLibriSpeechWavLM开源项目模型自监督学习语音识别音频分类
WavLM是基于自监督学习的语音预训练模型,旨在支持多种语音任务。模型在960小时Librispeech数据集上进行预训练,适用于语音识别和分类等任务,需在下游任务中微调。WavLM通过门控相对位置偏置和发音混合训练策略,强调说话者身份保留和内容建模,在SUPERB基准测试中表现优异。模型主要在英语环境中有良好表现,但目标是提供全语言栈的统一表示。
audio-flamingo - 新型音频语言模型实现音频理解和多轮对话
Audio FlamingoGithubfew-shot学习对话能力开源项目语言模型音频理解
Audio Flamingo是一种创新音频语言模型,具备音频理解、快速任务适应和多轮对话能力。通过优化训练技术、架构设计和数据策略,该模型在多项音频理解任务中创建新基准。项目开源基础模型和对话模型的训练及推理代码。模型权重可从GitHub和HuggingFace获取,仅供非商业用途。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号