Project Icon

MiniGPT4-video

提升视频理解的创新多模态语言模型

MiniGPT4-Video项目采用交错视觉-文本标记技术,大幅提升了多模态大语言模型的视频理解能力。该模型在短视频理解方面表现优异,多项基准测试中均优于现有方法。项目还开发了Goldfish框架,专门应对任意长度视频的处理难题,有效解决了长视频理解中的噪声、冗余和计算挑战。这些创新成果为视频分析和理解领域开辟了新的可能性。

Lumina-mGPT - 多模态AI模型实现文本到图像的灵活生成
GithubLumina-mGPT人工智能图像生成多模态开源项目自回归模型
Lumina-mGPT是一个多模态自回归模型系列,适用于多种视觉和语言任务。这个开源项目特别擅长将文本描述转化为逼真图像,提供7B和34B两种参数规模的模型,以及多种图像分辨率选项。除图像生成外,Lumina-mGPT还支持图像理解和全能型任务,为AI研究和应用开发提供了灵活的工具。
TATS - 创新长视频生成框架 基于时间无关VQGAN和时间敏感Transformer
GithubTATSTransformerVQGAN开源项目视频生成长视频生成
TATS项目是一个创新的长视频生成框架,通过结合时间无关的VQGAN和时间敏感的Transformer模型,实现了高效的长视频生成。该技术仅需使用数十帧视频进行训练,就能利用滑动窗口方法生成包含数千帧的连贯视频。TATS支持无条件生成以及基于文本、音频等条件的视频生成,为视频内容创作开辟了新的可能性。
Chat-UniVi - 统一视觉表示赋能大语言模型理解图像和视频
Chat-UniViGithub图像视频统一多模态大语言模型开源项目视觉理解
Chat-UniVi是一个多模态AI模型,采用统一的视觉表示方法实现图像和视频的同步理解。该模型运用动态视觉令牌技术,有效捕捉图像空间细节和视频时序关系。经过联合训练,Chat-UniVi在图像和视频理解任务中表现优异,性能超过专门设计的单一模态模型。模型支持多轮对话,能处理包含多个图像或视频的复杂场景,为视觉AI研究提供新思路。
git-large-coco - 高级视觉与语言转换:大规模图像到文本模型
GITGithubHuggingface图像标注开源项目模型模型训练视觉视觉问答
GIT大型模型通过在COCO数据集上微调,实现图像到文本的转换,支持图像和视频字幕生成、视觉问答和图像分类等功能。该模型利用图像和文本令牌的结合,预测下一个文本令牌,并在多种视觉与语言应用场景中表现出色。
ALLaVA - GPT4V合成数据集助力轻量级视觉语言模型训练
ALLaVAGPT-4VGithub开源项目微调数据集视觉语言模型
ALLaVA项目推出大规模GPT4V合成数据集,旨在促进轻量级视觉语言模型的训练。项目发布了ALLaVA-Phi3-mini-128k、ALLaVA-StableLM2-1_6B和ALLaVA-Phi2-2_7B等多个模型版本,可直接从Hugging Face仓库加载。ALLaVA-4V数据集整合了LAION和Vision FLAN的图像标注与指令数据,以及GPT-4-Turbo生成的文本指令,总样本量超过140万。这一资源为视觉语言模型研究提供了丰富的训练数据和预训练模型,有望推动该领域的进一步发展。
Open-MAGVIT2 - 自回归视觉生成新突破 大幅提升图像分词性能
GithubOpen-MAGVIT2图像分词器大规模词表开源项目自回归模型视觉生成
Open-MAGVIT2是一个创新的自回归视觉生成项目,采用无查找技术和262144大小的码本,克服了VQGAN的局限性。该项目用PyTorch重新实现MAGVIT2分词器,在图像分词方面取得显著进展,8倍下采样时rFID达到0.39。项目致力于推动自回归视觉生成领域发展,目前处于积极开发阶段,未来计划拓展至视频生成领域。
MDT - MDTv2图像合成模型:更快收敛和卓越性能
GithubMasked Diffusion Transformer人工智能图像合成开源项目深度学习计算机视觉
MDTv2是一种先进的深度学习图像合成模型,在ImageNet数据集上实现了1.58的FID分数,创造新的业界标准。该模型采用掩码潜在建模技术,提高了图像语义理解能力,学习速度比先前模型快10倍以上。MDTv2在图像生成质量和训练效率方面都有显著提升,为计算机视觉和人工智能领域带来了新的可能性。
AI-Auto-Video-Generator - AI自动视频生成:从故事提示到视频合成
AI-Auto-Video-GeneratorDALL-EElevenLabsGithubOpenAI开源项目视频生成
该项目利用AI技术生成视频,通过用户的故事提示,采用OpenAI的GPT-3生成文本,OpenAI的DALL-E生成图像,并用ElevenLabs API进行语音合成,最终合成一个视频。项目要求安装Python 3.6或更高版本、pip、FFmpeg等工具,以及配置OpenAI和ElevenLabs API密钥。用户还可修改代码来制作特定主题的视频,如俳句或蜜蜂知识,并自定义图像和语音设置,实现个性化的视频创作体验。
make-a-video-pytorch - 基于 PyTorch 的最新文本到视频生成器
3D卷积GithubMake-A-VideoMeta AIPytorch开源项目时序注意力
此项目实现了 Meta AI 的 Make-A-Video 在 PyTorch 下的版本,利用伪 3D 卷积和时序注意力技术,显著增强了视频的时序一致性。支持图像和视频帧的处理,并且可轻松适用于 DALL-E2 和 Imagen 等模型。项目提供了完整的安装和使用指南,并支持空间和时间一致性的 Unet 模型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号