magvit2-pytorch

MagViT2视频生成和理解模型的PyTorch开源实现

MagViT2 视频生成 AI模型 Pytorch实现语言模型 Github 开源项目

MagViT2是基于语言模型的最新视频生成和理解技术。该PyTorch实现提供高效视频标记器和训练器，支持大规模数据集。项目包含无查找量化器，适用于多种模态。灵活架构设计允许自定义层和注意力机制，为研究人员提供探索和改进视频生成技术的工具。

ShareGPT4Video - 通过字幕提高视频理解和生成

AI模型GithubShareGPT4Video开源项目视频字幕视频理解视频生成

ShareGPT4Video项目通过应用高精度字幕显著提升视频理解与生成的效果。该项目提供功能强大的文本至视频模型，支持多种视频时长和分辨率，并设有两种优化效率与质量的推断模式。该项目的目标是通过高质量视频字幕数据集改善文本到视频的转换效果，从而提升大型视频语言模型的理解能力。

StreamingT2V - 先进的长视频生成技术实现连贯动态和可扩展内容

GithubStreamingT2V一致性动态视频开源项目文本到视频长视频生成

StreamingT2V是一种创新的自回归技术，专门用于生成长时间、连贯一致的视频内容。该技术无需分段处理即可创建动态丰富的视频，确保了时间上的连贯性，同时保持与文本描述的高度契合和单帧图像的优质表现。目前已实现生成1200帧（约2分钟）的视频，并具有进一步延长的潜力。值得注意的是，StreamingT2V的性能不局限于特定的文本到视频模型，这意味着随着基础模型的进步，视频质量有望进一步提升。

CV-VAE - 兼容预训练模型的视频生成技术

CV-VAEGithubVAE兼容性开源项目潜在空间视频生成

CV-VAE是一种视频变分自编码器，专为潜在生成视频模型设计。它与预训练图像和视频模型（如SD 2.1和SVD）兼容，用于视频重建和生成。项目提供代码实现和预训练模型权重，支持视频重建和文本到视频转换。CV-VAE为视频生成技术研究提供了新的工具和方向。

TATS - 创新长视频生成框架基于时间无关VQGAN和时间敏感Transformer

GithubTATSTransformerVQGAN开源项目视频生成长视频生成

TATS项目是一个创新的长视频生成框架，通过结合时间无关的VQGAN和时间敏感的Transformer模型，实现了高效的长视频生成。该技术仅需使用数十帧视频进行训练，就能利用滑动窗口方法生成包含数千帧的连贯视频。TATS支持无条件生成以及基于文本、音频等条件的视频生成，为视频内容创作开辟了新的可能性。

ViTamin - 推动计算机视觉进入新时代的可扩展视觉语言模型

GithubViTamin图像处理开源项目深度学习视觉语言模型计算机视觉

ViTamin是一系列可扩展的视觉语言模型,在图像分类、开放词汇检测和分割等任务上取得突破。以436M参数量在DataComp-1B数据集训练,实现82.9%的ImageNet零样本准确率。在7个开放词汇分割基准测试中创新纪录,并提升大型多模态模型能力。获timm和OpenCLIP官方支持,提供简单接口。ViTamin为计算机视觉领域带来新的可能性。

LLaMA-VID - 支持长视频处理的多模态大语言模型

GithubLLaMA-VID多模态大语言模型开源项目视觉语言模型视频理解

LLaMA-VID是一个新型多模态大语言模型,可处理长达数小时的视频。它通过增加上下文令牌扩展了现有框架的能力,采用编码器-解码器结构和定制令牌生成策略,实现对图像和视频的高效理解。该项目开源了完整的模型、数据集和代码,为视觉语言模型研究提供了有力工具。

text-to-video-synthesis-colab - 多模型文本到视频合成工具集成

AI模型ColabGithubHugging Face开源项目文本生成视频

该开源项目集成了Longscope、Zeroscope和Potat1等多个文本到视频合成模型。用户可在Colab环境中,通过输入文本生成短视频。项目支持多种分辨率和风格选择,并包含视频增强功能。这一工具集适用于多种创意和内容制作场景,为AI视频创作提供了便利。

VideoTetris - 创新视频生成技术实现复杂语义精确组合

GithubVideoTetris开源项目文本到视频生成时空组合扩散组合式生成长视频生成

VideoTetris是一个视频生成框架，采用时空组合扩散技术实现复杂文本语义的精确表达。通过操控去噪网络的注意力图，在空间和时间维度上控制视频生成。项目提出了视频数据预处理方法，提升了训练数据的动态性和提示理解能力。VideoTetris可生成10秒至2分钟或更长的视频，为复杂场景视频生成提供了新方案。

ml-fastvit - 高效混合视觉Transformer模型用于图像分类

FastViTGithub图像分类开源项目模型性能结构重参数化视觉Transformer

FastViT是一种采用结构重参数化技术的混合视觉Transformer模型。该模型在ImageNet-1K数据集上实现了准确率和延迟的良好平衡,提供多个变体以适应不同应用场景。FastViT在iPhone 12 Pro上的基准测试显示出优秀的移动端性能。项目开源了预训练模型、训练评估代码和使用文档。

vision_transformer - 视觉Transformer和MLP-Mixer模型库高性能图像识别

FlaxGithubJAXMLP-MixerVision Transformer图像识别开源项目

项目包含多种视觉Transformer(ViT)和MLP-Mixer模型实现,提供ImageNet和ImageNet-21k预训练模型及JAX/Flax微调代码。通过交互式Colab笔记本可探索5万多个模型检查点。这些高性能图像分类模型代表了计算机视觉的前沿进展。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com