MMAction2为基于PyTorch的开源视频理解工具箱，涵盖动作识别、动作定位、时空动作检测等多种任务。项目特点包括模块化设计、丰富的模型库以及详尽文档，支持灵活的自定义配置。

CogVLM2是基于Meta-Llama-3-8B-Instruct的下一代模型系列，在多项基准测试中表现优异，支持中英文内容和高分辨率图像处理。该系列模型适用于图像理解、多轮对话和视频理解，特别适合需要处理长文本和高分辨率图像的场景。CogVLM2系列还支持8K内容长度，并在TextVQA和DocVQA等任务中显著提升表现。体验更先进的CogVLM2和CogVLM2-Video模型，迎接未来视觉智能挑战。

VTimeLLM是一种先进的视频大语言模型，专注于精细化视频时刻理解和推理。该模型采用边界感知三阶段训练策略，包括图像-文本特征对齐、多事件视频时间边界识别和高质量视频指令微调。这种方法显著提升了模型的时间理解能力，使其在多项视频理解任务中表现优异。

LLaMA-VID是一个新型多模态大语言模型,可处理长达数小时的视频。它通过增加上下文令牌扩展了现有框架的能力,采用编码器-解码器结构和定制令牌生成策略,实现对图像和视频的高效理解。该项目开源了完整的模型、数据集和代码,为视觉语言模型研究提供了有力工具。

PySlowFast是FAIR开发的开源视频理解代码库，提供高效训练的先进视频分类模型。支持SlowFast、Non-local Neural Networks、X3D和Multiscale Vision Transformers等多种架构。该框架便于快速实现和评估视频研究创新，涵盖分类、检测等任务。PySlowFast兼具高性能和轻量级特点，适用于广泛的视频理解研究。

ShareGPT4Video项目通过应用高精度字幕显著提升视频理解与生成的效果。该项目提供功能强大的文本至视频模型，支持多种视频时长和分辨率，并设有两种优化效率与质量的推断模式。该项目的目标是通过高质量视频字幕数据集改善文本到视频的转换效果，从而提升大型视频语言模型的理解能力。

MovieChat能够在24GB显卡上处理超过1万帧的视频，与其他方法相比，GPU显存成本平均减少10000倍（21.3KB/f到约200MB/f）。它集成了视频问答、情感分析和场景理解等功能，显著提高了长视频处理的效率和准确性，适用于大型视频数据集和复杂视频场景的智能问答系统。

该项目汇总了多模态大语言模型(MLLMs)领域的最新研究成果，包括论文、数据集和评估基准。涵盖多模态指令微调、幻觉、上下文学习等方向，提供相关代码和演示。项目还包含MLLM调查报告及MME、Video-MME等评估基准，为研究人员提供全面参考。

Video-LLaMA是一个多模态AI项目，为大型语言模型赋予视频和音频理解能力。该项目基于BLIP-2和MiniGPT-4构建，包含视觉-语言和音频-语言两个分支。经过大规模视频和图像数据预训练及指令微调后，Video-LLaMA能够进行视频分析、音频理解和多轮对话。该模型支持英文和中文交互，为视频内容分析提供了新的AI解决方案。

Video-ChatGPT是一个融合大型视觉和语言模型的视频对话系统。该项目构建了10万条视频-指令对数据集,开发了首个视频对话量化评估框架,在视频推理、创意生成、空间和时间理解等任务中表现出色。这一开源项目为视频内容理解和人机交互带来了新的发展方向。

Dolphin是一个基于大型语言模型的通用视频互动平台，专注于视频理解、处理和生成。该平台支持视频问答、视频剪辑、字幕添加、音频提取及生成等功能，旨在提升视频处理的智能化水平。用户可通过文本生成视频、姿态到视频转换及视频图像转换等多种方式进行创作。项目持续更新，欢迎社区贡献和拉取请求，适用于北航和南洋理工大学的科研项目。

Ask-Anything 提供视频和图像聊天的全方位解决方案，利用指令微调技术优化聊天功能。项目支持最新的VideoChat2及其升级版，兼容EgoSchema和Video-MME测试脚本。最新版VideoChat2_HD在多任务长视频理解基准中表现优异，是顶尖的开源选择。

Video-LLaVA项目提出了一种新的对齐方法,实现图像和视频统一视觉表示的学习。该模型在无图像-视频配对数据的情况下,展现出色的跨模态交互能力,同时提升图像和视频理解性能。研究显示多模态学习的互补性明显改善了模型在各类视觉任务上的表现,为视觉-语言模型开发提供新思路。

MiniGPT4-Video项目采用交错视觉-文本标记技术，大幅提升了多模态大语言模型的视频理解能力。该模型在短视频理解方面表现优异，多项基准测试中均优于现有方法。项目还开发了Goldfish框架，专门应对任意长度视频的处理难题，有效解决了长视频理解中的噪声、冗余和计算挑战。这些创新成果为视频分析和理解领域开辟了新的可能性。

VideoGPT+是一个创新的视频对话模型，通过集成图像和视频编码器，实现了更精细的空间理解和全局时间上下文分析。模型采用自适应池化技术处理双编码器特征，大幅提升了视频基准测试性能。项目同时推出VCG+ 112K数据集和VCGBench-Diverse基准，为视频对话任务提供全面评估。VideoGPT+在空间理解、推理和视频问答等多项任务中表现优异。

PG-Video-LLaVA通过模块化设计，首次实现视频多模态模型具备像素级定位能力。该框架使用现成的追踪器和创新的定位模块，能够根据用户指令在视频中实现空间定位。引入新的基准测试用于评估基于提示的对象定位性能，并结合音频上下文完善视频内容理解，提高在对话和新闻视频等场景中的适用性。改进的定量基准测试确保更高的透明度和可重复性。

VideoMamba是一种创新的视频理解模型，克服了现有技术的局限性。它能高效处理长视频和高分辨率内容，展现出可扩展性、短期动作识别敏感性、长期视频理解优势和多模态兼容性四大核心特点。VideoMamba为全面的视频理解任务提供了高效解决方案，推动了该领域的发展。

VideoLLaMA2是一款先进的视频语言模型,通过增强空间-时间建模和音频理解能力,提高了视频问答和描述任务的性能。该模型在零样本视频问答等多项基准测试中表现出色。VideoLLaMA2能处理长视频序列并理解复杂视听内容,为视频理解技术带来新进展。

该项目汇集了大型语言模型在视频理解领域的最新应用进展,包括视频LLM模型、训练策略、相关任务、数据集、基准测试和评估方法。项目全面概述了LLM如何推动视频理解技术发展,并探讨了其应用前景。这是研究人员和开发者了解视频LLM最新进展的重要资源。

OmAgent是一个多模态智能代理系统，结合多模态大语言模型和算法来完成复杂任务。系统包含轻量级智能代理框架omagent_core和三个核心组件：Video2RAG、DnCLoop和Rewinder Tool。OmAgent突破视频长度限制，实现长视频理解、任务分解和信息检索。这一开源项目为研究和开发多模态应用提供了有力工具。