#视频预训练

VideoMAE大型模型在Kinetics-400数据集上进行自监督预训练，采用掩码自编码器方法，有效学习视频的内在表示。利用视觉Transformer架构，通过将视频划分为固定大小的图像块，结合线性嵌入和位置编码，进行深度分析和像素预测，适用于多种后续任务和特征提取，包括视频分类和处理。