访问官网
Github
Huggingface
文档
论文项目介绍：VAR项目
项目概述
VAR（Visual Autoregressive Modeling）是一个创新的视觉生成方法，它通过粗到精的"下一层次预测"或"下一分辨率预测"的自回归学习，重新定义了图像生成，区别于传统的"下一个像素预测"方式。这个项目在NeurIPS 2024大会上获得了口头报告的荣誉。
项目亮点
首次超越扩散模型
VAR项目首次展示了GPT风格的自回归模型在视觉生成上的能力，可以超越现有的扩散模型。这标志着图像生成技术的一个新高度。
发现缩放定律
在VAR变换器中，研究人员观察到了幂律缩放定律的存在，这是计算机视觉领域的重要发现之一。
零样本泛化能力
VAR模型展示了卓越的零样本泛化能力，这意味着它可以在未见过的图像类别上进行推理，从而提高了模型的通用性和实用性。
VAR模型库
VAR提供了多个模型可供研究和使用。各个模型在生成图像的效果和性能成本上有所不同，从310M参数至2.0B参数的模型均有覆盖。这些模型可以通过Hugging Face平台下载。
| 模型 | 分辨率 | FID 评分 | 相对成本 | 参数数量 |
|---|---|---|---|---|
| VAR-d16 | 256 | 3.55 | 0.4 | 310M |
| VAR-d20 | 256 | 2.95 | 0.5 | 600M |
| VAR-d24 | 256 | 2.33 | 0.6 | 1.0B |
| VAR-d30 | 256 | 1.97 | 1 | 2.0B |
| VAR-d30-re | 256 | 1.80 | 1 | 2.0B |
项目试用
VAR提供了一个交互式演示网站，供用户体验模型的图像生成能力。这是一个让人们感受视觉自回归建模乐趣的好机会。
安装和训练
要使用VAR模型，用户需要安装torch>=2.0.0以及相关的Python包，并准备ImageNet数据集。提供了详尽的训练脚本，用户可以根据需求训练VAR模型以生成高质量的图像。
样本采样与零样本推理
VAR模型支持生成和评价潜在图像质量的技术。通过调整采样的参数，可以在图像质量和多样性之间进行权衡。
许可证
该项目遵循MIT许可证，确保了广泛的使用和修改自由。
引用
如若项目中的研究工作对您的研究有所帮助，欢迎在相关文献中引用该项目，以便推广和承认本项目的贡献。
