最新动态
以下我们按时间倒序分享VISSL的更新和新版本。所有VISSL版本都可以在这里找到。
- [2022年2月]: 发布SEER 100亿参数模型的实现和模型权重。
- [2022年2月]: 发布论文中提出的计算机视觉模型公平性基准测试的实现。
- [2022年1月]: 在VISSL中发布地理定位测试的实现(图像GPS预测)。
- [2022年1月]: 添加BEiTtransformer的实现和ClassyVision ViT。
- [2021年11月]: Vissl 0.1.6版本发布。我们发布了VISSL的新版本。更多信息请查看我们的发布说明。
- [2021年10月]: 在此提交中引入AugLy数据增强支持。
- [2021年10月]: 在此提交中发布XCiT: 交叉协方差图像Transformers代码。
- [2021年9月]: 在VISSL的这个PR中,VISSL master分支重命名为main。
- [2021年8月]: 实例检索基准测试在VISSL中实现并可用。
- [2021年7月]: 完全分片数据并行集成到VISSL中,并在博客中宣布。
- [2021年5月]: 发布DINO: 自监督视觉Transformers中的新兴属性代码。
- [2021年5月]: VISSL重新授权为MIT许可证。
- [2021年5月]: 发布Barlow Twins: 通过冗余减少的自监督学习代码。
- [2021年4月]: 发布ConViT: 通过软卷积归纳偏置改进视觉Transformers代码。
- [2021年3月]: 添加VTAB和CLIP基准任务中使用的大多数基准数据集。
- [2021年2月]: 添加Vision Transformers (ViT)骨干网络和使用ViT进行自监督训练。
- [2021年1月]: VISSL v0.1.5发布。
简介
VISSL是一个用于最先进的自监督学习研究的计算机视觉库,基于PyTorch。VISSL旨在加速自监督学习的研究周期:从设计新的自监督任务到评估学习到的表示。主要特点包括:
-
自监督学习最新技术的可复现实现:实现了所有现有的自监督学习最新技术 - SwAV、SimCLR、MoCo(v2)、PIRL、NPID、NPID++、DeepClusterV2、ClusterFit、RotNet、Jigsaw。还支持监督训练。
-
基准测试套件:包括各种基准任务,如线性图像分类(places205、imagenet1k、voc07、food、CLEVR、dsprites、UCF101、stanford cars等)、全面微调、半监督基准、最近邻基准、目标检测(Pascal VOC和COCO)。
-
易用性:基于 Hydra 的 YAML 配置系统,使用简便。
-
模块化:易于设计新任务并复用其他任务的现有组件(目标函数、模型主干和头部、数据转换等)。模块化组件可在 YAML 配置文件中简单替换。
-
可扩展性:轻松实现单 GPU、多 GPU 和多节点训练。提供多个大规模训练组件,可通过简单的配置文件插件使用:激活检查点、ZeRO、FP16、LARC、有状态数据采样器、处理无效图像的数据类、RegNets 等大型模型骨架。
-
模型库:提供超过 60 个预训练的自监督模型权重。
安装
请参阅 INSTALL.md
。
入门
按照安装说明安装 VISSL。 安装完成后,请查看 VISSL 入门指南 和 Colab 笔记本 了解基本用法。
文档
在我们的文档中了解更多关于 VISSL 的信息。查看 projects/ 目录了解基于 VISSL 构建的一些项目。
教程
通过尝试以下 Colab 教程笔记本 开始使用 VISSL。
- 在单 GPU 上训练 SimCLR
- 从预训练模型中提取特征
- 基准任务:ImageNet-1K 全面微调
- 基准任务:ImageNet-1K 线性图像分类
- 大规模训练(fp16、LARC、ZeRO)
- 在推理模式下使用预训练模型
模型库和基线
我们提供了大量基线结果和可下载的训练模型,详见 VISSL 模型库。
贡献者
VISSL 由 Facebook AI Research 编写和维护。
开发
我们欢迎对 VISSL 的新贡献,并将积极维护这个库!请参阅 CONTRIBUTING.md
获取有关如何运行代码、测试和 linter 以及提交拉取请求的完整说明。
许可证
VISSL 根据 MIT 许可证 发布。
引用 VISSL
如果您在研究中发现 VISSL 有用,或希望引用 模型库 中发布的基线结果,请使用以下 BibTeX 条目。
@misc{goyal2021vissl,
author = {Priya Goyal and Quentin Duval and Jeremy Reizenstein and Matthew Leavitt and Min Xu and
Benjamin Lefaudeux and Mannat Singh and Vinicius Reis and Mathilde Caron and Piotr Bojanowski and
Armand Joulin and Ishan Misra},
title = {VISSL},
howpublished = {\url{https://github.com/facebookresearch/vissl}},
year = {2021}
}