#BERT-style预训练

SparK

该项目实现了BERT风格的自监督预训练方法在卷积神经网络中的应用，能够对如ResNet等任意CNN进行预训练。项目代码简洁易读，只需最少的依赖项。在ImageNet数据集上表现优异，展示了小模型在预训练后能够超越大模型的能力，同时生成性自监督学习优于对比学习。