#检索增强语言模型

RETRO-pytorch是一个基于PyTorch实现的检索增强变换器(RETRO)模型。该项目通过高效的检索机制,在仅使用GPT-3十分之一参数的情况下实现相当性能。项目利用autofaiss构建索引和计算最近邻,并支持将模型扩展至1000层。此外,RETRO-pytorch还提供了便捷的训练包装器和数据集类,大大简化了模型训练流程。