#Gated Linear Attention

DiG

DiG项目提出了一种基于门控线性注意力的扩散模型,用于解决现有模型在可扩展性和计算效率方面的挑战。该模型在高分辨率下展现出显著的训练速度提升和内存节省,性能优于DiT。DiG在不同计算复杂度下表现出色,随着模型深度/宽度增加或输入令牌增强,FID值持续下降。与其他次二次时间复杂度的扩散模型相比,DiG在多种分辨率下都展现出卓越的效率。