ai_and_memory_wall
此库提供了AI and Memory Wall论文中的数据,包括SOTA模型在计算机视觉、自然语言处理和语音学习领域的参数、特征大小和推理与训练所需的总FLOPs。详细统计涵盖BERT和GPT系列等模型,分析其内存使用和训练计算量。数据表格展示了各模型的输入分辨率、参数内存和总内存,为研究人员和开发者提供可靠的参考。