该研究项目探索Transformer模型的算术能力。研究团队开发的Abacus Embeddings技术使Transformer模型能执行加法、乘法、排序和按位OR等运算。项目提供复现所需的代码、数据集和评估方法，并详述模型训练、测试和分析流程。这一研究为提升AI模型数学运算能力提供新思路。