femtoGPT是一个用Rust实现的最小生成预训练转换器，支持在CPU和GPU上进行GPT模型的推理与训练。项目从零开始构建了张量处理逻辑以及训练和推理代码，适合对大语言模型感兴趣并想深入了解其工作原理的用户。使用了随机生成、数据序列化和并行计算库，尽管速度较慢，但能在NVIDIA和AMD显卡上运行。