Brendan Bycroft 的主页与项目
本仓库包含我(Brendan)的主页以及一些重要项目。
为了便于部署和共享一些原本难以共享的 JavaScript 工具,这些项目被保存在同一个仓库中。
项目
主要项目包括:
- LLM 可视化:一个 3D 交互式模型,展示 GPT 风格 LLM 网络的推理过程。
- [进行中] CPU 模拟:一个 2D 数字电路编辑器,具有完整的执行模型,展示基于 RISC-V 的简单 CPU。
LLM 可视化
该项目展示了一个 GPT 风格网络实现的 3D 模型。这种网络拓扑结构被用于 OpenAI 的 GPT-2、GPT-3(可能还有 GPT-4)中。
首个展示的具有可用权重的网络是一个微型网络,用于对 A、B、C 三个字母组成的小型列表进行排序。这是 Andrej Karpathy 的 minGPT 实现中的演示示例模型。
该渲染器还支持可视化任意大小的网络,并可以处理较小的 gpt2 规模,不过权重并未下载(因为有数百 MB 大小)。
CPU 模拟(进行中;尚未公开!)
该项目运行 2D 示意图数字电路,配有功能齐全的编辑器。目的是添加一系列教程,展示以下内容:
- 如何构建简单的 RISC-V CPU
- 细化到门级别的组成部分:指令解码、ALU、加法器等
- 更高层次的 CPU 概念,如各种级别的流水线、缓存等
本地运行
- 安装依赖:
yarn
- 启动开发服务器:
yarn dev