#Booster

Large Model Booster利用Golang和C++技术构建高性能且可扩展的LLM推理加速器，适用于生产环境中的GPTs大规模部署和独立模型实验。支持多种现代CPU和GPU，包括Intel、AMD、ARM64、Apple Silicon及Nvidia CUDA等，支持大模型切分及FP16/FP32和量化版本。涵盖LLaMA、Mistral、Gemma等主流LLM架构，提供SOTA Janus Sampling实现。项目提供详细的编译到部署指南，并支持OpenAI和Ollama的兼容API端点。

Booster作为一款初始内存文件系统生成工具，在速度和全盘加密方面表现突出。其特点包括快速构建和启动、全盘加密支持、数据绑定功能以及自动解锁加密分区。通过自动发现主机配置，Booster能够生成针对当前环境优化的最小化映像。此外，它还支持自动发现根分区，配置简便，是一个功能强大且适应性强的initramfs生成工具。