#llama_cpp-rs

llama_cpp-rs

llama_cpp-rs是一个Rust绑定库，用于在CPU上运行GGUF大语言模型。它提供简洁的API，支持快速模型加载和文本生成。该项目兼容CUDA、Vulkan等后端，并包含内存预测功能。llama_cpp-rs简化了大语言模型的使用流程，适合各层级开发者。