llama2-webui
llama2-webui是一个跨平台的工具，允许在多个操作系统（Linux、Windows、Mac）通过Gradio Web UI轻松运行Llama 2模型。支持从7B到70B等多种模型规模，包含GPTQ和GGUF等，并兼容8位与4位计算模式。此外，项目还支持与OpenAI API兼容，可作为各类生成型应用的后端，旨在为开发人员提供一个便捷且高效的工具。
