llama-gpt
LlamaGPT是一个自托管、离线的ChatGPT类聊天机器人,基于Llama 2开发,确保100%数据隐私,无需数据外传。最新版本新增对Code Llama模型和Nvidia GPU的支持,可在各类硬件上灵活部署,包括但不限于umbrelOS家庭服务器、M1/M2 Mac以及支持Docker的系统。LlamaGPT支持多种模型,包括但不限于7B至70B模型,且兼容OpenAI API,开发者友好,便于集成和功能扩展。