#LocalAI

LocalAI - 开源OpenAI替代品,支持本地AI推理与多模型兼容
人工智能Github开源项目开源LocalAI本地推理GPT热门
LocalAI是一个自由开源的OpenAI替代项目,提供与OpenAI兼容的REST API,支持本地或预置的消费级硬件上运行大型语言模型、生成图像和音频。该项目由Ettore Di Giacinto创建和维护,不需要GPU即可支持多种模型系列,实现了多种AI推理的独立化和去中心化。LocalAI致力于为开发者提供全面的开源AI模型使用方案,包括文本生成、语音转换、图像生成等功能,并通过Docker容器化技术实现了高效的部署和使用。
aikit - 简化部署和优化大型语言模型的平台
Github开源项目OpenAI APIKubernetesLocalAIDockerAIKit
AIKit是一个全方位平台,专为快速部署、构建和微调大型语言模型(LLM)而设计。它支持OpenAI API兼容的推理和灵活的微调接口,无需GPU即可使用。AIKit还支持多模式模型、图像生成、多平台CPU和GPU加速推理以及Kubernetes部署,简化了开发流程并确保供应链安全,适用于各种环境。
autogpt4all - 为本地AI服务器快速配置和部署AutoGPT及GPT4All模型
Github开源项目开源LocalAIAutoGPT4AllGPT4All模型脚本安装
AutoGPT4All通过bash和python脚本在本地AI服务器上支持配置和部署AutoGPT与GPT4All模型,实现无限制、完全免费且离线的查询操作。项目中也提供了定制模型链接和卸载功能,特别适合建设去中心化应用的开发者使用。