热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#LLamaCpp
CASALIOY: 一款本地运行大语言模型的强大工具包
2 个月前
CASALIOY是一个开源项目,旨在让用户能够在消费级硬件上本地运行大语言模型,无需依赖云服务。它提供了完整的数据摄入、向量存储和模型推理流程,支持多种开源语言模型,是进行离线AI应用开发的理想工具。
LLamaCpp
LangChain
Qdrant
GGUF
Docker
Github
开源项目
2 个月前
相关项目
CASALIOY
CASALIOY项目是一款高效的离线LLM工具套件,支持最新的GGUF标准、LangChain和qdrant集成。用户可以通过Docker或源码轻松部署,并通过命令行或GUI与本地文档库交互。详细的安装指南和示例配置文件方便用户快速上手,支持多种数据格式的处理和数据的本地存储,确保数据安全。本项目附有更新支持。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号