热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Swiss Army Llama
swiss_army_llama - 用 FastAPI 为各种任务公开方便的 REST 端点来促进和优化与本地 LLM 一起工作的过程
Swiss Army Llama
FastAPI
文本嵌入
音频转录
FAISS向量搜索
Github
开源项目
一个优化本地LLM的工具集,提供文本嵌入、语句相似度计算、文档处理和音频转录。利用FastAPI暴露REST端点,通过llama_cpp处理文本、PDF和音频文件,自动完成OCR并计算嵌入。支持高级相似度测量和语义搜索,集成FAISS向量搜索。可选用RAM Disk加速,配置简易,兼容多种模型和方法,便于快速集成到应用中。
1
1
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号