#本地模型
comfyui_LLM_party
该项目基于ComfyUI前端，提供完整节点集以便快速构建和集成LLM工作流，并兼容现有的SD工作流。项目更新涵盖了自动生成LLM工具、支持DuckDuckGo搜索、多知识库调用、额外参数输入，以及多平台代理连接。该项目支持所有OpenAI格式的API调用和本地大模型，兼容多种API和本地模型。该项目还提供丰富的教程和示例工作流，以便用户快速上手和定制开发。
langchain-swift
langchain-swift是一个纯客户端的Swift库，不需要服务器，并支持iOS、macOS、watchOS和visionOS（测试版）。它提供本地模型、聊天机器人、QA机器人和数据检索，通过配置OpenAI、Supabase、百度OCR等多种API接口来增强功能。该库优化了不同Apple平台上的AI模型性能，旨在为开发者提供高效全面的AI解决方案。
autogpt-package
Kurtosis让你能够在浏览器或本地轻松运行AutoGPT，无需复杂安装过程。支持多种插件和配置选项，包括本地模型和内存后端。提供详细教程和开发指南，助你快速部署和使用AutoGPT，应对多种任务需求。
obsidian-copilot
这是一款集成在Obsidian中的免费开源ChatGPT工具，支持本地模型和向量存储，实现完全离线操作。主要功能包括聊天、文档排序、生成摘要、语法修正和跨文档问答等，适用于OpenAI、Azure、Google等多个平台，安装和使用都非常便捷。
GraphRAG-Local-UI
GraphRAG-Local-UI是一个开源的知识图谱构建和查询工具，支持本地部署大语言模型和嵌入模型。该项目提供直观的界面用于数据索引、提示词调优和信息查询，并具备实时知识图谱可视化功能。它适用于需要构建和探索复杂知识网络的研究人员和开发者，无需依赖云服务即可实现高效的知识管理和信息检索。
graphrag-local-ollama
GraphRAG Local Ollama是基于Microsoft GraphRAG的改编项目，支持使用Ollama下载的本地模型。该项目通过构建图形化文本索引，利用本地语言模型和嵌入模型回答全局性问题，适用于大规模文本语料库。相比OpenAPI模型，它具有高效、低成本的本地推理优势，同时提供简便的设置流程。这一工具特别适合需要处理私有数据或大量文本的用户。
Jan
Jan是一个开源AI平台，支持在本地设备上运行Mistral和Llama2等大型语言模型，也可连接OpenAI的GPT-4等远程API。该平台注重隐私保护，提供完全离线操作，数据本地存储。Jan具有跨平台兼容性，支持自定义扩展，并提供OpenAI兼容的API接口。平台致力于打造本地优先、用户控制、高度可定制的AI体验，适用于从个人电脑到多GPU集群的各种设备。
IntelliBar
IntelliBar是Mac平台上的智能助手应用，集成ChatGPT、Claude和Gemini等多种语言模型。用户可通过统一界面访问这些模型，按使用量付费。应用注重隐私保护，本地存储聊天记录。IntelliBar提供命令菜单、搜索功能和提示补全等工具，支持本地模型运行，适合需要保密性的任务。其独特设计旨在提升用户生产力，满足各种AI辅助需求。