SaltAI 语言工具包

该项目整合了检索增强生成（RAG）工具 Llama-Index、微软的 AutoGen 和 LlaVA-Next，并结合 ComfyUI 的可适配节点界面，提升了平台的功能性和用户体验。

🔥 2024年5月9日：新增代理功能，更多信息请查看这里。

安装说明

使用 Git 和 Pip

按照以下步骤设置环境：

1. 根据需要设置虚拟环境。

2. 进入 ComfyUI/custom_nodes 目录。

3. 克隆仓库： git clone https://github.com/get-salt-AI/SaltAI_LlamaIndex

4. 切换到克隆的目录： cd SaltAI_Llama-index

5. 安装依赖：

   5.a Python 虚拟环境：

   • pip install -r requirements.txt

   5.b ComfyUI 便携版：

   • path\to\ComfyUI\python_embeded\python.exe -m pip install -r requirements.txt

ComfyUI 管理器

1. 确保已安装 ComfyUI-Manager。
2. 在 ComfyUI 中打开管理器，搜索节点包 "SaltAI_LlamaIndex"。
3. 安装。
4. 重启服务器。
5. 按 Ctrl+F5 强制刷新浏览器。

安装注意事项：

您可能需要更新环境的 packaging、wheels 和 setuptools，以适配较新的 Transformers 和 LlaVA-Next 模型。

• pip install --upgrade packaging setuptools wheel 或
• path\to\ComfyUI\python_embeded\python.exe -m pip install --upgrade packaging setuptools wheel

示例

示例工作流程和图像可以在 Examples Section 文件夹中找到。

• Example_agents.json - 展示如何创建可对话的代理，以及各种可能的设置方式。
• Example_groq_search.json - 展示如何使用 Groq LLM 模型进行搜索，包含 Tavily Research 节点。
• Example_SERP_search.json - 展示如何使用 Scale SERP 进行搜索，并演示如何在相同设置下使用不同模型。
• Example_search_to_json.json - 展示如何将搜索结果转换为 JSON 输出，以便输入到其他系统中使用。

故障排除

如果由于包冲突而遇到问题，请确保您的虚拟环境配置正确。

获取模型

您可以安装并使用任何加载到 ComfyUI/custom_nodes/models/llm 文件夹中的 GGUF 文件。

这里可能是世界上最大的相关资源库：

Hugging Face LLM 分类

文档和贡献

详细的文档和项目贡献指南将很快提供。

您可以在 https://docs.getsalt.ai/ 找到现有文档。

许可证

该项目遵循 MIT 开源许可证。