项目简介
Phidata 是一个开源框架,旨在构建具有记忆、知识和工具能力的自动化助手(智能代理)。这个框架解决了现有大型语言模型(LLM)上下文有限和无法执行操作的问题,通过添加存储聊天历史的数据库、存储业务上下文的向量数据库,以及允许执行API调用等操作,显著提升智能助手的功能。Phidata 支持使用 Streamlit、FastApi 或 Django 服务,帮助用户快速构建和部署AI应用。
解决的问题
大型语言模型(LLMs)的上下文有限,无法执行操作
解决方案:增加记忆力、知识和工具。
·记忆力:在数据库中存储聊天历史,使LLMs能够进行长期对话。
·知识:在向量数据库中存储信息,为LLMs提供商业环境下的上下文。
·工具:使LLMs能够执行诸如从API拉取数据、发送电子邮件或查询数据库等操作。
它是如何工作的
步骤1:创建一个助手
步骤2:添加工具(功能)、知识(向量数据库)和存储(数据库)
步骤3:使用Streamlit、FastApi或Django来构建你的AI应用程序
视频教程
安装
运行以下代码:
pip install -U phidata
使用
- 创建一个名为 assistant.py 的文件
from phi.assistant import Assistant
from phi.tools.duckduckgo import DuckDuckGo
assistant = Assistant(tools=[DuckDuckGo()], show_tool_calls=True)
assistant.print_response("Whats happening in France?", markdown=True)
- 安装库,导出你的 OPENAI_API_KEY,并运行助手
pip install openai duckduckgo-search
export OPENAI_API_KEY=sk-xxxx
python assistant.py
快速体验
这个开源项目,已经做了部分功能的库,如果想要快速体验的话可以直接克隆使用
· LLM OS:将LLM用作新兴操作系统的CPU。 https://github.com/phidatahq/phidata/tree/main/cookbook/llm_os
· 自治RAG:赋予LLM工具以搜索其知识、网络或聊天历史。 https://github.com/phidatahq/phidata/tree/main/cookbook/examples/auto_rag
· 本地RAG:配备Ollama和PgVector的完全本地RAG。 https://github.com/phidatahq/phidata/tree/main/cookbook/llms/ollama/rag
· 投资研究员:使用Llama3和Groq生成关于股票的投资报告。 https://github.com/phidatahq/phidata/tree/main/cookbook/llms/groq/investment_researcher
· 新闻文章:使用Llama3和Groq编写新闻文章。 https://github.com/phidatahq/phidata/tree/main/cookbook/llms/groq/news_articles
· 视频摘要:使用Llama3和Groq进行YouTube视频摘要。 https://github.com/phidatahq/phidata/tree/main/cookbook/llms/groq/video_summary
· 研究助理:使用Llama3和Groq编写研究报告。 https://github.com/phidatahq/phidata/tree/main/cookbook/llms/groq/research
DEMO
进入以下使用phidata构建的AI应用程序:
PDF AI,能够对PDF文件进行总结并回答问题。 https://pdf.aidev.run/
ArXiv AI,使用ArXiv API回答有关ArXiv论文的问题。 https://arxiv.aidev.run/
HackerNews AI,总结故事、用户,并分享HackerNews上的最新动态。 https://hn.aidev.run/
项目链接
https://github.com/phidatahq/phidata