KwaiAgents 项目介绍
KwaiAgents 是由快手科技的 KwaiKEG 团队开源的一系列与智能代理相关的工作。这个项目的开源内容包括多种工具、数据集和模型,目标是推动智能代理系统的发展和应用。
开源的核心组件
-
KAgentSys-Lite:KAgentSys-Lite 是 KAgentSys 的简化版。尽管与完整版有一些功能上的差异和限制,例如工具集较少、没有记忆机制以及稍微下降的性能,但它在其他开源代理系统中仍然表现出色。其代码基于项目 BabyAGI 和 Auto-GPT 演化而来。
-
KAgentLMs:这是系列的大型语言模型,具备代理能力,如规划、反思和工具使用。这些能力通过一篇论文中提出的 Meta-helper 调优获得。
-
KAgentInstruct:包含超过20万条与代理相关的调优指令数据,部分由人工编辑。
-
KAgentBench:有超过3000条人编辑的自动化评估数据用于测试代理能力,评估维度包括规划、工具使用、反思、总结,以及性能分析等。
模型和数据集
KwaiAgents 项目中提供了多种预训练的模型和相关的数据集,例如:
- Qwen 系列模型:如 Qwen-7B-MAT、Qwen-14B-MAT 等,多种规模和配置可供选择。
- Baichuan 系列模型:如 Baichuan2-13B-MAT。
- 训练数据:KAgentInstruct。
- 基准数据:KAgentBench。
评估方法
KwaiAgents 还提供了多维度的评估方法,包括机器评估和人工评估:
- 机器评估:通过基准测试来评估语言模型在规划、工具使用、反思等多方面的表现。
- 人工评估:通过计算通关率和平均评分来对比不同系统的表现,如 GPT-4、GPT-3.5-turbo 等。
使用指南
环境准备
首先需要安装 miniconda,以及相关的Python环境和依赖:
conda create -n kagent python=3.10
conda activate kagent
pip install -r requirements.txt
部署和使用模型
项目支持不同的模型推理服务部署方式,例如:
- GPU 环境部署:推荐使用 vLLM 和 FastChat 来部署模型服务。
- CPU 环境部署:可以使用 Llama.cpp 提供的兼容 OpenAI API 的web服务器。
可以通过命令行调用模型服务,具体命令请参见用户指南。
使用 KAgentSys-Lite
项目允许通过简单的命令行调用来执行智能代理查询,例如利用 ChatGPT 或本地模型来获取问题的答案。同时,支持自定义工具和功能扩展。
使用 KAgentBench 进行评估
通过简单的几行代码,即可对代理能力进行评估,输出相关的测试结果。
重要新闻及更新
KwaiAgents 项目的持续更新带来了丰富的新内容和改进,例如 Qwen1.5-14B-MAT 模型的发布和基准测试结果的更新。
结论
KwaiAgents 是一个强大且灵活的开源项目,结合了丰富的资源和强大的工具,适合研究人员和开发者在智能代理领域的探索和应用。