Lagent 项目介绍
Lagent 是一个轻量级的开源框架,旨在帮助用户高效构建基于大型语言模型(LLM)的代理。受 PyTorch 设计哲学启发,Lagent 提供了一种更加直观和清晰的工作流。用户可以以 Python 风格关注于创建层和定义层之间的消息传递,从而简化多代理应用程序的开发。
安装指南
要从源码安装 Lagent,您可以使用以下命令:
git clone https://github.com/InternLM/lagent.git
cd lagent
pip install -e .
使用指南
Lagent 提供了一种易于上手的方式来构建多代理应用。这些代理通过 AgentMessage
进行通信。在此框架中,模型被视作代理(Agent)。用户只需指定初始系统提示(system_prompt)即可开始构建自己的通信模型。
示例代码
以下是一段简单的代码示例,展示如何使用 Lagent 创建一个简单的代理模型:
from typing import Dict, List
from lagent.agents import Agent
from lagent.schema import AgentMessage
from lagent.llms import VllmModel, INTERNLM2_META
llm = VllmModel(
path='Qwen/Qwen2-7B-Instruct',
meta_template=INTERNLM2_META,
tp=1,
top_k=1,
temperature=1.0,
stop_words=['