Github
Huggingface
文档
论文JARVIS项目介绍
JARVIS是一个探索人工通用智能(AGI)并为整个社区提供前沿研究的项目。它的核心理念是利用语言作为接口,让大型语言模型(LLM)连接众多AI模型来解决复杂的AI任务。
系统概述
JARVIS是一个协作系统,由LLM作为控制器,以及来自HuggingFace Hub的众多专家模型作为协作执行者组成。系统的工作流程包括四个阶段:
- 任务规划:使用ChatGPT分析用户请求,理解其意图,并将其分解为可解决的任务。
- 模型选择:ChatGPT根据模型描述,从HuggingFace上选择合适的专家模型来解决规划好的任务。
- 任务执行:调用并执行每个选定的模型,将结果返回给ChatGPT。
- 响应生成:最后,ChatGPT整合所有模型的预测结果,生成最终响应。
主要特性
- 支持多种运行模式:服务器模式、网页界面、Gradio演示和命令行界面
- 灵活的配置选项,可根据硬件资源选择不同规模的本地部署
- 支持OpenAI的Azure平台服务和GPT-4模型
- 提供Web API接口,可访问中间结果
- 支持NVIDIA Jetson嵌入式设备
最新更新
JARVIS项目持续更新和改进。最近的一些重要更新包括:
- 发布EasyTool,简化工具使用
- 发布TaskBench,用于评估LLM的任务自动化能力
- 提供基于langchain的轻量级版本
- 支持OpenAI的Azure平台和GPT-4模型
- 添加Gradio演示和Web API接口
快速开始
用户可以通过简单的步骤快速开始使用JARVIS:
- 配置OpenAI Key和HuggingFace Token
- 根据需要选择运行模式(服务器、网页、Gradio或命令行)
- 安装依赖并下载必要的模型
- 启动相应的服务或界面
配置选项
JARVIS提供了多种配置选项,以适应不同的使用场景和硬件资源:
- 支持多种LLM模型
- 可选择本地推理、HuggingFace推理或混合模式
- 可根据RAM大小选择不同规模的本地部署
结语
JARVIS项目展示了利用LLM作为控制器,协调多个专业AI模型的强大潜力。它为探索更通用、更灵活的AI系统开辟了新的道路,为AGI研究提供了宝贵的实践平台。
