Chameleon-LLM:插拔式大语言模型组合推理框架
Chameleon是一个灵活的插拔式组合推理框架,可以增强大语言模型的能力。本文汇总了Chameleon-LLM项目的相关学习资料,帮助读者快速了解和上手这个有趣的项目。
项目简介
Chameleon是一个基于大语言模型的插拔式组合推理框架。它可以综合利用各种工具,包括LLM模型、现成的视觉模型、网络搜索引擎、Python函数和基于规则的模块等,来完成复杂的推理任务。Chameleon的核心是一个基于LLM的自然语言规划器,它可以推断出合适的工具序列并执行,从而生成最终的响应。
主要特点
- 插拔式架构,可以灵活组合各种工具
- 基于LLM的自然语言规划器
- 在ScienceQA和TabMWP等任务上取得了显著提升
- 开源代码,方便研究人员使用和扩展
学习资源
-
项目主页: Chameleon-LLM GitHub
-
论文: Chameleon: Plug-and-Play Compositional Reasoning with Large Language Models
-
项目演示网站: Chameleon-LLM Demo
-
YouTube视频介绍: Chameleon: Plug-and-Play Compositional Reasoning with GPT-4
-
演示幻灯片: Google Brain演讲slides
快速上手
- 安装依赖:
pip install -r requirements.txt
- 配置API密钥:
- OpenAI API密钥(必需)
- Bing搜索API密钥(可选)
- 运行ScienceQA任务示例:
cd run_scienceqa
python run.py --model chameleon --label chameleon_gpt4 --policy_engine gpt-4 --kr_engine gpt-4 --qg_engine gpt-4 --sg_engine gpt-4 --test_split test --test_number -1
- 运行TabMWP任务示例:
cd run_tabmwp
python run.py --model chameleon --label chameleon_gpt4 --test_split test --policy_engine gpt-4 --rl_engine gpt-4 --cl_engine gpt-4 --tv_engine gpt-4 --kr_engine gpt-4 --sg_engine gpt-4 --pg_engine gpt-4 --test_number -1 --rl_cell_threshold 18 --cl_cell_threshold 18
相关文章
总结
Chameleon-LLM是一个非常有前景的项目,它为增强大语言模型的能力提供了一种灵活的方法。通过学习本文提供的资源,相信读者可以快速了解这个项目并开始尝试使用。欢迎感兴趣的读者进一步探索Chameleon的可能性!
