项目介绍:Graph of Thoughts (GoT)
Graph of Thoughts(GoT)是一个全新的框架,旨在利用大型语言模型(LLM)来解决复杂问题。该项目的核心理念是将问题建模为"操作图"(Graph of Operations),由大型语言模型作为引擎自动执行。GoT框架不仅灵活且可扩展,用户可借助它使用最新的方法解决问题,还能通过类似链式思维(Chain of Thought, CoT)或树式思维(Tree of Thought, ToT)的方式实现问题解决。
环境配置指南
要使用GoT框架,需要安装Python 3.8或更新版本。
安装GoT
- 用户版本:如果你只是想使用GoT,可以通过以下命令直接从PyPI安装:
pip install graph_of_thoughts
- 开发者版本:如果希望修改代码,可以从源码以可编辑模式安装:
git clone https://github.com/spcl/graph-of-thoughts.git cd graph-of-thoughts pip install -e .
大型语言模型配置
使用GoT的框架,需要确保你有一个已配置的大型语言模型(LLM)。可以参考在Controller README中的说明来配置你选择的语言模型。
快速入门
以下代码展示了如何使用GoT框架,借助类似链式思维(CoT)的方式,解决32个数字的排序问题。在运行代码前,请确保已按照环境配置指南进行设置。
from examples.sorting.sorting_032 import SortingPrompter, SortingParser, utils
from graph_of_thoughts import controller, language_models, operations
to_be_sorted = "[0, 2, 6, 3, 8, 7, 1, 1, 6, 7, 7, 7, 7, 9, 3, 0, 1, 7, 9, 1, 3, 5, 1, 3, 6, 4, 5, 4, 7, 3, 5, 7]"
gop = operations.GraphOfOperations()
gop.append_operation(operations.Generate())
gop.append_operation(operations.Score(scoring_function=utils.num_errors))
gop.append_operation(operations.GroundTruth(utils.test_sorting))
lm = language_models.ChatGPT("config.json", model_name="chatgpt")
ctrl = controller.Controller(
lm,
gop,
SortingPrompter(),
SortingParser(),
{
"original": to_be_sorted,
"current": "",
"method": "cot"
}
)
ctrl.run()
ctrl.output_graph("output_cot.json")
上述代码使用的是较基础的CoT方法。若希望使用更为复杂的GoT方法,可以参考以下代码:
from examples.sorting.sorting_032 import SortingPrompter, SortingParser, got, utils
from graph_of_thoughts import controller, language_models, operations
to_be_sorted = "[0, 2, 6, 3, 8, 7, 1, 1, 6, 7, 7, 7, 7, 9, 3, 0, 1, 7, 9, 1, 3, 5, 1, 3, 6, 4, 5, 4, 7, 3, 5, 7]"
gop = got()
lm = language_models.ChatGPT("config.json", model_name="chatgpt")
ctrl = controller.Controller(
lm,
gop,
SortingPrompter(),
SortingParser(),
{
"original": to_be_sorted,
"current": "",
"phase": 0,
"method": "got"
}
)
ctrl.run()
ctrl.output_graph("output_got.json")
可以通过查看output_cot.json
和output_got.json
中输出的图,比较两种方法的结果。最终的思维状态得分显示了排序列表中的错误数量。
文档与示例
GoT的论文提供了关于框架及其组成部分的整体概述。若要更详细地了解框架,可以阅读各个模块的文档,如Controller和Operations模块是理解和充分利用框架的关键。
在examples目录中,提供了多个可以利用该框架解决的问题示例,是熟悉使用框架解决实际问题的出发点。每个示例都包含一个README.md
文件,提供运行和实际操作的说明,代码充分注释,便于理解。
想要再次运行论文中的实验?可以按照examples目录中的说明来进行。若希望仅检查和重新绘制结果,可以使用paper目录中的内容。
引用指南
如你觉得这个项目有价值,请给予支持!如果有任何疑问或反馈,欢迎联系nils.blach@inf.ethz.ch或开启一个议题。在你的工作中引用本项目时,可使用提供的引用格式。