Tree of Thoughts (ToT)学习资料汇总
Tree of Thoughts (ToT)是由普林斯顿大学和Google DeepMind的研究人员提出的一种新型语言模型推理框架。它通过构建思维树,使语言模型能够进行深度探索和策略前瞻,显著提升了在复杂任务上的问题解决能力。本文汇总了ToT的相关学习资料,帮助读者快速了解和使用这一强大的方法。
1. 论文及代码
- 论文:Tree of Thoughts: Deliberate Problem Solving with Large Language Models
- 官方代码实现:princeton-nlp/tree-of-thought-llm
2. 快速入门
如果你想快速上手使用ToT,可以参考以下步骤:
- 安装ToT包:
pip install tree-of-thoughts-llm
-
设置OpenAI API密钥: 将你的OpenAI API密钥存储在环境变量
OPENAI_API_KEY中。 -
运行示例代码:
import argparse
from tot.methods.bfs import solve
from tot.tasks.game24 import Game24Task
args = argparse.Namespace(backend='gpt-4', temperature=0.7, task='game24', naive_run=False, prompt_sample=None, method_generate='propose', method_evaluate='value', method_select='greedy', n_generate_sample=1, n_evaluate_sample=3, n_select_sample=5)
task = Game24Task()
ys, infos = solve(args, task, 900)
print(ys[0])
这段代码将尝试解决24点游戏,使用数字4、5、6和10。
3. 进阶学习
-
Tree of Thoughts (ToT) | Prompt Engineering Guide - 详细介绍了ToT的原理和使用方法。
-
GitHub - kyegomez/tree-of-thoughts - 提供了ToT的另一种实现,包含更多示例和用法说明。
4. 可视化理解
为了更好地理解ToT的工作原理,可以参考以下图片:
这张图展示了ToT框架的整体结构,包括思维生成、评估和选择的过程。
5. 性能对比
ToT在多项任务上都显著优于传统方法:
如图所示,在24点游戏等任务上,ToT的表现远超其他方法。
结语
Tree of Thoughts为大语言模型的推理能力开辟了新的可能性。通过本文提供的资料,相信读者能够快速掌握ToT的使用方法,并在实际应用中发挥其强大的问题解决能力。
