Tree of Thoughts (ToT) 入门学习资料

Ray

tree-of-thoughts

Tree of Thoughts (ToT) 是由普林斯顿大学和 Google DeepMind 的研究人员提出的一种新型语言模型推理框架。它通过构建"思维树",使语言模型能够进行更加深入和系统的推理,从而显著提升模型在复杂问题解决方面的能力。本文整理了 ToT 的相关学习资源,帮助读者快速了解和上手这一创新技术。

1. 论文解读

ToT 的核心思想来自于论文 Tree of Thoughts: Deliberate Problem Solving with Large Language Models。这篇论文详细介绍了 ToT 的理论基础和实现方法。对于想深入理解 ToT 原理的读者,建议先阅读这篇论文。

ToT Framework

2. 官方代码实现

Princeton NLP 实验室提供了 ToT 的官方实现代码。这个代码库包含了论文中所有实验的完整实现,是学习和使用 ToT 的最佳参考资料。

主要特点:

使用 Python 实现
支持多种搜索算法(BFS, DFS, 束搜索等)
提供了详细的使用说明和示例

3. 社区实现版本

除了官方实现,GitHub 上还有一些社区维护的 ToT 实现版本,如 kyegomez/tree-of-thoughts。这些项目通常会提供更加易用的接口和额外的功能扩展,适合快速上手和实际应用。

安装方法:

pip install tree-of-thoughts

使用示例:

from tree_of_thoughts import TotAgent, ToTDFSAgent

tot_agent = TotAgent()
dfs_agent = ToTDFSAgent(
    agent=tot_agent,
    threshold=0.8,
    max_loops=1,
    prune_threshold=0.5,
    number_of_agents=4,
)

initial_state = """
Your task: is to use 4 numbers and basic arithmetic operations (+-*/) to obtain 24 in 1 equation, return only the math
"""

final_thought = dfs_agent.run(initial_state)
print(final_thought)