Tree of Thoughts (ToT)学习资料汇总 - 基于大语言模型的刻意问题求解方法

Tree of Thoughts (ToT)学习资料汇总

Tree of Thoughts (ToT)是由普林斯顿大学和Google DeepMind的研究人员提出的一种新型语言模型推理框架。它通过构建思维树,使语言模型能够进行深度探索和策略前瞻,显著提升了在复杂任务上的问题解决能力。本文汇总了ToT的相关学习资料,帮助读者快速了解和使用这一强大的方法。

1. 论文及代码

• 论文:Tree of Thoughts: Deliberate Problem Solving with Large Language Models
• 官方代码实现:princeton-nlp/tree-of-thought-llm

2. 快速入门

如果你想快速上手使用ToT,可以参考以下步骤:

1. 安装ToT包:

pip install tree-of-thoughts-llm

2. 设置OpenAI API密钥: 将你的OpenAI API密钥存储在环境变量OPENAI_API_KEY中。

3. 运行示例代码:

import argparse
from tot.methods.bfs import solve
from tot.tasks.game24 import Game24Task

args = argparse.Namespace(backend='gpt-4', temperature=0.7, task='game24', naive_run=False, prompt_sample=None, method_generate='propose', method_evaluate='value', method_select='greedy', n_generate_sample=1, n_evaluate_sample=3, n_select_sample=5)

task = Game24Task()
ys, infos = solve(args, task, 900)
print(ys[0])

这段代码将尝试解决24点游戏,使用数字4、5、6和10。

3. 进阶学习

• Tree of Thoughts (ToT) | Prompt Engineering Guide - 详细介绍了ToT的原理和使用方法。

• GitHub - kyegomez/tree-of-thoughts - 提供了ToT的另一种实现,包含更多示例和用法说明。

4. 可视化理解

为了更好地理解ToT的工作原理,可以参考以下图片:

这张图展示了ToT框架的整体结构,包括思维生成、评估和选择的过程。

5. 性能对比

ToT在多项任务上都显著优于传统方法:

如图所示,在24点游戏等任务上,ToT的表现远超其他方法。

结语

Tree of Thoughts为大语言模型的推理能力开辟了新的可能性。通过本文提供的资料,相信读者能够快速掌握ToT的使用方法,并在实际应用中发挥其强大的问题解决能力。