From e737625122d70da2af68486f7d0d09038b522f18 Mon Sep 17 00:00:00 2001 From: qinyu Date: Sat, 17 Jun 2023 14:58:55 +0800 Subject: [PATCH] Add Chinese translation for ToT. --- pages/techniques/_meta.zh.json | 2 +- pages/techniques/tot.zh.mdx | 31 +++++++++++++++++++++++++++++-- 2 files changed, 30 insertions(+), 3 deletions(-) diff --git a/pages/techniques/_meta.zh.json b/pages/techniques/_meta.zh.json index 33d17c7..38dfd01 100644 --- a/pages/techniques/_meta.zh.json +++ b/pages/techniques/_meta.zh.json @@ -4,7 +4,7 @@ "cot": "链式思考（CoT）提示", "consistency": "自我一致性", "knowledge": "生成知识提示", - "tot": "Tree of Thoughts", + "tot": "思维树（ToT）", "rag": "Retrieval Augmented Generation", "art": "Automatic Reasoning and Tool-use", "ape": "自动提示工程师", diff --git a/pages/techniques/tot.zh.mdx b/pages/techniques/tot.zh.mdx index 5a9b127..c4d5adf 100644 --- a/pages/techniques/tot.zh.mdx +++ b/pages/techniques/tot.zh.mdx @@ -1,3 +1,30 @@ -# Tree of Thoughts (ToT) +# 思维树 (ToT) -This page needs a translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side. \ No newline at end of file +import { Callout, FileTree } from 'nextra-theme-docs' +import {Screenshot} from 'components/screenshot' +import TOT from '../../img/TOT.png' +import TOT2 from '../../img/TOT2.png' +import TOT3 from '../../img/TOT3.png' + +对于需要探索或预判战略的复杂任务来说，传统或简单的提示技巧是不够的。最近，[Yao et el. (2023)](https://arxiv.org/abs/2305.10601) 提出了思维树（Tree of Thoughts，ToT）框架，该框架基于思维链提示进行了总结，引导语言模型探索把思维作为中间步骤来解决通用问题。 + +ToT 维护着一棵思维树，思维由连贯的语言序列表示，这个序列就是解决问题的中间步骤。使用这种方法，LM 能够自己对严谨推理过程的中间思维进行评估。LM 将生成及评估思维的能力与搜索算法（如广度优先搜索和深度优先搜索）相结合，在系统性探索思维的时候可以向前验证和回溯。 + +ToT 框架原理如下： + + +图片援引自：[Yao et el. (2023)](https://arxiv.org/abs/2305.10601) + +ToT 需要针对不同的任务定义思维/步骤的数量以及每步的候选项数量。例如，论文中的“算 24 游戏”是一种数学推理任务，需要分成 3 个思维步骤，每一步都需要一个中间方程。而每个步骤保留最优的（best） 5 个候选项。 + +ToT 完成算 24 的游戏任务要执行宽度优先搜索（BFS），每步思维的候选项都要求 LM 给出能否得到 24 的评估：“sure/maybe/impossible”（一定能/可能/不可能） 。作者讲到：“目的是得到经过少量向前尝试就可以验证正确（sure）的局部解，基于‘太大/太小’的常识消除那些不可能（impossible）的局部解，其余的局部解作为‘maybe’保留。”每步思维都要抽样得到 3 个评估结果。整个过程如下图所示： + + +图片援引自：[Yao et el. (2023)](https://arxiv.org/abs/2305.10601) + +从下图中报告的结果来看，ToT 的表现大大超过了其他提示方法： + + +图片援引自：[Yao et el. (2023)](https://arxiv.org/abs/2305.10601) + +代码示例在[这里](https://github.com/princeton-nlp/tree-of-thought-llm)。 \ No newline at end of file