|
|
|
|
|
# 生成知识提示
|
|
|
|
|
|
|
|
|
|
|
|
import {Screenshot} from 'components/screenshot'
|
|
|
|
|
|
import GENKNOW from '../../img/gen-knowledge.png'
|
|
|
|
|
|
|
|
|
|
|
|
<Screenshot src={GENKNOW} alt="GENKNOW" />
|
|
|
|
|
|
|
|
|
|
|
|
图片来源：[Liu等人2022](https://arxiv.org/pdf/2110.08387.pdf)
|
|
|
|
|
|
|
|
|
|
|
|
LLM继续得到改进，其中一种流行的技术是能够融合知识或信息，以帮助模型做出更准确的预测。
|
|
|
|
|
|
|
|
|
|
|
|
使用类似的思路，模型是否也可以在做出预测之前用于生成知识呢？这就是[Liu等人2022](https://arxiv.org/pdf/2110.08387.pdf)的论文所尝试的——生成知识以作为提示的一部分。特别是，这对于常识推理等任务有多大帮助？
|
|
|
|
|
|
|
|
|
|
|
|
让我们尝试一个简单的提示：
|
|
|
|
|
|
|
|
|
|
|
|
*提示：*
|
|
|
|
|
|
```
|
|
|
|
|
|
高尔夫球的一部分是试图获得比其他人更高的得分。是或否？
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
*输出：*
|
|
|
|
|
|
```
|
|
|
|
|
|
是。
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
这种错误揭示了LLM在执行需要更多关于世界的知识的任务时的局限性。我们如何通过生成知识来改进呢？
|
|
|
|
|
|
|
|
|
|
|
|
首先，我们生成一些“知识”：
|
|
|
|
|
|
|
|
|
|
|
|
*提示：*
|
|
|
|
|
|
```
|
|
|
|
|
|
输入：希腊比墨西哥大。
|
|
|
|
|
|
知识：希腊的面积约为131,957平方公里，而墨西哥的面积约为1,964,375平方公里，使墨西哥比希腊大了1,389%。
|
|
|
|
|
|
|
|
|
|
|
|
输入：眼镜总是会起雾。
|
|
|
|
|
|
知识：当你的汗水、呼吸和周围的湿度中的水蒸气落在冷的表面上，冷却并变成微小的液滴时，会在眼镜镜片上产生冷凝。你看到的是一层薄膜。你的镜片相对于你的呼吸会比较凉，尤其是当外面的空气很冷时。
|
|
|
|
|
|
|
|
|
|
|
|
输入：鱼有思考能力。
|
|
|
|
|
|
知识：鱼比它们看起来更聪明。在许多领域，如记忆力，它们的认知能力与或超过非人类灵长类动物等“更高级”的脊椎动物。鱼的长期记忆帮助它们跟踪复杂的社交关系。
|
|
|
|
|
|
|
|
|
|
|
|
输入：一个人一生中吸烟很多香烟的常见影响是患肺癌的几率高于正常水平。
|
|
|
|
|
|
知识：那些一生中平均每天吸烟不到一支香烟的人，患肺癌的风险是从不吸烟者的9倍。在每天吸烟1到10支香烟之间的人群中，死于肺癌的风险几乎是从不吸烟者的12倍。
|
|
|
|
|
|
|
|
|
|
|
|
输入：一块石头和一颗卵石大小相同。
|
|
|
|
|
|
知识：卵石是一种根据Udden-Wentworth沉积学尺度的颗粒大小为4到64毫米的岩屑。卵石通常被认为比颗粒（直径2到4毫米）大，比卵石（直径64到256毫米）小。
|
|
|
|
|
|
|
|
|
|
|
|
输入：高尔夫球的一部分是试图获得比其他人更高的得分。
|
|
|
|
|
|
知识：
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
*知识1：*
|
|
|
|
|
|
```
|
|
|
|
|
|
高尔夫球的目标是以最少的杆数打完一组洞。一轮高尔夫球比赛通常包括18个洞。每个洞在标准高尔夫球场上一轮只打一次。每个杆计为一分，总杆数用于确定比赛的获胜者。
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
*知识2：*
|
|
|
|
|
|
```
|
|
|
|
|
|
高尔夫球是一项精密的球杆运动，竞争选手（或高尔夫球手）使用许多类型的球杆，用最少的杆数将球打入球场上一系列洞中。目标是以最低的分数完成比赛，该分数是通过将每个洞上所用的杆数相加计算出来的。得分最低的选手赢得比赛。
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
我们使用[Liu等人2022](https://arxiv.org/pdf/2110.08387.pdf)的论文中提供的提示。
|
|
|
|
|
|
|
|
|
|
|
|
下一步是将知识整合并得出预测。我将问题重新格式化为QA格式，以指导答案格式。
|
|
|
|
|
|
|
|
|
|
|
|
*提示：*
|
|
|
|
|
|
```
|
|
|
|
|
|
问题：高尔夫球的一部分是试图获得比其他人更高的得分。是或否？
|
|
|
|
|
|
|
|
|
|
|
|
知识：高尔夫球的目标是以最少的杆数打完一组洞。一轮高尔夫球比赛通常包括18个洞。每个洞在标准高尔夫球场上一轮只打一次。每个杆计为一分，总杆数用于确定比赛的获胜者。
|
|
|
|
|
|
|
|
|
|
|
|
解释和答案：
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
*答案1（置信度非常高）：*
|
|
|
|
|
|
```
|
|
|
|
|
|
不是，高尔夫球的目标不是获得比其他人更高的得分。相反，目标是以最少的杆数打完一组洞。总杆数用于确定比赛的获胜者，而不是总得分。
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
```
|
|
|
|
|
|
问题：高尔夫球的一部分是试图获得比其他人更高的得分。是或否？
|
|
|
|
|
|
|
|
|
|
|
|
知识：高尔夫球是一项精密的球杆运动，竞争选手（或高尔夫球手）使用许多类型的球杆，用最少的杆数将球打入球场上一系列洞中。目标是以最低的分数完成比赛，该分数是通过将每个洞上所用的杆数相加计算出来的。得分最低的选手赢得比赛。
|
|
|
|
|
|
|
|
|
|
|
|
解释和答案：
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
*答案2（置信度要低得多）：*
|
|
|
|
|
|
```
|
|
|
|
|
|
是的，高尔夫球的一部分是试图获得比其他人更高的得分。每个选手都试图以最少的杆数打完一组洞。总杆数用于确定比赛的获胜者，而不是总得分。得分最低的选手赢得比赛。
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
这个例子发生了一些非常有趣的事情。在第一个答案中，模型非常自信，但在第二个答案中不太自信。我简化了过程以进行演示，但在得出最终答案时还有一些细节需要考虑。请查看论文以了解更多。
|
