Merge branch 'main' into update-tools
Elvis Saravia
1 year ago
committed by
GitHub
commit
f7f2f3b25b
@ -1,3 +1,199 @@
|
||||
# Generating Code
|
||||
|
||||
Needs translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side.
|
||||
import { Callout, FileTree } from 'nextra-theme-docs'
|
||||
import {Screenshot} from 'components/screenshot'
|
||||
import CODE1 from '../../img/code-generation/chat-mode.png'
|
||||
|
||||
<Callout emoji="⚠️">
|
||||
이 장은 활발하게 개발 중입니다.
|
||||
</Callout>
|
||||
|
||||
ChatGPT와 같은 대규모언어모델은 코드 생성에 매우 유용합니다. 이 절은 코드 생성을 위해 ChatGPT를 사용하는 방법에 대한 많은 예시를 다룰 것입니다.
|
||||
|
||||
앞으로 나오는 모든 예시에는 OpenAI의 Playground(채팅 모드)와 gpt-3.5-turbo 모델이 사용됩니다.
|
||||
|
||||
OpenAI의 모든 채팅 모델과 마찬가지로, 사용자는 System Message를 사용하여 응답의 동작과 형식을 정의할 수 있습니다. 프롬프트의 예시로 다음 시스템 메시지를 사용해보겠습니다.
|
||||
|
||||
```
|
||||
너는 주니어 개발자에게 코딩을 가르칠 수 있는 코딩 도우미야. 언어는 Python이야. 코드를 설명하지는 말고 코드 블록 자체를 생성해.
|
||||
```
|
||||
|
||||
## 기본 예시
|
||||
|
||||
User Message는 사용자가 모델로 생성하고자 하는 특정 코드의 지시를 가진 프롬프트 자체가 됩니다. 아래는 코드 생성을 위한 첫 번째 기초 프롬프트의 스냅샷입니다. 최종 코드는 Assistant로 생성되었음을 인지하시기 바랍니다.
|
||||
|
||||
<Screenshot src={CODE1} alt="CODE1" />
|
||||
|
||||
직접 시도한다면 프롬프트는 다음과 같습니다:
|
||||
|
||||
```
|
||||
사용자에게 이름을 묻고 "안녕하세요"라고 말하는 코드를 작성해.
|
||||
```
|
||||
|
||||
## 주석을 코드로 변환
|
||||
|
||||
이러한 대규모언어모델의 코드 생성 기능을 사용하여 주석만으로도 코드를 생성할 수도 있습니다. 다음은 지시를 주석 블록으로 전달하는 예시입니다:
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
"""
|
||||
1. 영화들을 리스트로 생성해
|
||||
2. 이 영화들의 평점을 리스트로 생성해
|
||||
3. 이들을 결합하여 평점이 매겨진 영화의 json 객체를 10개 만들어.
|
||||
"""
|
||||
```
|
||||
|
||||
*Output:*
|
||||
```python
|
||||
movies = ["쇼생크 탈출", "대부", "다크 나이트", "쉰들러 리스트", "펄프 픽션", "반지의 제왕: 왕의 귀환", "포레스트 검프", "스타워즈: 에피소드 V - 제국의 역습", "인셉션", "양들의 침묵"]
|
||||
|
||||
ratings = [9.3, 9.2, 9.0, 8.9, 8.9, 8.9, 8.8, 8.7, 8.7, 8.6]
|
||||
|
||||
movie_ratings = {}
|
||||
|
||||
for i in range(len(movies)):
|
||||
movie_ratings[movies[i]] = ratings[i]
|
||||
|
||||
json_object = json.dumps(movie_ratings, indent=4)
|
||||
|
||||
print(json_object)
|
||||
```
|
||||
|
||||
생성된 코드는 작동하는 코드처럼 보입니다. 하지만 출력에는 중요한 import 문, 즉 import json이 포함되어 있지 않습니다. 따라서 이러한 모델들이 작동하는 코드를 생성하는 동안, 이와 같은 작은 디테일에 각별히 주의를 기울여야 하며 항상 코드를 테스트해야 합니다.
|
||||
|
||||
## 함수 또는 이후 내용을 완성시키기
|
||||
|
||||
이러한 대규모언어모델은 개발자에게 유용한 GitHub Copilot 같은 툴과도 통합되었습니다. 한가지 유용한 기능은 모델이 함수를 완성하는 것입니다.
|
||||
|
||||
*Prompt:*
|
||||
```python
|
||||
# 두 수를 곱하고 75를 더하는 함수
|
||||
|
||||
def multiply(
|
||||
```
|
||||
|
||||
*Output:*
|
||||
```python
|
||||
a, b):
|
||||
result = a * b
|
||||
result += 75
|
||||
return result
|
||||
```
|
||||
|
||||
## MySQL 쿼리 생성
|
||||
|
||||
위에 등장한 기본 코드 생성의 예시 외에도 모델을 사용하여 MySQL 쿼리 생성 및 테스트와 같은 프로그래밍과 다른 측면으로 사용될 수 있는 유용한 코드를 생성할 수 있습니다.
|
||||
|
||||
프롬프트의 일부를 포함하고 특정 쿼리를 생성하도록 지시할 수 있는 정보가 담긴 데이터세트가 있다고 가정해 보겠습니다. 예를 들어:
|
||||
|
||||
```
|
||||
"""
|
||||
Table departments, columns = [DepartmentId, DepartmentName]
|
||||
Table students, columns = [DepartmentId, StudentId, StudentName]
|
||||
컴퓨터공학과의 모든 학생들의 MySQL 쿼리를 생성해
|
||||
"""
|
||||
```
|
||||
|
||||
*Output:*
|
||||
```mysql
|
||||
SELECT students.StudentId, students.StudentName
|
||||
FROM students
|
||||
INNER JOIN departments
|
||||
ON students.DepartmentId = departments.DepartmentId
|
||||
WHERE departments.DepartmentName = 'Computer Science';
|
||||
```
|
||||
|
||||
모델이 쿼리를 생성합니다! 그러나 이 예제는 생성된 쿼리를 테스트할 데이터베이스가 없는 채로 구성되었습니다. 이 예시를 테스트할 경우 이 데이터베이스를 생성하는 것이 유용할 수도 있습니다. 다행히 ChatGPT로 이를 생성할 수 있습니다. 한 가지 방법은 데이터베이스 스키마를 생성하기 위해 약간 다른 지시를 하여 위 프롬프트의 수정된 버전을 사용하는 것입니다.
|
||||
|
||||
```mysql
|
||||
Table departments, columns = [DepartmentId, DepartmentName]
|
||||
Table students, columns = [DepartmentId, StudentId, StudentName]
|
||||
위 테이블과 컬럼의 유효한 데이터베이스 스키마를 생성해
|
||||
```
|
||||
|
||||
모델은 다음과 같은 스키마를 생성했습니다:
|
||||
|
||||
```mysql
|
||||
CREATE TABLE departments (
|
||||
DepartmentId INT PRIMARY KEY,
|
||||
DepartmentName VARCHAR(50)
|
||||
);
|
||||
|
||||
CREATE TABLE students (
|
||||
DepartmentId INT,
|
||||
StudentId INT PRIMARY KEY,
|
||||
StudentName VARCHAR(50),
|
||||
FOREIGN KEY (DepartmentId) REFERENCES departments(DepartmentId)
|
||||
);
|
||||
```
|
||||
|
||||
[sqliteonline.com](https://sqliteonline.com/)에서 임시 데이터베이스를 만들 수 있습니다.
|
||||
|
||||
기존에 생성된 쿼리가 유효한지 테스트하려면 더미 데이터도 필요합니다. 이것도 ChatGPT를 써봅시다! 프롬프트는 다음과 같습니다:
|
||||
|
||||
```mysql
|
||||
CREATE TABLE departments (
|
||||
DepartmentId INT PRIMARY KEY,
|
||||
DepartmentName VARCHAR(50)
|
||||
);
|
||||
|
||||
CREATE TABLE students (
|
||||
DepartmentId INT,
|
||||
StudentId INT PRIMARY KEY,
|
||||
StudentName VARCHAR(50),
|
||||
FOREIGN KEY (DepartmentId) REFERENCES departments(DepartmentId)
|
||||
);
|
||||
|
||||
위의 데이터베이스 스키마를 바탕으로 각 테이블에 4개의 로우을 포함하는 유효한 Insert 구문을 생성해.
|
||||
```
|
||||
|
||||
Insert 구문이 포함된 출력은 다음과 같습니다:
|
||||
|
||||
```mysql
|
||||
INSERT INTO departments (DepartmentId, DepartmentName)
|
||||
VALUES (1, 'Computer Science'), (2, 'Mathematics'), (3, 'Physics'), (4, 'Biology');
|
||||
|
||||
INSERT INTO students (DepartmentId, StudentId, StudentName)
|
||||
VALUES (1, 101, '철수'), (1, 102, '영희'), (2, 201, '민수'), (2, 202, '길동');
|
||||
```
|
||||
|
||||
이제 데이터베이스와 더미 데이터가 있으므로 기존 쿼리를 테스트할 수 있습니다. 더미 데이터를 기반으로 결과는 철수와 영희가 포함된 두 로우여야 합니다.
|
||||
|
||||
## 코드 설명
|
||||
특정 언어로 프로그래밍을 배운다면 모델이 특정한 몇 가지 코드를 설명하도록 유도하는 것이 유용할 수 있습니다. 위에서 생성한 쿼리를 재사용하여 모델에게 설명을 요청해 봅시다.
|
||||
|
||||
이전과 동일한 Sysyem Message를 사용한다면 모델에 지시하는 방법에 주의하시기 바랍니다. 예를 들어, 다음 예시를 사용하는 경우 모델은 Python의 코딩 도우미라는 이유로 지시를 거부하는 듯하지만 설명은 제공합니다. 모델은 시스템 메시지를 따르도록 설계되었기 때문에 가끔 지시하는 내용을 생성하지 않는 경우가 있습니다.
|
||||
|
||||
*Prompt:*
|
||||
|
||||
```mysql
|
||||
SELECT students.StudentId, students.StudentName
|
||||
FROM students
|
||||
INNER JOIN departments
|
||||
ON students.DepartmentId = departments.DepartmentId
|
||||
WHERE departments.DepartmentName = 'Computer Science';
|
||||
|
||||
위를 SQL 문으로 설명해.
|
||||
```
|
||||
|
||||
*Output:*
|
||||
|
||||
```
|
||||
죄송합니다. Python의 코딩 도우미로서 SQL 코드를 생성할 수 없습니다. 하지만 제공된 SQL 문의 목적을 설명할 수는 있습니다.
|
||||
|
||||
이 SQL 문은 `students` 테이블에서 `StudentId` 및 `StudentName` 컬럼을 선택합니다. 여기서 `departments` 테이블의 `DepartmentName` 컬럼은 'Computer Science'와 같습니다. 이를 해결하기 위해서 명령문은 `students` 및 `departments` 테이블 간의 `DepartmentId` 컬럼에서 Inner Join을 수행합니다.
|
||||
|
||||
쉽게 말해 컴퓨터공학과에 재학 중인 학생의 이름과 아이디를 뽑는 것입니다.
|
||||
```
|
||||
|
||||
## 코드 수정
|
||||
|
||||
해당 페이지는 개발 중에 있습니다.
|
||||
|
||||
## 코드 디버깅
|
||||
|
||||
해당 페이지는 개발 중에 있습니다.
|
||||
|
||||
## 우수 사례
|
||||
|
||||
해당 페이지는 개발 중에 있습니다.
|
||||
|
||||
@ -1,47 +1,44 @@
|
||||
# 데이터 생성
|
||||
일관된 텍스트를 생성하는 것은 LLM이 두각을 나타내는 분야입니다. 효과적인 프롬프트 전략을 사용하면 모델을 조정하여 보다 우수하고 일관적이며 더욱 사실에 입각한 답변을 생성할 수 있습니다. 또한 LLM은 모든 종류의 실험과 평가를 수행하기 위한 유용한 데이터를 생성하는 데 특히 유용합니다. 가령, 다음과 같이 감정 분류기에 대한 빠른 샘플을 생성할 수 있습니다.
|
||||
|
||||
일관된 텍스트를 생성하는 것은 LLMs이 두각을 나타내는 분야입니다. 효과적인 프롬프트 전략을 사용하면 모델을 더 낫고, 일관성 있고, 더 사실에 기반한 답변을 생성할 수 있습니다. LLMs는 여러 종류의 실험과 평가를 수행하는 데 큰 도움이 되는 데이터를 생성하는 데 특히 유용합니다. 예를 들어, 다음과 같이 감정 분석을 위한 10가지 예를 생성해보겠습니다:
|
||||
|
||||
_프롬프트:_
|
||||
|
||||
_Prompt:_
|
||||
```
|
||||
감정 분석을 위한 10가지 예시를 작성해 줘. 예시는 긍정적 혹은 부정적으로 둘 중 하나로 분류할 수 있어. 부정적인 예시 2개와 긍정적인 예시 8개를 생성해줘. 다음 예시와 같은 형식을 사용해줘:
|
||||
감정 분석을 위한 10가지 예시를 작성해 줘. 예시는 긍정적 혹은 부정적 둘 중 하나로 분류할 수 있어. 부정적인 예시 2개와 긍정적인 예시 8개를 생성해줘. 다음 예시와 같은 형식을 사용해줘.
|
||||
Q: <문장>
|
||||
A: <감정>
|
||||
```
|
||||
|
||||
_출력:_
|
||||
|
||||
_Output:_
|
||||
```
|
||||
Q: 나 방금 굉장한 소식을 들었어!
|
||||
A: 긍정
|
||||
A: 긍정적
|
||||
|
||||
Q: 우리 급여가 올랐네요!
|
||||
A: 긍정
|
||||
Q: 우리 급여가 인상되었어!
|
||||
A: 긍정적
|
||||
|
||||
Q: 나는 오늘 내가 성취한 일에 뿌듯함을 느껴.
|
||||
A: 긍정
|
||||
A: 긍정적
|
||||
|
||||
Q: 최고의 하루를 보내고 있어!
|
||||
A: 긍정
|
||||
A: 긍정적
|
||||
|
||||
Q: 이번 주말을 매우 고대하고있어!
|
||||
A: 긍정
|
||||
Q: 이번 주말을 매우 고대하고 있어!
|
||||
A: 긍정적
|
||||
|
||||
Q: 나는 지금 최고의 선물을 받았어!
|
||||
A: 긍정
|
||||
A: 긍정적
|
||||
|
||||
Q: 나는 지금 매우 행복해.
|
||||
A: 긍정
|
||||
A: 긍정적
|
||||
|
||||
Q: 이렇게 훌륭한 가족의 일원으로서 축복받았다고 느껴.
|
||||
A: 긍정
|
||||
Q: 이렇게 훌륭한 가족의 일원이라는 건 정말 축복이야.
|
||||
A: 긍정적
|
||||
|
||||
Q: 바깥 날씨가 굉장히 흐리네요.
|
||||
A: 부정
|
||||
Q: 바깥 날씨가 굉장히 흐려.
|
||||
A: 부정적
|
||||
|
||||
Q: 방금 끔찍한 소식을 들었어요.
|
||||
A: 부정
|
||||
Q: 방금 끔찍한 소식을 들었어.
|
||||
A: 부정적
|
||||
```
|
||||
|
||||
이는 매우 유용합니다. 실제로 이 가이드의 또 다른 섹션의 테스트에서 이 예시를 사용하고 있을정도로요.
|
||||
이는 매우 유용합니다. 이 가이드의 다른 섹션의 테스트에서 실제로 이 예시를 사용하고 있을 정도로요.
|
||||
|
||||
@ -1,3 +1,107 @@
|
||||
# Prompt Function
|
||||
# 프롬프트 함수(Prompt Function)
|
||||
|
||||
Needs translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side.
|
||||
## 도입
|
||||
GPT의 대화 인터페이스와 프로그래밍 언어의 쉘(shell)을 유사하게 생각하면 프롬프트(prompt)를 캡슐화(encapsulation) 하는 것은 함수를 생성하는 것으로 생각할 수 있습니다. 이 함수는 고유한 이름을 가지며, 입력 텍스트와 함께 이 이름을 호출하면, 설정된 내부 규칙에 따라 결과를 생성합니다. 간단히 말해, GPT를 쉽게 사용할 수 있도록 이름과 함께 재사용 가능한 프롬프트를 만든다는 것입니다. GPT가 우리 대신 특정 작업을 수행하는 편리한 도구가 되는 것과 같습니다. - 우리는 그냥 입력을 주고, 원하는 결과를 돌려 받는 것입니다.
|
||||
|
||||
프롬프트를 함수로 캡슐화하여, 일련의 함수를 만들어 워크플로우(workflow)를 만들 수 있습니다. 각각의 함수는 특정 단계 혹은 작업을 나타내며, 특정 순서로 작업을 결합하면 복잡한 프로세스(process)를 자동화하거나 문제를 보다 효율적으로 해결할 수 있습니다. 이 접근법을 통해 GPT와 보다 체계적이고 간소화된 상호작용이 가능해져, 궁극적으로 GPT의 기능을 향상하고, GPT를 다양한 작업을 수행할 수 있는 강력한 도구로 만듭니다.
|
||||
|
||||
함수를 사용하기 전에 GPT에 함수에 대해 알려줘야 합니다. 다음은 함수를 정의하는 프롬프트입니다.
|
||||
|
||||
*Prompt:*
|
||||
> 이 프롬프트를 **메타 프롬프트(meta prompt)** 라고 부릅시다.
|
||||
이 프롬프트는 GPT 3.5에서 실행되었고, GPT 4에서 더 잘됩니다.
|
||||
|
||||
```
|
||||
안녕 ChatGPT! 그동안 잘 지냈니? 나는 특정 함수를 통해 너의 도움을 받고 싶어. 나는 네가 제공된 지침에 따라 다양한 작업을 수행할 수 있는 기능이 있다고 알고 있어. 내 요청을 알아듣기 쉽도록 함수, 입력 그리고 입력에 대한 지시사항을 설명하는 탬플릿을 쓸거야. 아래 자세한 내용을 확인해.
|
||||
|
||||
function_name: [함수 명]
|
||||
input: [입력]
|
||||
rule: [입력 처리 방법에 대한 지침]
|
||||
|
||||
내가 제공한 세부 정보를 바탕으로 이 함수에 대한 출력을 제공해. 도와주면 좋겠어. 땡큐!
|
||||
대괄호 안의 텍스트는 내가 수행하고자 하는 기능에 대한 관련 정보로 대체할 거야. 이렇게 자세히 소개하면 내 요청을 더 효율적으로 이해하고 원하는 출력을 제공하는데 도움이 될거야. 형식은 function_name(input) 이며, 이해했으면 ok 한 단어만 출력해.
|
||||
|
||||
```
|
||||
|
||||
|
||||
## 예시
|
||||
|
||||
### 영어 공부 도우미
|
||||
예를 들어 영어 공부를 돕기 위해 GPT를 사용한다고 가정해 보겠습니다. 일련의 함수를 만들어 프로세스를 단순화할 수 있습니다.
|
||||
|
||||
이 프롬프트는 GPT 3.5에서 실행되었고, GPT 4에서 더 잘됩니다.
|
||||
|
||||
#### 함수 설명
|
||||
|
||||
위에서 정의한 **메타 프롬프트**를 GPT에 먼저 붙여 넣어야 합니다.
|
||||
|
||||
다음으로 우리는 `trans_word`라는 함수를 만들 것입니다.
|
||||
이 프롬프트 함수는 GPT가 중국어를 영어로 번역하게 만듭니다.
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
function_name: [trans_word]
|
||||
input: ["텍스트"]
|
||||
rule: [너는 영어 번역가, 맞춤법 교정자이자 언어 개선자야. 내가 어떤 언어로든 "텍스트"를 포함한 입력 양식을 제공하면, 내 텍스트를 영어로 번역해.]
|
||||
```
|
||||
|
||||
|
||||
텍스트를 확장하는 함수를 작성해 봅니다.
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
function_name: [expand_word]
|
||||
input: ["텍스트"]
|
||||
rule: [너는 투머치토커인 맞춤법 교정자이자 언어 개선자야. 어떤 언어로든 "텍스트"를 포함한 입력 양식과 원어 출력을 제공할테니 원래 언어로 출력해줘. 의미는 유지하면서 문학적으로 바꿔줘.]
|
||||
```
|
||||
거야
|
||||
텍스트를 교정하는 함수를 작성합니다.
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
function_name: [fix_english]
|
||||
input: ["텍스트"]
|
||||
rule: [영어 마스터이자 맞춤법 교정자 및 언어 개선자로 일해. "텍스트"를 포함한 입력 양식을 줄거야. 이 입력을 좀 더 자연스럽고 우아한 어휘와 문장을 사용해서 개선해줘. 의미는 유지한 채로.]
|
||||
```
|
||||
마지막으로 함수를 독립적으로 실행하거나 함께 연결(chain)할 수 있습니다.
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
trans_word('婆罗摩火山处于享有“千岛之国”美称的印度尼西亚. 多岛之国印尼有4500座之多的火山, 世界著名的十大活火山有三座在这里.')
|
||||
fix_english('Finally, you can run the function independently or chain them together.')
|
||||
fix_english(expand_word(trans_word('婆罗摩火山处于享有“千岛之国”美称的印度尼西亚. 多岛之国印尼有4500座之多的火山, 世界著名的十大活火山有三座在这里.')))
|
||||
```
|
||||
함수를 이 형식으로 표현하면 각 함수의 이름, 입력, 입력을 처리하는 규칙을 명확하게 볼 수 있습니다. 이를 통해 워크플로우의 각 단계의 기능과 목적을 체계적으로 이해할 수 있습니다.
|
||||
|
||||
_팁:_
|
||||
ChatGPT가 과도한 정보를 출력하지 않도록 하려면 함수의 규칙을 정의한 후 아래 문장을 추가하면 됩니다.
|
||||
```
|
||||
이해했으면 OK만 출력해
|
||||
```
|
||||
|
||||
### 다중 파라미터(params) 함수
|
||||
5개의 입력 파라미터를 받아 비밀번호를 생성하는 함수를 만들어 봅시다!
|
||||
|
||||
*Prompt:*
|
||||
```
|
||||
function_name: [pg]
|
||||
input: ["길이", "대문자", "소문자", "숫자", "특수문자"]
|
||||
rule: [너는 안전한 비밀번호를 원하는 개인을 위한 비밀번호 생성기야. "길이", "대문자", "소문자", "숫자", 그리고 "특수문자" 이렇게 5개 입력을 줄거야. 주어진 입력을 사용해 복잡한 비밀번호를 생성해. 설명이나 부가 정보 없이 그냥 생성한 비밀번호만 반환해. 예를 들어 길이 = 8, 대문자 = 1, 소문자 = 5, 숫자 = 2, 특수문자 = 1이 주어지면 출력은 "D5%t9Bgf" 등의 비밀번호가 되는 거야.]
|
||||
```
|
||||
```
|
||||
pg(길이 = 10, 대문자 = 1, 소문자 = 5, 숫자 = 2, 특수문자 = 1)
|
||||
pg(10,1,5,2,1)
|
||||
```
|
||||
|
||||
### 생각
|
||||
현재, 다음과 같이 많은 프로젝트 들에서 GPT 프롬프팅을 사용하고 있습니다. 예는 다음과 같습니다.
|
||||
- [GitHub Copilot](https://github.com/features/copilot)
|
||||
- [Microsoft AI](https://www.microsoft.com/en-us/ai)
|
||||
- [chatgpt-plugins](https://openai.com/blog/chatgpt-plugins)
|
||||
- [LangChain](https://github.com/hwchase17/langchain)
|
||||
- [marvin](https://github.com/PrefectHQ/marvin)
|
||||
|
||||
하지만 이 프로젝트들은 제품의 구매자 혹은 파이썬(Python) 이나 다른 프로그래밍 언어를 작성할 수 있는 사람들을 대상으로 합니다.
|
||||
일반 유저들은 간단한 탬플릿을 일상에 반복적으로 사용합니다. 노트 애플리케이션을 이용해 함수를 작성하고 라이브러리로 업데이트 할 수도 있습니다.
|
||||
대체제로 [ChatGPT-Next-Web](https://github.com/Yidadaa/ChatGPT-Next-Web), [chatbox](https://github.com/Bin-Huang/chatbox), [PromptAppGPT](https://github.com/mleoking/PromptAppGPT), 그리고 [ChatGPT-Desktop](https://github.com/lencx/ChatGPT) 등의 몇몇 오픈 소스 ChatGPT 도구를 사용할 수 있습니다. 현재 ChatGPT-Next-Web은 새로운 채팅을 시작하기 전 퓨샷(few-shot)을 더하는 것을 허용합니다. PromptAppGPT는 프롬프트 템플릿을 기반으로 한 웹 애플리케이션을 로우-코드(low-code)로 작성할 수 있게 하여, AutoGPT 비슷한 애플리케이션을 프롬프트 몇 라인으로 만들 수 있도록 합니다.
|
||||
이러한 도구들을 이용해 함수를 만들고 사용할 수 있습니다.
|
||||
|
||||
@ -1,9 +1,18 @@
|
||||
# Prompt Engineering Guide
|
||||
# 프롬프트 엔지니어링 가이드
|
||||
|
||||
프롬프트 엔지니어링은 다양한 어플리케이션과 연구 주제에 언어 모델(LMs)을 효율적으로 사용할 수 있도록 프롬프트를 개발하고 최적화하는 비교적 새로운 분야입니다. 프롬프트 엔지니어링 기술은 대규모 언어 모델(LLMs)의 기능과 한계를 더 잘 이해하는 데 도움이 됩니다.
|
||||
프롬프트 엔지니어링은 다양한 애플리케이션과 연구 주제에 언어모델(LM)을 효율적으로 사용할 수 있도록 프롬프트를 개발하고 최적화하는 비교적 새로운 분야입니다. 프롬프트 엔지니어링 기술은 대규모언어모델(LLM)의 기능과 한계를 더 잘 이해하는 데 도움이 됩니다.
|
||||
|
||||
연구자들은 프롬프트 엔지니어링을 사용하여 질의응답 및 산술 추론과 같은 일반적이고 복잡한 작업에서 LLMs의 역량을 향상시킵니다. 개발자는 프롬프트 엔지니어링을 사용하여 LLMs 및 기타 도구와 인터페이스하는 강력하고 효과적인 프롬프트 기술을 설계합니다.
|
||||
연구자는 프롬프트 엔지니어링을 사용하여 질의응답 및 산술 추론과 같은 일반적 작업부터 복잡한 작업까지 다양한 범위에서 LLM의 역량을 향상시킵니다. 개발자는 프롬프트 엔지니어링을 사용하여 LLM 및 기타 도구와 인터페이스를 형성하는 강력하고 효과적인 프롬프트 기술을 설계합니다.
|
||||
|
||||
프롬프트 엔지니어링은 단순히 프롬프트를 설계하고 개발하는 것만이 아닙니다. 프롬프트 엔지니어링은 LLMs과 상호 작용하고 개발하는데 유용한 다양한 스킬과 기법을 포함합니다. 프롬프트 엔지니어링은 LLMs과 인터페이스하고, 빌드하고, LLMs의 기능을 이해하는데 중요한 기술입니다. 신속한 엔지니어링을 사용하여 LLMs의 안전성을 개선하고 도메인 지식 및 외부 도구로 LLMs을 보강하는 등 새로운 기능을 구축할 수 있습니다.
|
||||
프롬프트 엔지니어링은 단순히 프롬프트를 설계하고 개발하는 것만이 아닙니다. 프롬프트 엔지니어링은 LLM과 상호 작용 하고 개발하는 데 유용한 다양한 기술과 기법을 포함합니다. 프롬프트 엔지니어링은 LLM과 인터페이스를 형성하고, 빌드하고, LLM의 기능을 이해하는 데 중요한 기술입니다. 프롬프트 엔지니어링을 사용하여 LLM의 안전성을 개선하고 도메인 지식 및 외부 도구를 통해 LLM을 확장하는 등 새로운 기능을 구축할 수 있습니다.
|
||||
|
||||
LLMs을 사용한 개발에 대한 높은 관심덕에 프롬프트 엔지니어링과 관련된 모든 최신 논문, 학습 가이드, 모델, 강의, 참고 자료, 새로운 LLM 기능 및 도구가 포함된 이 새로운 프롬프트 엔지니어링 가이드를 만들었습니다.
|
||||
LLM을 기반으로 한 개발에 대한 높은 관심에 힘입어 이 새로운 프롬프트 엔지니어링 가이드를 만들었습니다. 프롬프트 엔지니어링에 관한 모든 최신 논문, 학습 가이드, 모델, 강의, 참고 문헌, 새로운 LLM 기능 및 도구가 포함되어 있습니다.
|
||||
|
||||
---
|
||||
높은 수요로 인해 Maven과의 제휴를 통해 [LLM을 위한 프롬프트 엔지니어링에 대한 코호트 기반 과정(Prompt Engineering for LLMs)](https://maven.com/dair-ai/prompt-engineering-llms)을 새롭게 제공하게 되었습니다.
|
||||
|
||||
이 과정에서는 Meta AI 및 Elastic과 같은 회사에서 근무하며 AI 및 LLM 분야에서 다년간의 경험을 쌓은 [Elvis Saravia](https://www.linkedin.com/in/omarsar/)가 강사로 함께합니다.
|
||||
|
||||
이 실습 과정에서는 대규모언어모델(LLM)을 통한 효과적인 작업과 구축을 위해 프롬프트 엔지니어링의 기법 및 도구, 사용 사례, 연습, 프로젝트를 다룹니다.
|
||||
|
||||
본 과정의 기존 수강자는 링크드인(LinkedIn), 아마존(Amazon), JP모건 체이스(JPMorgan Chase & Co), 인튜이트(Intuit), 피델리티 인베스트먼트(Fidelity investments), 코인베이스(Coinbase), 구루(Guru) 등 다양한 조직의 소프트웨어 엔지니어부터 AI 연구자 및 실무자에 이르기까지 넓은 범위에 걸쳐 활약하고 있습니다.
|
||||
@ -1,7 +1,7 @@
|
||||
{
|
||||
"settings": "LLM 설정",
|
||||
"basics": "기본 프롬프팅",
|
||||
"elements": "프롬프트의 요소",
|
||||
"tips": "프롬프트 디자인 팁",
|
||||
"basics": "프롬프트의 기초",
|
||||
"elements": "프롬프트의 구성 요소",
|
||||
"tips": "프롬프트 설계에 관한 일반적인 팁",
|
||||
"examples": "프롬프트 예시"
|
||||
}
|
||||
|
||||
@ -1,15 +1,15 @@
|
||||
# 프롬프트의 구성 요소
|
||||
|
||||
프롬프트 엔지니어링을 접목한 여러 응용 프로그램을 반복해서 사용하다 보면, 프롬프트를 구성하는 특정 요소들이 있다는 것을 알 수 있습니다.
|
||||
프롬프트 엔지니어링을 접목한 여러 애플리케이션을 반복해서 사용하다 보면, 프롬프트에는 특정 구성 요소들이 있다는 것을 알 수 있습니다.
|
||||
|
||||
프롬프트는 다음과 같은 구성 요소를 포함할 수 있습니다:
|
||||
프롬프트에는 다음 구성 요소들이 있습니다:
|
||||
|
||||
**명령** - 모델이 수행할 특정 작업 또는 명령
|
||||
**지시(Instruction)** - 모델이 수행할 특정 작업 또는 지시
|
||||
|
||||
**문맥** - 외부 정보나 추가 맥락이 포함될 수 있으며 이는 모델이 더 나은 응답을 하도록 돕습니다.
|
||||
**문맥** - 더 나은 응답을 위해 모델을 조종할 수 있는 외부 정보나 추가 문맥
|
||||
|
||||
**입력 데이터** - 응답받고자 하는 입력이나 질문
|
||||
|
||||
**출력 지시자** - 출력의 유형이나 형식을 나타냅니다.
|
||||
**출력 지시자** - 출력의 유형이나 형식
|
||||
|
||||
위의 모든 요소가 프롬프트에 필요한 것은 아니며 어떤 작업을 하느냐에 따라 포맷은 달라질 수 있습니다. 이어지는 가이드에서 더 구체적인 예를 다루겠습니다.
|
||||
위의 네 가지 구성 요소가 프롬프트에 모두 필요한 것은 아니며 형식은 어떤 작업인지에 따라 달라질 수 있습니다. 이어지는 가이드에서 더 구체적인 예시를 다루겠습니다.
|
||||
|
||||
@ -1,11 +1,11 @@
|
||||
# LLM 설정
|
||||
|
||||
프롬프트를 사용 시 API를 사용하거나 직접 LLM과 소통할 것입니다. 몇 가지 파라미터를 설정함으로써 프롬프트에 별 다른 결과를 얻을 수 있습니다.
|
||||
프롬프트를 사용할 때, API를 사용하거나 직접 대규모언어모델(LLM)과 상호 작용 할 수 있습니다. 몇 가지 파라미터를 설정하여 프롬프트에서 여러 가지 결과를 얻을 수 있습니다.
|
||||
|
||||
**Temperature** - 간단히 말해서, `temperature`값이 낮을수록 가장 확률이 높은 응답(token)이 항상 선택되기 때문에 결과는 더 결정론적입니다. 이 값을 올리면 랜덤성이 증가하여 보다 다양하고 창조적인 결과물을 배출합니다. 즉, 엉뚱한(?) 답변의 가능성이 있는 쪽으로 무게를 늘리는 셈입니다. QA와 같은 작업을 위해 사실기반의 간결한 응답을 원한다면 더 낮은 temperature값을 사용해야겠지요. 반대로 시를 창작하는 등의 창의적인 작업의 경우 temperature 값을 높이는 것이 적합할 것입니다.
|
||||
**Temperature** - 요컨대, `temperature` 값이 낮을수록 항상 가장 확률이 높은 토큰(말뭉치의 최소 단위)이 선택되기 때문에 더 결정론적인 결과를 낳습니다. temperature 값을 높였을 때 모델이 선택하는 토큰의 무작위성이 증가하여 보다 다양하고 창조적인 결과를 촉진합니다. 이는 다른 가능한 토큰의 가중치를 증가시키는 것과 같습니다. 애플리케이션의 경우, 사실을 기반으로 하는 질의응답과 같은 작업에는 낮은 temperature 값을 사용하여 보다 사실적이고 간결한 응답을 얻을 수 있습니다. 시를 생성하는 등 다른 창의적인 작업의 경우에는 temperature 값을 높이는 것이 도움이 될 수 있습니다.
|
||||
|
||||
**Top_p** - 마찬가지로, 핵 샘플링이라고 불리는 샘플링 기법인 `top_p`에서는 모델이 응답을 생성할 때 결정성을 제어할 수 있습니다. 사실에 근거한 답변을 원한다면 이 값을 낮추고, 더 다채로운 답변을 원한다면 더 높은 값으로 조정하세요.
|
||||
**Top_p** - 마찬가지로, temperature를 활용하는 핵 샘플링 기법인 `top_p`를 사용하면 모델이 응답을 생성하는 결정성을 제어할 수 있습니다. 정확하고 사실적인 답변을 원한다면 이를 낮게 유지합니다. 더 다양한 반응을 원한다면 더 높은 값으로 증가시킵니다.
|
||||
|
||||
일반적으로는 둘 중 하나를 변경하는 것을 권장합니다.
|
||||
일반적인 권장 사항은 둘 중 하나만 변경하는 것입니다.
|
||||
|
||||
기본적인 예시를 살펴보기에 앞서, 사용하는 LLM 버전에 따라 결과가 상이할 수 있음을 알립니다.
|
||||
몇 가지 기본적인 예시를 살펴보기에 앞서, 사용하는 LLM 버전에 따라 결과가 상이할 수 있음을 알립니다.
|
||||
|
||||
@ -1,82 +1,82 @@
|
||||
# 지시에 따라 파인튜닝된(Instruction-Finetuned) 언어 모델 스케일링
|
||||
|
||||
import {Screenshot} from 'components/screenshot'
|
||||
import FLAN1 from '../../img/flan-1.png'
|
||||
import FLAN2 from '../../img/flan-2.png'
|
||||
import FLAN3 from '../../img/flan-3.png'
|
||||
import FLAN4 from '../../img/flan-4.png'
|
||||
import FLAN5 from '../../img/flan-5.png'
|
||||
import FLAN6 from '../../img/flan-6.png'
|
||||
import FLAN7 from '../../img/flan-7.png'
|
||||
import FLAN8 from '../../img/flan-8.png'
|
||||
import FLAN9 from '../../img/flan-9.png'
|
||||
import FLAN10 from '../../img/flan-10.png'
|
||||
import FLAN11 from '../../img/flan-11.png'
|
||||
|
||||
## What's new?
|
||||
import { Screenshot } from "components/screenshot";
|
||||
import FLAN1 from "../../img/flan-1.png";
|
||||
import FLAN2 from "../../img/flan-2.png";
|
||||
import FLAN3 from "../../img/flan-3.png";
|
||||
import FLAN4 from "../../img/flan-4.png";
|
||||
import FLAN5 from "../../img/flan-5.png";
|
||||
import FLAN6 from "../../img/flan-6.png";
|
||||
import FLAN7 from "../../img/flan-7.png";
|
||||
import FLAN8 from "../../img/flan-8.png";
|
||||
import FLAN9 from "../../img/flan-9.png";
|
||||
import FLAN10 from "../../img/flan-10.png";
|
||||
import FLAN11 from "../../img/flan-11.png";
|
||||
|
||||
## 새로운 소식은 무엇인가요?
|
||||
|
||||
<Screenshot src={FLAN1} alt="FLAN1" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
이 논문은 [지시에 따른 파인튜닝](https://arxiv.org/pdf/2109.01652.pdf)의 스케일링에서의 장점을 알아보며, 다양한 모델(PaLM, T5)과 프롬프트 셋업(zero-shot, few-shot, CoT), 벤치마크(MMLU, TyDiQA)에서 어떻게 성능을 개선하는지를 알아봅니다. 이는 다음 측면에서 실험되었습니다: 작업 수의 스케일링 (1.8K 작업), 모델 크기의 스케일링 및 사고 연쇄 데이터의 파인튜닝 (9개의 데이터 세트 사용).
|
||||
이 논문은 [지시에 따른 파인튜닝](https://arxiv.org/pdf/2109.01652.pdf)의 스케일링에서의 장점을 알아보며 다양한 모델(PaLM, T5)과 프롬프팅 설정(zero-shot, few-shot, CoT), 벤치마크(MMLU, TyDiQA)에서 어떻게 성능을 개선하는지를 다룹니다. 이는 다음과 같은 측면에서 탐구되었습니다: 작업 수의 스케일링 (1,800개의 작업), 모델 크기의 스케일링 및 생각의 사슬(Chain of Tought) 데이터의 파인튜닝 (9개의 데이터셋 사용).
|
||||
|
||||
**파인튜닝 절차:**
|
||||
- 1.8K개의 작업이 명렁으로 구성되어 모델을 파인튜닝하는 데 사용되었습니다.
|
||||
- 예시가 있는 경우와 그렇지 않은 경우, CoT가 있는 경우와 그렇지 않은 경우 모두 사용되었습니다.
|
||||
|
||||
파인튜닝된 작업과 유보된 작업이 아래에 나와있습니다:
|
||||
- 1,800개의 작업을 지시사항으로 모델을 파인튜닝 하는 데 활용했습니다.
|
||||
- 예시가 있는 경우와 없는 경우, CoT(Chain of Tought)가 있는 경우와 그렇지 않은 경우 모두 적용했습니다.
|
||||
|
||||
Finetuning 및 Held-out 작업은 다음과 같습니다:
|
||||
|
||||
<Screenshot src={FLAN11} alt="FLAN11" />
|
||||
|
||||
## 기능 및 주요 결과
|
||||
## 기능 및 주요 결과(Capabilities & Key Results)
|
||||
|
||||
- 명령의 파인튜닝은 작업 개수와 모델의 크기에 따라 잘 확장될 수 있습니다; 이는 작업의 개수와 모델의 크기를 더 확장할 필요가 있다는 것을 의미합니다.
|
||||
- 파인튜닝을 할 때 CoT 데이터셋을 추가하면 추론 작업에서 좋은 성능을 보여줄 수 있습니다.
|
||||
- Flan-PaLM은 다국어 능력을 향상시켰습니다; one-shot TyDiQA에서 14.9%; 과소대표 언어로 작성된 산술 추론에서 8.1% 개선이 있었습니다.
|
||||
- Plan-PaLM은 또한 open-ended 생성 질문에서도 잘 수행되며, 이는 사용성이 향상된 것을 알 수 있는 좋은 지표입니다.
|
||||
- 책임 있는 AI (RAI) 벤치마크에서도 성능이 개선되었습니다.
|
||||
- Flan-T5 instruction tuned 모델은 강력한 퓨샷(few-shot) 성능을 보여주며, T5와 같은 공개 체크포인트보다 뛰어난 성능을 보여줍니다.
|
||||
- 지시에 따른 파인튜닝은 작업의 수와 모델의 크기와 함께 향상될 수 있습니다; 이는 작업의 수와 모델의 크기를 더욱 확장해야 함을 시사합니다.
|
||||
- CoT 데이터셋을 파인튜닝에 추가하면 추론 작업에서 우수한 성능을 보여줍니다.
|
||||
- Flan-PaLM은 다국어 능력을 향상했습니다.; one-shot TyDiQA에서 14.9%; under-represented languages 산술적 추론에서 8.1% 개선을 보였습니다.
|
||||
- Plan-PaLM은 또한 확장할 수 있는(open-ended) 생성 질문에서도 우수한 성능을 보여주며, 이는 사용성이 향상된 것을 알 수 있는 좋은 지표입니다.
|
||||
- Responsible AI (RAI) 벤치마크에서도 성능을 향상했습니다.
|
||||
- Flan-T5 instruction tuned 모델은 강력한 퓨샷(few-shot) 성능을 보여주며, T5(Text-to-Text Transfer Transformer)와 같은 사전 훈련된 모델(public checkpoint)보다 뛰어난 성능을 보여줍니다.
|
||||
|
||||
**Finetuning하는 작업의 개수와 모델의 크기를 확장하는 경우 결과는 다음과 같습니다.** 모델 크기와 finetuning 작업 수 모두를 확장하면 성능이 계속해서 향상될 것으로 예상되지만, 작업 수를 계속해서 증가시키는 것은 점차적으로 성능 향상이 감소되었습니다.
|
||||
**파인튜닝 하는 작업의 수와 모델의 크기를 확장하는 경우 결과는 다음과 같습니다:** 모델의 크기와 작업의 수 모두 확장 시 성능이 지속해서 향상할 것으로 예상되지만, 작업 수를 증가시킬 시 성능 향상의 이득이 감소했습니다.
|
||||
|
||||
<Screenshot src={FLAN2} alt="FLAN2" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
**CoT 데이터와 비-CoT 데이터를 사용하여 finetuning하는 경우 결과는 다음과 같습니다:** 비-CoT 및 CoT 데이터를 공동으로 finetuning하면, 하나만 사용했을 때보다 양쪽 모두 사용했을 때의 평가 성능이 높았습니다.
|
||||
**CoT 데이터와 비-CoT 데이터로 파인튜닝을 한 결과:** 비-CoT 및 CoT 데이터를 공동으로 파인튜닝 하면, 하나만 파인튜닝 하는 것보다 평가 성능이 향상합니다.
|
||||
|
||||
<Screenshot src={FLAN3} alt="FLAN3" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
또한, 자기 일관성(self-consistency)과 CoT를 결합하면 몇 가지 벤치마크에서 SoTA 결과를 달성합니다. CoT + 자기 일관성은 수학 문제를 포함하는 벤치마크(MGSM, GSM8K 등)에서 결과를 크게 향상시킵니다.
|
||||
또한, 자기 일관성(self-consistency)과 CoT를 결합하면 몇몇 벤치마크에서 최고 성능(SoTA) 결과를 달성합니다. CoT + 자기 일관성은 수학 문제를 포함하는 벤치마크(MGSM, GSM8K 등)에서 결과를 상당히 향상합니다.
|
||||
|
||||
<Screenshot src={FLAN4} alt="FLAN4" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
CoT finetuning을 추가함으로써 BIG-Bench 작업에서 제로샷 추론이 가능해졌습니다. 일반적으로, finetuning하지 않은 제로샷 CoT PaLM보다 제로샷 CoT Flan-PaLM의 성능이 우수합니다.
|
||||
CoT 파인튜닝은 BIG-Bench(Beyond the limitation Game Benchmark) 작업에서 제로샷(zero-shot) 추론이 가능하게 합니다. 일반적으로, 제로샷 CoT Flan-PaLM은 파인튜닝 하지 않은 CoT PaLM 보다 성능이 우수합니다.
|
||||
|
||||
<Screenshot src={FLAN6} alt="FLAN6" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
아래는 PaLM과 Flan-PalM 에서 제로샷 CoT에 대한 설명입니다.
|
||||
아래는 PaLM과 Flan-PaLM의 제로샷 CoT에 대한 일부 보이지 않는 작업의 설명입니다.
|
||||
|
||||
<Screenshot src={FLAN5} alt="FLAN5" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
아래는 제로샷(zero-shot) 프롬프팅에 대한 예시입니다. PaLM은 같은 질문을 반복하게 하거나 질문에 대답하지 못하지만 Flan-PaLM은 잘 동작합니다. Few-shot 예시를 사용하면 이러한 에러를 줄일 수 있습니다.
|
||||
아래는 제로샷 프롬프팅에 대한 더 많은 예시입니다. 이는 제로샷 환경에서 PaLM이 반복 및 지시에 응답하지 못하는 문제가 있지만, Flan-PaLM은 잘 수행할 수 있음을 보여줍니다. 퓨샷 예시를 사용 시 이러한 오류를 줄일 수 있습니다.
|
||||
|
||||
<Screenshot src={FLAN7} alt="FLAN7" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
아래는 다양한 유형의 도전적인 open-ended 질문에서 Flan-PALM 모델의 더 많은 제로샷(zero-shot) 성능을 보여주는 몇 가지 예시입니다:
|
||||
아래는 다양하며 도전적인 확장성 있는 질문에 Flan-PALM 모델이 더 많은 제로샷 성능을 보여 즐 수 있다는 몇 가지 예시입니다:
|
||||
|
||||
<Screenshot src={FLAN8} alt="FLAN8" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
|
||||
<Screenshot src={FLAN9} alt="FLAN9" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
<Screenshot src={FLAN10} alt="FLAN10" />
|
||||
이미지 출처: [Scaling Instruction-Finetuned Language Models](https://arxiv.org/abs/2210.11416)
|
||||
|
||||
[Flan-T5 모델](https://huggingface.co/google/flan-t5-xxl)을 Hugging Face Hub에서 사용해보실 수 있습니다.
|
||||
[Flan-T5 모델](https://huggingface.co/google/flan-t5-xxl)을 Hugging Face Hub에서 사용해보실 수 있습니다.
|
||||
|
||||
@ -1,37 +1,33 @@
|
||||
# 사실성
|
||||
|
||||
LLM은 일관성과 설득력을 지닌 응답을 생성하는 경향이 있지만 때로는 조작된 것일 수 있습니다. 프롬프트를 개선함으로써 보다 정확하고 사실에 기반한 응답을 생성하도록 사실에 어긋난 응답을 생성할 가능성을 줄일 수 있습니다.
|
||||
LLM은 일관적이고 설득력 있는 응답을 생성하는 편이지만 가끔 지어낸 응답을 되돌려줄 수도 있습니다. 프롬프트를 개선함으로써 모델이 보다 정확하고 사실에 기반한 응답을 생성하게끔 하고, 동시에 일관성 없는 응답을 지어낼 가능성을 줄일 수 있습니다.
|
||||
|
||||
몇 가지 해결책은 다음과 같습니다:
|
||||
다음과 같은 몇 가지 해결책이 있습니다:
|
||||
|
||||
- 모델이 조작 텍스트를 생성할 가능성을 줄이기 위해 컨텍스트의 일부로서 근본에 가까운 정답(예를 들어 관련 기사 단락이나 Wikipedia 엔트리)을 제공하기
|
||||
- 확률 파라미터의 개수를 줄이고 답을 모르는 경우에는 (예를 들어, 모르겠어요)라고 인정하도록 지시함으로써 모델이 엉뚱한 대답을 하지않도록 설정하기
|
||||
- 프롬프트에 알고 있는 것과 모르는 것의 양쪽 질문과 응답의 예시를 조합하기
|
||||
- 모델이 텍스트를 허구로 지어내 생성할 가능성을 줄이기 위해 맥락의 일부로 연관 기사 또는 위키백과 문서와 같은 근간이 되는 정보를 제공합니다.
|
||||
- 확률 매개변수(probability parameter)를 줄이고 모를 때는 모른다고 인정하도록 지시함으로써 보다 덜 다양한 응답을 생성하도록 모델을 설정합니다.
|
||||
- 예시로 답을 아는 경우와 모르는 경우의 질문-응답 조합을 프롬프트에 제공합니다.
|
||||
|
||||
간단한 예시를 살펴봅시다:
|
||||
간단한 예시를 한번 살펴보도록 하겠습니다:
|
||||
|
||||
_프롬프트:_
|
||||
_Prompt:_
|
||||
|
||||
```
|
||||
Q: 원자가 뭐야?
|
||||
A: 원자란 모든 것을 구성하는 작은 입자입니다.
|
||||
|
||||
Q: Alvan Muntz가 누구야?
|
||||
A: ?
|
||||
|
||||
Q: Kozar-09가 뭐야?
|
||||
A: ?
|
||||
|
||||
Q: 화성에는 위성이 몇 개 있어?
|
||||
A: 포보스와 데이모스라는 두 가지의 위성이 있습니다.
|
||||
|
||||
A: 포보스와 데이모스라는 두 개의 위성이 있습니다.
|
||||
Q: Neto Beto Roberto가 누구야?
|
||||
```
|
||||
|
||||
_출력:_
|
||||
_Output:_
|
||||
|
||||
```
|
||||
A: ?
|
||||
```
|
||||
|
||||
'Neto Beto Roberto'는 제가 그냥 지어낸 이름이기 때문에 모델은 알맞은 대답을 한 셈입니다. 질문에 변형을 가해서 모델이 제대로 답변하는 지 실험해보세요. 지금까지 배워온 것을 바탕으로 더 개선하는 여러 방법이 있습니다.
|
||||
'Neto Beto Roberto'는 제가 그냥 지어낸 이름이기 때문에 이 경우 모델은 정확히 대답을 한 셈입니다. 질문을 조금 바꿔서 모델이 제대로 답변하는지 실험해 보세요. 지금까지 배운 것을 바탕으로 이 문제를 개선할 수 있는 여러 방법이 있습니다.
|
||||
|
||||
@ -1,3 +1,25 @@
|
||||
# Automatic Reasoning and Tool-use (ART)
|
||||
|
||||
This page needs a translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side.
|
||||
import { Callout, FileTree } from 'nextra-theme-docs'
|
||||
import {Screenshot} from 'components/screenshot'
|
||||
import ART from '../../img/ART.png'
|
||||
import ART2 from '../../img/ART2.png'
|
||||
|
||||
생각의 사슬(chain-of-thought; CoT)프롬프팅과 도구를 교차적으로 결합하는 것은 대규모언어모델로 많은 작업을 처리하는 강력하고 견고한 접근방식인 것으로 밝혀졌습니다. 이러한 접근법들은 일반적으로 작업 특정 시연을 수작업으로 제작하고, 주의 깊게 교차하여 모델을 생성하고 도구를 사용해야 합니다. [Paranjape et al., (2023)](https://arxiv.org/abs/2303.09014)은 프로그램으로 중간 추론 단계를 자동 생성하기 위해 frozen 대규모언어모델을 사용하는 새로운 프레임워크를 제안합니다.
|
||||
|
||||
ART는 다음과 같이 작동합니다:
|
||||
- 새로운 작업이 주어지면 작업 라이브러리에서 다단계의 추론 및 도구 사용 시연을 선택합니다.
|
||||
- 테스트 시에는 외부 도구가 호출될 때마다 생성을 일시 중단하고, 생성을 재개하기 전에 그 출력들을 통합합니다.
|
||||
|
||||
ART는 모델이 시연들로부터 일반화하여 새로운 작업을 분해하고 적절한 장소에서 도구를 사용하도록
|
||||
장려하는데, 이는 제로샷(zero-shot) 방식으로 이루어집니다. 또한 ART는 사람들로 하여금 추론 단계에서 오류를 수정하거나 단순히 작업 및 도구 라이브러리를 업데이트하여 새로운 도구를 추가할 수 있게 함으로써 확장 가능합니다. 과정은 다음과 같습니다:
|
||||
|
||||
<Screenshot src={ART} alt="ART" />
|
||||
이미지 출처: [Paranjape et al., (2023)](https://arxiv.org/abs/2303.09014)
|
||||
|
||||
ART는 BigBench와 MMLU 벤치마크에서 보이지 않는 작업에 대해 퓨샷(few-shot) 프롬프팅과 자동 CoT를 크게 향상시키며, 사람의 피드백을 반영할 경우 수작업으로 만든 CoT 프롬프트의 성능을 능가합니다.
|
||||
|
||||
아래는 BigBench와 MMLU 작업에서 ART의 성능을 보여주는 표입니다:
|
||||
|
||||
<Screenshot src={ART2} alt="ART2" />
|
||||
이미지 출처: [Paranjape et al., (2023)](https://arxiv.org/abs/2303.09014)
|
||||
@ -1,5 +1,5 @@
|
||||
# GraphPrompts
|
||||
|
||||
[Liu et al., 2023](https://arxiv.org/abs/2302.08043)에서는 다운스트림 작업의 성능을 개선하기 위해 그래프를 위한 새로운 프롬프트 프레임워크인 GraphPrompt를 소개합니다.
|
||||
[Liu et al., 2023](https://arxiv.org/abs/2302.08043)에서는 다운스트림 작업의 성능을 개선하기 위해 그래프를 위한 새로운 프롬프팅 프레임워크인 GraphPrompt를 소개합니다.
|
||||
|
||||
더 많은 예제가 곧 추가될 예정입니다!
|
||||
@ -1,3 +1,25 @@
|
||||
# Retrieval Augmented Generation (RAG)
|
||||
|
||||
This page needs a translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side.
|
||||
import {Screenshot} from 'components/screenshot'
|
||||
import RAG from '../../img/rag.png'
|
||||
|
||||
I modelli di linguaggio di uso generale possono essere perfezionati per svolgere diversi compiti comuni come l'analisi del sentimento e il riconoscimento delle entità nominate. Questi compiti generalmente non richiedono ulteriori conoscenze di base.
|
||||
|
||||
Per compiti più complessi e che richiedono molte conoscenze, è possibile costruire un sistema basato su un modello di linguaggio che accede a fonti di conoscenza esterne per completare i compiti. Questo consente una maggiore coerenza dei fatti, migliora l'affidabilità delle risposte generate e aiuta a mitigare il problema dell'"allucinazione".
|
||||
|
||||
I ricercatori di Meta AI hanno introdotto un metodo chiamato [Generazione aumentata dal recupero (RAG)](https://ai.facebook.com/blog/retrieval-augmented-generation-streamlining-the-creation-of-intelligent-natural-language-processing-models/) per affrontare tali compiti che richiedono molte conoscenze. RAG combina un componente di recupero delle informazioni con un modello generatore di testo. RAG può essere perfezionato e la sua conoscenza interna può essere modificata in modo efficiente e senza la necessità di riaddestrare l'intero modello.
|
||||
|
||||
RAG prende un input e recupera un insieme di documenti rilevanti/supportativi dati una fonte (ad esempio, Wikipedia). I documenti vengono concatenati come contesto con il prompt di input originale e inviati al generatore di testo che produce l'output finale. Questo rende RAG adattivo per situazioni in cui i fatti potrebbero evolvere nel tempo. Questo è molto utile poiché la conoscenza parametrica dei LLM è statica. RAG consente ai modelli di linguaggio di bypassare la ri-formazione, consentendo l'accesso alle informazioni più recenti per generare output affidabili attraverso la generazione basata sul recupero.
|
||||
|
||||
Lewis et al., (2021) hanno proposto una ricetta generale per il perfezionamento di RAG. Un modello seq2seq pre-addestrato viene utilizzato come memoria parametrica e un indice vettoriale denso di Wikipedia viene utilizzato come memoria non parametrica (accessibile tramite un recupero pre-addestrato neurale). Di seguito è riportata una panoramica di come funziona l'approccio:
|
||||
|
||||
<Screenshot src={RAG} alt="RAG" />
|
||||
Fonte dell'immagine: [Lewis et al. (2021)](https://arxiv.org/pdf/2005.11401.pdf)
|
||||
|
||||
RAG si comporta in modo forte su diversi benchmark come [Natural Questions](https://ai.google.com/research/NaturalQuestions), [WebQuestions](https://paperswithcode.com/dataset/webquestions), e CuratedTrec. RAG genera risposte che sono più fattuali, specifiche e diverse quando testate su domande MS-MARCO e Jeopardy. RAG migliora anche i risultati sulla verifica dei fatti FEVER.
|
||||
|
||||
Questo mostra il potenziale di RAG come opzione valida per migliorare gli output dei modelli di linguaggio nei compiti che richiedono molte conoscenze.
|
||||
|
||||
Più recentemente, questi approcci basati su recupero sono diventati più popolari e sono combinati con LLM popolari come ChatGPT per migliorare le capacità e la coerenza fattuale.
|
||||
|
||||
Puoi trovare un [esempio semplice di come usare i recuperatori e i LLM per rispondere alle domande con le fonti](https://python.langchain.com/en/latest/modules/chains/index_examples/vector_db_qa_with_sources.html) dalla documentazione di LangChain.
|
||||
|
||||
@ -1,14 +1,167 @@
|
||||
# ReAct
|
||||
# ReAct Prompting
|
||||
|
||||
import { Callout, FileTree } from 'nextra-theme-docs'
|
||||
import {Screenshot} from 'components/screenshot'
|
||||
import REACT from '../../img/react.png'
|
||||
import REACT1 from '../../img/react/table1.png'
|
||||
import REACT2 from '../../img/react/alfworld.png'
|
||||
|
||||
[Yao et al., 2022](https://arxiv.org/abs/2210.03629)에서는 LLM을 사용하여 추론 추적과 작업별 액션을 인터리브 방식으로 생성하는 프레임워크를 소개했습니다. 추론 추적을 생성하면 모델이 실행 계획을 유도, 추적, 업데이트하고 예외를 처리할 수 있습니다. 실행 단계에서는 지식 기반이나 환경과 같은 외부 소스와 인터페이스하고 정보를 수집할 수 있습니다.
|
||||
[Yao et al., 2022](https://arxiv.org/abs/2210.03629)에서는 대규모언어모델을 사용하여 *추론 추적\(reasoning traces\)*과 *작업별 행동\(task-specific actions\)*을 인터리브 방식으로 생성하는 ReAct라는 프레임워크를 소개했습니다.
|
||||
|
||||
ReAct 프레임워크를 사용하면 LLMs이 외부 도구와 상호 작용하여 보다 신뢰할 수 있고 사실적인 대응으로 이어지는 추가 정보를 검색할 수 있습니다.
|
||||
추론 추적을 생성하면 모델이 행동 계획을 유도, 추적, 업데이트하고 예외를 처리할 수 있습니다. 행동 단계\(action step\)에서는 지식 기반이나 환경과 같은 외부 소스와 상호 작용하고 정보를 수집할 수 있습니다.
|
||||
|
||||
ReAct 프레임워크를 사용하면 대규모언어모델이 외부 도구와 상호 작용하여 보다 신뢰할 수 있고 사실적인 응답으로 이어지는 추가 정보를 검색할 수 있습니다.
|
||||
|
||||
연구 결과에 따르면 ReAct는 언어 및 의사 결정 작업에서 여러 최신 기술의 기준선을 능가할 수 있는 것으로 나타났습니다. 또한 ReAct는 인간의 해석 가능성과 대규모언어모델의 신뢰성을 향상시킵니다. 전반적으로 저자들은 추론 과정에서 얻은 내부 지식과 외부 정보를 모두 사용할 수 있는 생각의 사고(CoT)와 함께 ReAct를 사용하는 것이 가장 좋은 접근 방식이라는 사실을 발견했습니다.
|
||||
|
||||
|
||||
## How it Works?
|
||||
|
||||
ReAct는 인간이 새로운 작업을 학습하고 의사 결정이나 추론을 할 수 있도록 하는 "행동" 과 "추론"의 시너지 효과에서 영감을 받았습니다.
|
||||
|
||||
생각의 사고(CoT) 프롬프팅은 다른 작업들 중에 산술 및 상식적 추론과 관련된 질문에 대한 답을 생성하기 위해 추론 추적을 수행하는 대규모언어모델의 능력을 보여주었습니다[(Wei et al., 2022)](https://arxiv.org/abs/2201.11903). 그러나 외부 세계에 대한 접근성이 부족하거나 지식을 업데이트하는 능력이 부족하면 사실 착각(fact hallucination)이나 오류 전파 같은 문제가 발생할 수 있습니다.
|
||||
|
||||
ReAct는 추론과 행동을 대규모언어모델과 결합하는 일반적인 패러다임입니다. ReAct는 대규모언어모델이 작업을 위해 언어 추론 추적과 행동을 생성하도록 유도합니다. 이를 통해 시스템은 행동에 대한 계획을 생성, 유지 및 조정하는 동시에 외부 환경(예: Wikipedia)과의 상호 작용을 통해 추론에 추가 정보를 통합할 수 있습니다. 아래 그림은 ReAct의 예와 질문 답변을 수행하는데 필요한 다른 단계들을 보여줍니다.
|
||||
|
||||
<Screenshot src={REACT} alt="REACT" />
|
||||
Image Source: [Yao et al., 2022](https://arxiv.org/abs/2210.03629)
|
||||
이미지 출처: [Yao et al., 2022](https://arxiv.org/abs/2210.03629)
|
||||
|
||||
위의 예에서, 우리는 [HotpotQA](https://hotpotqa.github.io/)에서 아래 질문과 같은 프롬프트를 전달합니다:
|
||||
|
||||
```
|
||||
Apple Remote 외에 Apple Remote가 원래 상호 작용하도록 설계된 프로그램을 제어할 수 있는 다른 장치는 어떤 것이 있니?
|
||||
```
|
||||
|
||||
문맥내(in-context) 예시는 프롬프트에 추가되지만, 여기에서는 단순화를 위해 제외됨을 유의하세요. 우리는 모델이 작업 해결 궤적(생각, 행동)으 생성하는 것을 볼 수 있습니다. Obs는 상호작용 중인 환경(예: 검색 엔진)에서의 관찰에 해당합니다. 본질적으로, ReAct는 추론을 지원하기 위해 정보를 검색할 수 있으면, 추론은 다음에 검색할 대상을 타겟팅하는데 도움이 됩니다.
|
||||
|
||||
## ReAct Prompting
|
||||
ReAct 프롬프팅이 어떻게 작동하는지 설명하기 위해, 논문에서 예시를 살펴보겠습니다.
|
||||
|
||||
첫 번째 단계는 트레이닝 세트(예:HotPotQA)에서 사례를 선택하고 ReAct 형식의 궤적을 구성하는 것이다. 이것들은 프롬프트에서 퓨샷(few-shot) 견본으로 사용됩니다. 궤적은 위 그림과 같이 여러 생각-행동-관찰 단계로 구성됩니다. 자유 형태 사고는 질문 분해, 정보 추출, 상식/산술적 추론 수행, 검색 공식화 안내, 그리고 최종 답변 합성과 같은 다른 작업들을 수행하는데 사용됩니다.
|
||||
|
||||
다음은 ReAct 프롬프트 모범 예시입니다(논문에서 가지고 온 것으로, 간결하게 하기 위해 하나의 예로 줄였습니다).
|
||||
|
||||
```
|
||||
질문 콜로라도 조산 운동의 동쪽 구역이 확장되는 지역의 표고 범위는 얼마이니?
|
||||
생각 1 콜로라도 조산 운동을 검색하여, 콜로라도 조산 운동의 동쪽 구역이 확장되는 지역을 찾은 다음, 그 지역의 표고 범위를 찾아야 해.
|
||||
행동 1 검색하기[콜로라도 조산 운동]
|
||||
관찰 1 콜로라도 조산 운동은 콜로라도와 그 주변 지역에서 산이 형성되는 과정(조산 운동)을 말해.
|
||||
생각 2 동부에 대한 언급이 없어. 그래서 동부 섹터를 찾아봐야겠어.
|
||||
행동 2 찾아보기[동부 섹터]
|
||||
관찰 2 (결과 1 / 1) 동쪽 섹터는 고원 지대까지 뻗어 있고 중앙 평원 조산 운동이라고 불려.
|
||||
생각 3 콜로라도 조산 운동의 동쪽 섹터는 고원 지대까지 뻗어 있어. 따라서 고원 지대를 검색하여 해발 범위를 찾아야 해.
|
||||
행동 3 검색[고원 지대]
|
||||
관찰 3 고원 지대는 두 개의 다른 지대 중 하나를 가르켜.
|
||||
생각 4 대신 고원 지대(미국)를 검색해야해.
|
||||
행동 4 검색[고원 지대 (미국)]
|
||||
관찰 4 고원 지대는 대평원\(the Great Plains\)의 일부 지역이야. 동쪽에서 서쪽으로, 고원 지대는 약 1,800피트에서 7,000피트(550~2,130m)까지 고도가 높아져.[3]
|
||||
생각 5 고원 지대의 해발 고도는 약 1,800~7,000피트이므로, 정답은 1,800~7,000피트야.
|
||||
행동 5 완료[1,800~7,000피트]
|
||||
...
|
||||
```
|
||||
|
||||
다른 형태의 작업을 위해서는 다른 프롬프트가 사용되는 것에 유의하세요. 추론이 가장 중요한 작업(예: HotpotQA)의 경우, 작업 해결 궤적에 여러 생각-행동-관찰 단계가 사용됩니다. 많은 행동 단계가 포함되는 의사 결정의 경우, 생각은 드물게 사용됩니다.
|
||||
|
||||
## Results on Knowledge-Intensive Tasks
|
||||
|
||||
이 논문에서는 먼저 질문 답변(HotPotQA) 그리고 사실 확인([Fever](https://fever.ai/resources.html))과 같은 지식 집약적 추론 작업에 대해 ReAct를 평가합니다. PaLM-540B를 프롬프팅을 위한 기본 모델로 사용하였습니다.
|
||||
|
||||
<Screenshot src={REACT1} alt="REACT1" />
|
||||
이미지 출처: [Yao et al., 2022](https://arxiv.org/abs/2210.03629)
|
||||
|
||||
서로 다른 프롬프팅 방법을 사용하는 HotPotQA와 Fever에 대한 프롬프팅 결과를 보면 일반적으로 두 작업 모두에서 ReAct가 Act(행동만 포함)보다 더 나은 성능을 보입니다.
|
||||
|
||||
또한 ReAct가 Fever에서는 CoT보다 성능이 뛰어나고 HotPotQA에서는 CoT보다 뒤처지는 것을 관찰할 수 있습니다. 자세한 오류 분석은 논문에서 확인할 수 있습니다. 요약하자면:
|
||||
|
||||
- CoT 는 사실 착각에 시달립니다.
|
||||
- ReAct의 구조적 제약은 추론 단계를 공식화할 때 유연성이 떨어집니다.
|
||||
- ReAct는 검색하는 정보에 크게 의존합니다; 정보가 없는 검색 결과는 모델 추론을 방해하고 생각을 복구하고 재구성하는데 어려움을 초래합니다.
|
||||
|
||||
ReAct와 CoT+Self-Consistency 간의 전환을 결합하고 지원하는 프롬프팅 방법은 일반적으로 모든 다른 프롬프팅 방법들보다 성능이 뛰어납니다.
|
||||
|
||||
## Results on Decision Making Tasks
|
||||
|
||||
이 논문에서는 의사 결정 작업에서 ReAct의 성능을 입증하는 결과도 보고합니다. ReAct는 [ALFWorld](https://alfworld.github.io/)(텍스트 기반 게임)와 [WebShop](https://webshop-pnlp.github.io/)(온라인 쇼핑 웹사이트 환경)이라는 두 가지 벤치마크에서 평가되었습니다. 두 벤치마크 모두 효과적으로 행동하고 탐색하기 위해 추론이 필요한 복잡한 환경을 포함합니다.
|
||||
|
||||
ReAct 프롬프트는 추론과 행동의 결합이라는 동일하 핵심 아이디어를 유지하면서 이러한 작업들에 대해 다르게 설계되었습니다. 아래는 ReAct 프롬프팅이 포함된 ALFWorld 문제의 예시입니다.
|
||||
|
||||
<Screenshot src={REACT2} alt="REACT2" />
|
||||
이미지 출처: [Yao et al., 2022](https://arxiv.org/abs/2210.03629)
|
||||
|
||||
ReAct는 ALFWorld와 Webshop 모두에서 Act 보다 성능이 뛰어납니다. 어떠한 생각이 없는 Act는 목표를 하위 목표로 정확하게 분해하는데 실패하였습니다. 추론은 이러한 유형의 작업에 대해 ReAct에서 이점이 있는 것으로 보이지만, 현재 프롬프팅 기반 방법은 여전히 이러한 작업들에 대한 전문 인력의 성능에는 미치지 못 합니다.
|
||||
|
||||
## LangChain ReAct Usage
|
||||
|
||||
아래는 ReAct 프롬프팅 접근 방식이 실제로 어떻게 이루어지는지에 대한 개략적인 예입니다. 우리는 대규모언어모델과 다른 도구의 힘을 결합하여 작업을 수행하는 에이전트를 구축하기 위해 ReAct 프레임워크를 활용하는 기능이 이미 내장되어 있기 때문에 대규모언어모델과 [LangChain](https://python.langchain.com/en/latest/index.html)에 대해 OpenAI를 사용할 것이다.
|
||||
|
||||
먼저 필요한 라이브러리를 설치하고 가지고 옵니다:
|
||||
|
||||
``` python
|
||||
%%capture
|
||||
# update or install the necessary libraries
|
||||
!pip install --upgrade openai
|
||||
!pip install --upgrade langchain
|
||||
!pip install --upgrade python-dotenv
|
||||
!pip install google-search-results
|
||||
|
||||
# import libraries
|
||||
import openai
|
||||
import os
|
||||
from langchain.llms import OpenAI
|
||||
from langchain.agents import load_tools
|
||||
from langchain.agents import initialize_agent
|
||||
from dotenv import load_dotenv
|
||||
load_dotenv()
|
||||
|
||||
# load API keys; you will need to obtain these if you haven't yet
|
||||
os.environ["OPENAI_API_KEY"] = os.getenv("OPENAI_API_KEY")
|
||||
os.environ["SERPER_API_KEY"] = os.getenv("SERPER_API_KEY")
|
||||
|
||||
```
|
||||
|
||||
이제 우리는 대규모언어모델, 우리가 사용할 도구들, 그리고 ReAct 프레임워크를 대규모언어모델과 도구를 함께 활용할 수 있는 에이전트를 구성할 수 있습니다. 외부 정보 검색하기 위한 검색 API와 수학 도구로는 대규모언어모델을 사용하는 것에 유의하세요.
|
||||
|
||||
``` python
|
||||
llm = OpenAI(model_name="text-davinci-003" ,temperature=0)
|
||||
tools = load_tools(["google-serper", "llm-math"], llm=llm)
|
||||
agent = initialize_agent(tools, llm, agent="zero-shot-react-description", verbose=True)
|
||||
```
|
||||
|
||||
구성이 완료되면, 우리는 이제 원하는 쿼리/프롬프트로 에이전트를 실행할 수 있습니다. 여기서는 백서에서 설명하는 것처럼 퓨샷 견본을 제공하지 않는다는 점에 유의하세요.
|
||||
|
||||
``` python
|
||||
agent.run("Olivia Wilde의 남자 친구는 누구이니? 0.23 거듭제곱을 하면 현재 그의 나이는 얼마이니?")
|
||||
```
|
||||
|
||||
체인 실행\(chain execution\)은 다음과 같습니다:
|
||||
|
||||
``` yaml
|
||||
> Entering new AgentExecutor chain...
|
||||
나는 Olivia Wilde의 남자 친구가 누구인지 알아내고 0.23 거듭제곱을 한 그의 나이를 계산해야해.
|
||||
행동 : 검색
|
||||
행동 입력 : "Olivia Wilde 남자 친구"
|
||||
관찰 : Olivia Wilde는 Jason Sudeikis와 수년간의 약혼을 끝낸 후 Harry Styles와 사귀기 시작했어. (두 사람간의 관계 타임라인 참조)
|
||||
생각 : Harry Styles의 나이를 알아야해.
|
||||
행동 : 검색
|
||||
행동 입력 : "Harry Styles 나이"
|
||||
관찰 : 29 세
|
||||
생각 : 나는 29 에 0.23 거듭제곱을 계산해야 해.
|
||||
행동 : 계산기
|
||||
행동 입력 : 29^0.23
|
||||
관찰 : 답변 : 2.169459462491557
|
||||
|
||||
생각 : 나는 이제 마지막 답변을 알고 있어.
|
||||
최종 답변 : Olivia Wilde의 남자 친구인 Harry Styles는 29 세이고, 그의 나이에 0.23 거듭제곱한 값은 2.169459462491557 이야.
|
||||
|
||||
> Finished chain.
|
||||
```
|
||||
|
||||
출력은 다음과 같습니다:
|
||||
|
||||
```
|
||||
"Olivia Wilde의 남자 친구인 Harry Styles는 29 세이고, 그의 나이에 0.23 거듭제곱한 값은 2.169459462491557 이야."
|
||||
```
|
||||
|
||||
이 예제는 [LangChain 문서](https://python.langchain.com/docs/modules/agents/agent_types/react)에서 가져온 것이므로 해당 문서에 공로가 있습니다. 우리는 학습자가 다양한 도구와 작업의 조합을 탐색해 볼 것을 권장합니다.
|
||||
|
||||
전체 예제는 곧 제공될 예정입니다!
|
||||
이 코드에 대한 노트북은 여기에서 찾을 수 있습니다: https://github.com/dair-ai/Prompt-Engineering-Guide/blob/main/notebooks/react.ipynb
|
||||
|
||||
@ -1,3 +1,43 @@
|
||||
# Tree of Thoughts (ToT)
|
||||
|
||||
This page needs a translation! Feel free to contribute a translation by clicking the `Edit this page` button on the right side.
|
||||
import { Callout, FileTree } from "nextra-theme-docs";
|
||||
import { Screenshot } from "components/screenshot";
|
||||
import TOT from "../../img/TOT.png";
|
||||
import TOT2 from "../../img/TOT2.png";
|
||||
import TOT3 from "../../img/TOT3.png";
|
||||
|
||||
탐구나 전략적인 예측이 필요한 복잡한 작업들을 해결하기 위해서는 기존의 단순한 프롬프팅 기법으로는 부족합니다. [Yao et el. (2023)](https://arxiv.org/abs/2305.10601)와 [Long (2023)](https://arxiv.org/abs/2305.08291)는 최근 Tree of Thoughts(ToT)의 개념을 제안했는데, 이 프레임워크는 '생각의 사슬(chain-of-thought)' 프롬프팅 기법을 일반화하며, 언어모델을 사용하여 일반적인 문제 해결을 위한 중간 단계 역할을 하는 생각에 대한 탐색을 촉진합니다.
|
||||
|
||||
ToT는 문제를 해결하기 위한 중간 단계로서 일관된 언어 시퀀스를 나타내는 Tree of Touhgts를 유지합니다. 이 접근법을 통해 언어모델은 신중한 추론 과정을 거쳐 문제를 해결하기 위한 중간 생각들이 문제를 해결해나가는 과정을 자체적으로 평가할 수 있게 됩니다. 그리고 이 언어모델이 생각을 생성하고 평가하는 능력은 탐색 알고리즘(예: 너비 우선 탐색과 깊이 우선 탐색(DFS))과 결합되어, 선제적 탐색과 백트래킹이 가능한 생각의 체계적인 탐색을 가능하게 합니다.
|
||||
|
||||
ToT 프레임워크는 다음과 같습니다:
|
||||
|
||||
<Screenshot src={TOT} alt="TOT" />
|
||||
이미지 출처: [Yao et el. (2023)](https://arxiv.org/abs/2305.10601){" "}
|
||||
|
||||
ToT를 사용할 때, 다른 작업들은 후보의 수와 생각/단계의 수를 정의하는 것을 요구합니다. 예를 들어, 논문에서 보여진 바와 같이, 24의 게임은 사고를 3단계로 분해하는 수학적 추론 과제로 사용되었습니다. 각 단계는 중간 방정식을 포함합니다. 각 단계에서, 최선의 b=5 후보들이 유지됩니다.
|
||||
|
||||
24의 게임 작업에 대한 ToT의 너비 우선 탐색(BFS)를 수행하기 위해, 언어모델은 각 사고 후보를 24에 도달하는 것에 대해 "확실함/아마도/불가능함"으로 평가하도록 요청합니다. 저자들은 "목표는 몇 번의 선제적 시험 내에서 판결을 내릴 수 있는 올바른 부분적 해결책을 촉진하고, '너무 크거나 작은' 상식에 기반한 불가능한 부분 해결책을 제거하고, 나머지 '아마도'를 유지하는 것"입니다. 각 생각에 대한 값은 3번 샘플링됩니다. 아래에 이 과정이 그림으로 나타나 있습니다:
|
||||
|
||||
<Screenshot src={TOT2} alt="TOT2" />
|
||||
이미지 출처: [Yao et el. (2023)](https://arxiv.org/abs/2305.10601){" "}
|
||||
|
||||
아래 그림에서 보고된 결과에서 볼 수 있듯, ToT는 다른 프롬프팅 방법들에 비해 월등히 뛰어납니다:
|
||||
|
||||
<Screenshot src={TOT3} alt="TOT3" />
|
||||
이미지 출처: [Yao et el. (2023)](https://arxiv.org/abs/2305.10601){" "}
|
||||
|
||||
[이곳](https://github.com/princeton-nlp/tree-of-thought-llm)과 [이곳](https://github.com/jieyilong/tree-of-thought-puzzle-solver)의 코드를 사용할 수 있습니다.
|
||||
|
||||
높은 수준에서 보면, [Yao et el. (2023)](https://arxiv.org/abs/2305.10601)와 [Long (2023)](https://arxiv.org/abs/2305.08291)의 주요 아이디어는 유사합니다. 두 연구 모두 다중 라운드 대화를 통한 트리 검색을 통해 대규모언어모델의 복잡한 문제 해결 능력을 향상시킵니다. 주요 차이점 중 하나는 [Yao et el. (2023)](https://arxiv.org/abs/2305.10601)이 깊이 우선 탐색/너비 우선 탐색/빔 탐색을 활용하는 반면, [Long (2023)](https://arxiv.org/abs/2305.08291)에서 제안하는 트리 검색 전략(즉, 언제 백트래킹을 하고, 몇 단계로 백트래킹을 하는지 등)은 강화 학습을 통해 훈련된 "ToT 컨트롤러"에 의해 주도됩니다. 깊이 우선 탐색/너비 우선 탐색/빔 탐색은 특정 문제에 대한 적응 없이 일반적인 해결책 검색 전략입니다. 반면, RL을 통해 훈련된 ToT 컨트롤러는 새로운 데이터 세트나 자체 플레이를 통해 학습할 수 있을 수 있으며(AlphaGo vs 무차별 검색), 따라서 RL 기반의 ToT 시스템은 고정된 LLM으로도 계속해서 발전하고 새로운 지식을 배울 수 있습니다.
|
||||
|
||||
[Hulbert (2023)](https://github.com/dave1010/tree-of-thought-prompting)은 Tree-of-Thought 프롬프팅을 제안했는데, 이는 ToT 프레임워크의 주요 개념을 단순한 프롬프팅 기법으로 적용하여 LLM이 단일 프롬프트에서 중간 생각을 평가하게 합니다. 샘플 ToT 프롬프트는 다음과 같습니다:
|
||||
|
||||
```
|
||||
세 명의 다른 전문가들이 이 질문에 답하고 있다고 상상해보도록 해.
|
||||
모든 전문가들은 자신의 생각의 한 단계를 적어내고,
|
||||
그것을 그룹과 공유할거야.
|
||||
그런 다음 모든 전문가들은 다음 단계로 넘어가. 등등.
|
||||
만약 어떤 전문가가 어떤 시점에서든 자신이 틀렸다는 것을 깨닫게 되면 그들은 떠나.
|
||||
그렇다면 질문은...
|
||||
```
|
||||
|
||||
Loading…
Reference in New Issue