mirror of
https://github.com/dair-ai/Prompt-Engineering-Guide
synced 2024-11-08 07:10:41 +00:00
12 lines
1.7 KiB
Plaintext
12 lines
1.7 KiB
Plaintext
# Риски и неправильное использование
|
||
|
||
import { Callout } from 'nextra-theme-docs'
|
||
import ContentFileNames from 'components/ContentFileNames'
|
||
|
||
|
||
Мы уже видели, насколько эффективным могут быть хорошо проработанные промпты для различных задач, используя такие техники, как обучение с малым количеством примеров и промптинг на основе цепочки мыслей. Когда мы думаем о создании приложений для реального мира на основе больших языковых моделей (LLM), становится важным задуматься о возможных рисках, неправильном использовании и практиках безопасности, связанных с языковыми моделями.
|
||
|
||
Этот раздел сосредоточен на выявлении некоторых рисков и неправильного использования LLM с помощью таких техник, как внедрение промптов. Он также обращает внимание на вредоносное поведение и потенциальные способы смягчения его с помощью эффективных техник промптинга. Другие интересующие темы включают обобщаемость, калибровку, смещения, социальные предубеждения и достоверность, чтобы назвать некоторые из них.
|
||
|
||
<ContentFileNames section="risks" lang="ru"/>
|