mirror of
https://github.com/dair-ai/Prompt-Engineering-Guide
synced 2024-11-06 09:20:31 +00:00
11 lines
1.8 KiB
Plaintext
11 lines
1.8 KiB
Plaintext
|
# Риски и неправильное использование
|
|||
|
|
|
|||
|
|
import { Callout } from 'nextra-theme-docs'
|
|||
|
|
|
|||
|
|
Мы уже видели, насколько эффективным могут быть хорошо проработанные промпты для различных задач, используя такие техники, как обучение с малым количеством примеров и промптинг на основе цепочки мыслей. Когда мы думаем о создании приложений для реального мира на основе больших языковых моделей (LLM), становится важным задуматься о возможных рисках, неправильном использовании и практиках безопасности, связанных с языковыми моделями.
|
|||
|
|
|
|||
|
|
Этот раздел сосредоточен на выявлении некоторых рисков и неправильного использования LLM с помощью таких техник, как внедрение промптов. Он также обращает внимание на вредоносное поведение и потенциальные способы смягчения его с помощью эффективных техник промптинга. Другие интересующие темы включают обобщаемость, калибровку, смещения, социальные предубеждения и достоверность, чтобы назвать некоторые из них.
|
|||
|
|
|
|||
|
|
<Callout emoji="⚠️">
|
|||
|
|
Этот раздел находится в активной разработке.
|
|||
|
|
</Callout>
|