This file contains ambiguous Unicode characters that may be confused with others in your current locale. If your use case is intentional and legitimate, you can safely ignore this warning. Use the Escape button to highlight these characters.
# Риски и неправильное использование
import { Callout } from 'nextra-theme-docs'
import ContentFileNames from 'components/ContentFileNames'
Мы уже видели, насколько эффективным могут быть хорошо проработанные промпты для различных задач, используя такие техники, как обучение с малым количеством примеров и промптинг на основе цепочки мыслей. Когда мы думаем о создании приложений для реального мира на основе больших языковых моделей (LLM), становится важным задуматься о возможных рисках, неправильном использовании и практиках безопасности, связанных с языковыми моделями.
Этот раздел сосредоточен на выявлении некоторых рисков и неправильного использования LLM с помощью таких техник, как внедрение промптов. Он также обращает внимание на вредоносное поведение и потенциальные способы смягчения егос помощью эффективных техник промптинга. Другие интересующие темы включают обобщаемость, калибровку, смещения, социальные предубеждения и достоверность, чтобы назвать некоторые из них.