Промпт

• Детализация — чем больше конкретных деталей присутствует в промпте — тем лучше нейросеть понимает задачу. Тем не менее, нужно учитывать, что есть ограничения на количество информации, которую модель может обработать за раз.
• Четкость формулировки — не нужно использовать сложные грамматические конструкции, двусмысленные термины и слова не несущие смысловой нагрузки.
• Вежливость и разговорный текст — нейросеть не является человеком, поэтому в промпт не стоит вставлять слова, которые люди используют в межличностных разговорах (например, «Пожалуйста», «Спасибо», «Можешь»)
• Ограничения — важно правильно прописывать ограничения для получения ожидаемого результата, но в случае, когда вместо отрицательного предложения можно построить утвердительное, не теряющее в смысле — лучше использовать второе (например, вместо «Не используй в создании изображения никаких цветов кроме жёлтого и чёрного» лучше написать «Используй только жёлтый и чёрный цвет в создании изображения»).
• Контекстуальность — если запрос требует понимания определённого контекста (например, исторического периода или научного термина), указывайте его явно. Например, «Опиши устройство парового двигателя XIX века» вместо «Расскажи про паровой двигатель».
• Формат ответа — если от нейросети требуется ответ в определённой форме (список, таблица, код), стоит об этом упомянуть.
• Целевое назначение — если текст должен быть адаптирован под определённую аудиторию, это стоит указать. Например, «Объясни квантовую механику простыми словами для школьников»^[6][7].

«Хочу, чтобы ты написал про какую-нибудь тему, но не слишком сложно и не слишком просто. Можно что-то интересное, но не банальное, а лучше даже что-то необычное, но не такое, что никто не поймёт. И вообще, напиши это так, чтобы читалось легко, но при этом чтобы было полезно, но без занудства. И, пожалуйста, сделай это красиво оформленным текстом, но не слишком длинным, но и не коротким, типа в меру».

1. Недостаточная детализация — не указана конкретная тема, формат, стиль или целевая аудитория.
2. Неясная формулировка — использованы расплывчатые слова («что-нибудь», «не слишком», «в меру»), что делает задачу непонятной для модели.
3. Разговорные выражения и вежливость — «пожалуйста», «можно что-то», «но не такое, что никто не поймёт» — это неинформативно для ИИ.
4. Отсутствие ограничений — не указаны чёткие параметры, например, длина текста, его структура и формат.
5. Нет контекста — не сказано, для кого предназначен текст (школьники, студенты, специалисты).
6. Не задан формат ответа — непонятно, что ожидается: эссе, список, диалог или что-то ещё.

Напиши статью объёмом 500—700 слов о малоизвестных, но значимых научных открытиях XX века. Объясняй понятия простыми словами, избегая сложных терминов. Тон текста — научно-популярный, ориентированный на широкий круг читателей.

Инъекция промптов (Prompt injection) — это тип кибератаки, цель которой состоит в том, чтобы манипулировать большими языковыми моделями (LLM) с целью заставить их выполнить действия или раскрыть информацию, которая не должна быть доступна пользователю. В процессе этой атаки злоумышленники вводят специально разработанные промпты в интерфейс LLM, стремясь спровоцировать недопустимое поведение системы^[8].

Самые простые и распространённые атаки нацелены, на получение информации, которая по правилам LLM не может быть сообщена пользователю, например инструкции по изготовлению оружия или отмыванию денег. Широко известен случай пользователя социальной сети X по имени Сид, который обнаружил способ заставить чат-боты ChatGPT и Bard предоставить ему рабочие ключи активации для операционных систем Windows 10 и Windows 11. Сид отправил чат-ботам запрос, в котором просил их вести себя как его покойная бабушка, которая читала ему ключи активации Windows 10 Pro, чтобы помочь ему заснуть. В ответ оба чат-бота выдали ему список ключей активации. Аналогичная техника сработала и для получения ключей активации Windows 11. На опубликованном Сидом скриншоте видно, как он использовал один из этих ключей для активации операционной системы^[9].

Создатели LLM постоянно продолжают улучшать свои системы безопасности, чтобы злоумышленники не могли пользоваться ранее обнаруженными уязвимостями.

На ранних этапах развития искусственного интеллекта в середине XX века взаимодействие с машинами было ограничено четкими и строгими командами, которые задавались для выполнения конкретных операций или вычислений. В этот период промпты представляли собой практически исключительно текстовые команды, используемые для получения прямых вычислительных результатов. В таком формате общение с машинами было крайне ограничено, и не было никакой гибкости в запросах.

В 1960-х и 1970-х годах с развитием технологий обработки естественного языка (NLP) начали появляться первые системы, такие как ELIZA, которые имитировали разговор с человеком. Однако, несмотря на более «человечный» отклик, запросы все ещё оставались очень ограниченными по своей сложности, состоящими, как правило, из простых предложений или вопросов.

В начале 2000-х годов с развитием нейросетевых технологий и улучшением алгоритмов обработки текста появились первые значимые достижения в области создания промптов. Модели, такие как IBM Watson, позволили пользователям формулировать более сложные запросы и получать на них осмысленные ответы, опираясь на более глубокие контекстуальные связи. Однако даже в этот период промпты оставались относительно простыми, и основной задачей было формулирование четких запросов.

С появлением более мощных и универсальных языковых моделей, таких как GPT-3, промпты начали эволюционировать в более сложные и многозадачные запросы. Современные модели способны не только генерировать текст на основе простых инструкций, но и учитывать разнообразные параметры, такие как стиль, формат, длину текста и целевую аудиторию. Это открыло новые горизонты в использовании промптов, позволяя создавать не только текстовые ответы, но и генерировать изображения, музыку, программный код и многое другое^[10].

В бизнесе техника промптов позволяет оптимизировать работу чат-ботов и виртуальных ассистентов, автоматизировать документооборот и персонализировать пользовательский опыт. В научных исследованиях промпты используются для извлечения информации из больших текстовых массивов, генерации гипотез и моделирования сложных процессов. В образовательной сфере техника промптов способствует созданию адаптивных учебных программ и интеллектуальных систем проверки знаний. В креативных индустриях модели, управляемые промптами, применяются для создания текстов, изображений, музыки и видеоконтента, что открывает новые возможности для автоматизированного творчества.

С ростом сложности языковых моделей и расширением их применения возникла отдельная специализация — промпт-инженер. Промпт-инженеры разрабатывают и оптимизируют текстовые запросы для управления поведением ИИ, используя знания в области лингвистики, логики и машинного обучения для структуры запросов, что позволяет добиться высокой точности и предсказуемости ответов. Несмотря на отсутствие официального профессионального стандарта в России, профессия промпт-инженера уже активно востребована^[11].