Что такое системный промпт?

• системный промпт — правила игры, которые задаёт модели тот, кто её настраивает, а не тот, кто с ней болтает
• это не одно сообщение, а фон, который держится весь разговор: тон, границы тем, формат ответов, иногда легенда персонажа
• обычный пользователь его не видит, он просто ощущает результат: бот вежливый, или сухой, или отказывается говорить о конкретных темах
• в готовых сервисах вроде чат-ботов на сайтах системный промпт прописывает разработчик, и юзер повлиять на него напрямую не может
• в кастомных инструментах и части приложений можно задать что-то похожее самому: правило вроде «отвечай только списком» держится, пока его явно не отменят
• путать системный промпт с обычным сообщением не стоит: обычное сообщение — это разовая просьба, системный промпт — это как бы должностная инструкция для модели на весь диалог
• иногда пользователи пытаются обойти системный промпт хитрыми формулировками, это как раз и называют промпт-инъекцией, и разработчики стараются от такого защищаться
• на практике для рядового пользователя чата разница ощущается так: с одним ботом можно грубить и он отвечает жёстко, с другим — та же фраза встретит вежливый отказ, и дело именно в системном промпте, а не в настроении модели

пробовал в одном конструкторе ботов сам системный промпт прописать, реально работает, бот потом всю переписку держит заданный стиль пока не сменишь настройку

у некоторых ботов реально видно что есть системный промпт, спрашиваешь одно и то же а тон разный от сервиса к сервису

Системный промпт — это инструкции, которые задают модели правила поведения на весь разговор, а не на одно сообщение. Их обычно прописывает разработчик сервиса ещё до того, как пользователь начинает переписку: какой тон использовать, какие темы избегать, в каком формате отвечать, иногда даже какую роль или персонажа играть. Пользователь такой промпт, как правило, не видит и не может его полностью отменить обычным сообщением в чате. При этом в некоторых инструментах есть возможность задать похожие правила самому — например, в начале диалога попросить модель придерживаться определённого стиля до конца разговора. Разница в приоритете: системные инструкции разработчика обычно имеют больший вес, чем то, что пишет пользователь, поэтому полностью «переубедить» бота одной фразой обычно не получается.

мне кажется это просто маркетинговое слово, по сути обычные настройки

Системный промпт — это набор инструкций, который задаёт модели правила поведения на весь разговор, а не только на одно сообщение. Обычно его пишет разработчик сервиса ещё до того, как пользователь откроет чат: тон общения, границы допустимых тем, формат ответов, иногда даже персонаж бота. Пользователь такой промпт чаще всего не видит, он работает «под капотом». При этом в части интерфейсов есть возможность и самому задать похожие правила: например, в кастомных ассистентах или в начале диалога можно написать «дальше отвечай кратко и только по-русски», и модель будет держать это правило до конца переписки, пока вы его не смените. Разница в основном в уровне доступа: системный промпт разработчика имеет приоритет и обычно не может быть полностью переписан обычным сообщением пользователя.