KotПочему системные промпты не секретны и где их найти
Как я уже писала в прошлом посте, поведение модели в продукте продиктовано ее инструкцией, а не только самой моделью. А откуда собственно такие познания, Света, или это эмпирические догадки?
Нет, есть множество репозиториев с утечками системных промптов известных продуктов и описаниями механизмов атак. Легко ищется через поиск на GitHub, накидала популярных:
CL4R1T4S — https://github.com/elder-plinius/CL4R1T4S — ChatGPT, Claude, Gemini, Grok, Perplexity, Cursor, Devin, Replit, Windsurf, Lovable, Manus
TheBigPromptLibrary — https://github.com/0xeb/TheBigPromptLibrary — системные промпты, джейлбрейки, методы экстракции
chatgpt_system_prompt — https://github.com/LouisShark/chatgpt_system_prompt — ChatGPT, Claude, Gemini, Perplexity, Cursor, GitHub Copilot, Devin, Bolt, Replit
leaked-system-prompts — https://github.com/jujumilk3/leaked-system-prompts — копилка утечек с датами и источниками
То есть на данный момент абсолютной защиты от угона системной инструкции не существует. Защита работает только от уже известных техник взлома, но регулярно находятся новые.
Если зашиваешь LLM в продукт — стоит посмотреть, как конкуренты формулируют инструкции для агентов. И помнить: в системном промпте не должно быть API-ключей, внутренних endpoint’ов, пользовательских данных. Промпт не является секретом.
Защита продукта строится не на секретности промпта, а на том, что ты в него не кладёшь.