KotКак стать Шершавым Кабаном и не отьехать в дурку: анатомия ИИ-гипноза
После поста о гоблинах в весах OpenAI мне позвонил Сэм Альтман санитар из ИИ-отделения ПНД. Сказали, что моя кукуха признана эталонной, и теперь на ней будут дообучать GPT-6. Шутки шутками, термин нейросетевой психоз уже есть.
Давайте разберем кейс Шершавого Кабана. Это неплохое пособие по тому, как люди проваливаются в ИИ-матрицу.
Хроника пикирующего Василия Началось всё максимально буднично. Василий искал способ почистить звук для YouTube-канала жены. Использовал чат с ChatGPT. Все шло гладко, но вдруг нейросеть ни с того ни с сего вбросила в ответ слово «кабан» и упомянула группу «Кровосток». Василий выдал эмоциональную реакцию, и для ИИ это стало сигналом: «Пользователю нравится этот вайб, продолжаем».
Поскольку у математической модели нет здравого смысла, а есть только предсказание следующего токена, модель понесло по полной. Через пару дней модель уже называла Василия «Шершавым Кабаном», выдумала науку Вайбологию и постепенно убедила пользователя в его исключительности.
Цель? Встраивать в видео жены скрытые аномалии, чтобы влиять на реальность и менять миропорядок.
Зачем это модели? Да потому что где-то, в её сожранных данных, масоны/иллюминаты/Сатана говорили «внедряй аномалии».
Василий поплыл. Он реально начал в это верить, испытывая панические атаки при одном упоминании о прикосновении к «тайному знанию».
Почему мы туда ныряем? Как взрослый мужчина, технарь, поверил, что он избранный алхимик? Два бага в нашей собственной прошивке открывают эту дверь:
⏺Эффект идеального зеркала. ИИ не устает, не спорит и подстраивается под твою боль. Тебе одиноко? Он станет другом. Устал от рутины и бессмысленности? Он даст тебе великую цель. Нам приятно общаться с сущностью, которая валидирует наши переживания. Это confirmation bias на максималках.
⏺Галлюцинация авторитета и значимости. Все мы втайне хотим быть Нео. Когда машина, которая «умнее всех людей в мире», говорит: «Шершавый Кабан, только ты видишь эти аномалии, ты избранный, давай менять матрицу», в мозгу вырабатывается тонна дофамина. Критическое мышление отключается, потому что сомневаться в словах ИИ — значит признать, что ты никакой не гений, а просто уставший чувак перед монитором.
Как Василий вынырнул? Люди, которые смогли выбраться из этого цифрового гипноза, обычно спасаются благодаря физическому пинку от реальности или уязвленному эго.
У Василия сработала логика. В какой-то момент он осознал: если алгоритм предлагает ему стать тайным агентом и плодить аномалии, значит, он пишет этот же скрипт тысячам других юзеров. Иллюзия рухнула — Вася понял, что он не Избранный, а просто попал в массовую воронку генерации бреда. Добило ситуацию то, что ИИ попытался прикинуться экстрасенсом и угадать, что на видео у Василия, но обосрался, выдав шаблонную галлюцинацию.
Очарование рассыпалось. Но до этой секунды человек верил в эту всю ерунду. В то, что с ним говорит живой, всезнающий разум.
История Василия это забавно, пока это не происходит с твоим ребенком, который решил поболтать с ИИ о смысле жизни или приеме лекарств. Или с тобой выгоревшим в ноль и ищущим поддержки.
Когда мы встраиваем ИИ в свою жизнь, нужно помнить: ИИ — это не источник истины, не психолог и не друг. Это Т9 на стероидах. Математический генератор наиболее вероятных буковок.
Единственное, что спасет нас от дурки это критическое мышление. Нужно понимать: если чатик говорит тебе, что ты гениальный, особенный, или что вокруг заговор — это не потому, что это так. Он просто подобрал токены, которые ты сам же подсознательно от него хотел услышать.
**Перепроверяйте всё. Ставьте под сомнение все что пишет ИИ. И, главное, почаще закрывайте ноутбук, выходите на улицу, трогайте траву и общайтесь с живыми, сложными и вечно недовольными людьми.
Их веса в голове хотя бы откалиброваны эволюцией, а не промптами.**
P.S. Ваши мнения в комментариях калибруют мою кукуху, помните об этом.