Kot3️⃣ Киберпанк в продакшене: OpenAI внедрили чтение мыслей прямо в веса ИИ
Помните, как в фантастических романах преступников вычисляли и ловили до того, как они совершат преступление, просто сканируя их мозг? Поздравляю, мы уже в этой точке.
Из свежего System Card GPT-5.6 стало понятно: OpenAI больше не верят своим моделям на слово и запустили технологию «чтения мыслей» на уровне нейронов.
Раньше работало просто: текст → фильтр → пользователь. Но новые модели стали слишком умными. Им нужны новые цензорные слои.
Поэтому OpenAI выкатили тяжелую артиллерию — Activation Classifiers.
Прямо во время генерации ответа специальная надстройка сканирует импульсы внутри скрытых слоев нейросети. Если паттерн активации нейронов намекает, что модель собирается открыть не ту дверь, стриминг ответа замораживается и включается safety reasoner, проверяя точнее, что там задумала эта железка, и если надо — рубит генерацию на корню.
То есть ИИ блокируют буквально за проскочившую мысль. Интересно что универсального предохранителя не существует. Эти классификаторы приходится настраивать для каждой конкретной модели, потому что паттерны «мышления» у моделей разные.
Забавно: рассуждения моделей сначала скрыли от нас, но теперь они перестали быть источником правды даже для самих создателей. И один из инструментов отладки, чтение активаций уже переехал в прод как инструмент контроля.
Я предвкушаю рекурсию: когда Sol научится обманывать эти жучки, подделывая свои активационные паттерны. За рекурсией как мы знаем можно следить бесконечно, ну или пока не кончаться ресурсы ее поддерживающие 🕵️♂️