Kot1️⃣ Кибер-поминки по Fable 5. Нейросеть причиняет добро, или Синдром гиперактивного стажера
Fable 5 жила ярко и умерла молодой. Спустя всего три дня после релиза правительство США сочло её «слишком опасной» и прикрыло лавочку. Но это не делает ее гайды по промптингу менее интересными для разбора. Потому что если почитать их между строк, волосы встают дыбом.
Запускаю мини-серию, которая внезапно превратилась в отчет патологоанатома: вскрываем системные промпты безвременно почившей Фубли. Это стоит сделать чтобы понимать куда вообще катится агентская разработка.
Главная фича Fable 5 — она могла работать долго, автономно и с высоким уровнем усилий. Но у этого есть побочный эффект: модель страдала от переизбытка энтузиазма.
Помните, я писала про «велосипеды», которые агенты оставляют в коде? Так вот, Fable вывел это на новый уровень. Если не бить его по рукам, он лезет рефакторить соседние модули, закладывает абстракции «на будущее» и пишет хитрую обработку ошибок для ситуаций, которых в природе не существует. Джун-энтузиаст, который успеет переписать половину проекта, пока вы ходите за кофе.
Документация Anthropic буквально умоляет ставить жесткие границы. Паттерн для AGENTS.md: Теперь агенту нужны не столько инструкции «как делать», сколько приказы «чего НЕ делать».
Не добавляй функции, не занимайся рефакторингом и не вводи абстракции сверх того, что требует задача. Исправление ошибки не требует сопутствующей очистки кода. Делай самое простое, что работает. Не добавляй валидацию для сценариев, которые не могут произойти.
Короче: нашел баг — почини, доложи и отойди от клавиатуры. Иначе начудит 👾
Спасибо за ссылочку Сергею @naguala