triage-and-voice
Проект родился после серии статей на Хабре про то, как LLM галлюцинирует под капотом продукта.
Идея
- Один вызов LLM классифицирует запрос.
- Код решает, что можно говорить.
- Второй вызов озвучивает ответ с размеченными полями данных.
Это убирает пустоту, которую модель могла бы заполнить выдумкой. Промптом или RAG такое не решить.