Галлюцинации ИИ

Галлюцинация — когда языковая модель отвечает уверенно и складно, но неправду: несуществующая статья закона, выдуманная функция сервиса, «статистика», которой нет. Это не сбой, а природа технологии: модель генерирует наиболее правдоподобное продолжение текста, и «правдоподобное» не всегда «правдивое».

Когда риск выше

• Вопрос за пределами обучающих данных (свежие события, узкие темы).
• Запрос конкретных цифр и фактов «из памяти».
• Наводящие вопросы — модель охотно соглашается с ложной предпосылкой.

Как снижают

Инженерно — дать модели реальные данные вместо «памяти»: поиск по документам (RAG) или живые инструменты (MCP). Пользовательски — просить источники и проверять критичные факты.

Причём тут реклама

Спросите чат-бота без доступа к кабинету «какой у меня ДРР» — он либо откажется, либо сочинит. Ассистент, подключённый к Директу через MCP, вместо угадывания вызывает инструмент и отвечает фактическими цифрами вашего аккаунта. В этом принципиальная разница между «ИИ-советчиком» и рабочим инструментом — Direct Manager существует ради второго.