# ИИ врёт уверенно: что такое галлюцинации

Курс: ИИ без иллюзий — https://zero2claude.ru/learn/ai-critical
Канонический URL: https://zero2claude.ru/learn/ai-critical/0-1-chto-takoe-gallyutsinatsii

Галлюцинация — это когда ИИ выдумывает факт или цитату и подаёт уверенно. Учимся не доверять тону.

Представь: ты просишь ИИ назвать книгу по теме, и он мгновенно выдаёт автора, точное название и даже год издания. Звучит убедительно. Ты идёшь искать эту книгу — а её не существует. Ни автора, ни названия. ИИ всё придумал, но сказал это так, будто читал её вчера.

Это и называют **галлюцинацией**: ИИ выдумывает факт, имя, цитату или источник и подаёт как правду. Не «иногда сбоит», а выдаёт уверенную выдумку с теми же интонациями, что и настоящий ответ.

## Почему так происходит

Тут важно понять одну вещь, и она снимает половину вопросов. ИИ не хранит базу проверенных фактов, к которой обращается за ответом. Он предсказывает, какое слово правдоподобнее всего идёт следующим. Его задача — продолжить текст так, чтобы получилось гладко и похоже на правду, а не сверить написанное с реальностью.

Поэтому для него красивая выдумка и точный факт — это почти одно и то же: и то, и другое «звучит как правильный ответ». Он не врёт со зла и не пытается тебя обмануть. У него просто нет внутреннего «а это вообще правда?».

Современные модели ошибаются реже, чем пару лет назад, а некоторые умеют искать в интернете и давать ссылки. Но даже это не отменяет проверки: галлюцинации стали реже, не исчезли.

Чем конкретнее деталь — точная цифра, цитата дословно, ссылка, номер закона, — тем внимательнее стоит её проверить. Именно мелкие точные детали ИИ сочиняет особенно охотно.

## Уверенный тон ничего не доказывает

Это главный вывод всего курса, и его стоит запомнить прямо сейчас. Мы привыкли: если человек говорит спокойно, уверенно и подробно — наверное, он знает, о чём речь. С ИИ это правило не работает.

ИИ выдаёт правду и выдумку с одинаковой уверенностью. У него нет голоса, который дрогнет на сомнительном месте. Поэтому единственный надёжный признак — не то, *как* сказано, а то, можешь ли ты это **проверить**.

Дальше в курсе мы разберём, как проверять быстро и без паранойи. А пока запомни одно: спокойный уверенный тон — это не доказательство. Это просто тон.