Представь: ты просишь ИИ назвать книгу по теме, и он мгновенно выдаёт автора, точное название и даже год издания. Звучит убедительно. Ты идёшь искать эту книгу — а её не существует. Ни автора, ни названия. ИИ всё придумал, но сказал это так, будто читал её вчера.
Это и называют галлюцинацией: ИИ выдумывает факт, имя, цитату или источник и подаёт как правду. Не «иногда сбоит», а выдаёт уверенную выдумку с теми же интонациями, что и настоящий ответ.
Почему так происходит
Тут важно понять одну вещь, и она снимает половину вопросов. ИИ не хранит базу проверенных фактов, к которой обращается за ответом. Он предсказывает, какое слово правдоподобнее всего идёт следующим. Его задача — продолжить текст так, чтобы получилось гладко и похоже на правду, а не сверить написанное с реальностью.
Поэтому для него красивая выдумка и точный факт — это почти одно и то же: и то, и другое «звучит как правильный ответ». Он не врёт со зла и не пытается тебя обмануть. У него просто нет внутреннего «а это вообще правда?».
Современные модели ошибаются реже, чем пару лет назад, а некоторые умеют искать в интернете и давать ссылки. Но даже это не отменяет проверки: галлюцинации стали реже, не исчезли.
Важно
Чем конкретнее деталь — точная цифра, цитата дословно, ссылка, номер закона, — тем внимательнее стоит её проверить. Именно мелкие точные детали ИИ сочиняет особенно охотно.
Уверенный тон ничего не доказывает
Это главный вывод всего курса, и его стоит запомнить прямо сейчас. Мы привыкли: если человек говорит спокойно, уверенно и подробно — наверное, он знает, о чём речь. С ИИ это правило не работает.
Мини-проверка
ИИ выдал точную цитату с именем автора и годом, очень уверенно. Что это значит?
ИИ выдаёт правду и выдумку с одинаковой уверенностью. У него нет голоса, который дрогнет на сомнительном месте. Поэтому единственный надёжный признак — не то, как сказано, а то, можешь ли ты это проверить.
Дальше в курсе мы разберём, как проверять быстро и без паранойи. А пока запомни одно: спокойный уверенный тон — это не доказательство. Это просто тон.