# Почему ИИ выдумывает факты и как это снизить

Канонический URL: https://zero2claude.ru/blog/why-ai-hallucinates
Дата: 2026-07-30
Теги: промптинг, новичкам, claude

ИИ не «знает» — он угадывает правдоподобное продолжение и может уверенно ошибиться. Разбираем, почему так, и как снизить выдумки.

Ты спросил у ИИ название книги, год события, цитату или статью закона — он ответил уверенно, с деталями, без тени сомнения. А потом выяснилось: книги такой нет, год другой, цитата выдумана. Самое обидное тут не сама ошибка, а **тон**: он звучал так, будто точно знает.

Это называют галлюцинацией. Слово загадочное, но за ним нет никакой мистики — и, главное, всё предсказуемо. Поймёшь, *откуда* берутся выдумки — перестанешь им удивляться и начнёшь ловить заранее. Разберёмся по-человечески.

<Cover src="/blog/why-ai-hallucinates.jpg" alt="ИИ уверенно достраивает картинку из тумана там, где не хватает фактов" />

## ИИ не помнит — он угадывает

Вот главное, что стоит уложить в голове: языковая модель не хранит факты как справочник, откуда можно «достать» правильный ответ. Она предсказывает, **какое слово правдоподобнее всего идёт следующим** — опираясь на гигантское количество текстов, которые видела при обучении.

Представь, что тебе показали миллион писем и попросили продолжать любую фразу так, чтобы звучало естественно. Тебе говорят: «Согласно отчёту компании за 2019 год, выручка составила...» — и ты, не видя никакого отчёта, на автомате дописываешь правдоподобное число. Получится гладко и убедительно. И, скорее всего, мимо.

Так же работает и ИИ. Есть нужная информация — отвечает точно. Информации нет — он **не молчит и не говорит «не знаю»**, а достраивает самое правдоподобное продолжение. Выходит уверенная выдумка. Это не ложь со зла: его задача не «сказать правду», а «продолжить текст так, чтобы звучало складно».

Отсюда два следствия, которые меняют всё:

- **Уверенность ≠ правота.** Гладкий, складный ответ — не признак истины. ИИ одинаково уверенно говорит и про факт, и про выдумку.
- **Выдумки гуще там, где данных мало.** Узкие темы, точные цифры, имена, даты, цитаты, ссылки — именно здесь модель чаще всего сочиняет.

## Где ждать выдумок чаще всего

Не все запросы одинаково рискованны. ИИ редко ошибается, когда просишь переформулировать твой же текст или объяснить общеизвестную вещь. И гораздо охотнее сочиняет, когда лезешь в «факты с хвостиком».

- **Точные ссылки и источники.** «Дай ссылку на исследование» — и он выдаёт правдоподобный URL, которого не существует.
- **Цифры, даты, имена.** Год выхода, размер штрафа, фамилия автора — мелкие детали, которые легко достраиваются «по ощущению».
- **Узкие и юридические темы.** Конкретная статья закона, редкая болезнь, нишевая техника — данных мало, простор для фантазии большой.
- **Свежие события.** То, что случилось после обучения модели, она в принципе знать не может — но может бодро рассказать.

<Callout type="tip">
Простое правило для важных решений: **факт из ИИ — это гипотеза, а не справка.** Цифру, дату, цитату или ссылку, на которую ты реально опираешься (письмо начальнику, договор, лечение, деньги), всегда проверяй в первоисточнике. Ответ ИИ — хороший черновик, а не последняя инстанция.
</Callout>

## Как снизить выдумки на практике

Хорошая новость: выдумки сильно зависят от того, *как* ты спрашиваешь. Несколько приёмов резко повышают надёжность — и ничего технического для них не нужно.

- **Дай контекст сам.** Не «перескажи статью X», а вставь сам текст: «Вот статья, перескажи её». Когда нужное под рукой, модели незачем сочинять — она работает с твоими данными, а не с памятью.
- **Разреши сказать «не знаю».** Прямо в запросе: «Если не уверен — так и напиши, не выдумывай». Звучит наивно, но это правда снижает уверенный бред: ты как будто разрешаешь честность.
- **Проси помечать уверенность.** «Где ты уверен, а где только предполагаешь — пометь». Сомнительные места всплывают сами, и ты сразу видишь, что перепроверить.
- **Спрашивай источники — и проверяй их.** «Откуда это? Дай ссылку». Но не верь ссылке на слово — открой её. Несуществующий или нерелевантный URL — верный признак выдумки.
- **Дроби сложное на шаги.** Большой запрос «одним куском» провоцирует склейку правды с фантазией. Маленькие шаги легче проверять по дороге.

Сравни на простом примере. Запрос «Какие законы о персональных данных есть в России?» вернёт обтекаемый ответ, где детали могут оказаться выдуманными. А запрос «Вот текст закона (ниже). Объясни простыми словами, что он требует от интернет-магазина. Если чего-то в тексте нет — так и скажи» почти не оставляет места для фантазии: материал у модели перед глазами, а сочинять ей прямо запретили.

Заметил закономерность? Чем меньше ты заставляешь ИИ **доставать** факты из воздуха и чем больше **даёшь** ему материал и право на честность — тем надёжнее результат.

## Это не баг, а правила игры

Галлюцинации — не поломка, которую когда-нибудь «починят» окончательно. Это обратная сторона того самого свойства, за которое мы ИИ и любим: он гибкий, он достраивает, он отвечает на что угодно. Полностью убрать выдумки — значит лишить его этой гибкости.

Поэтому ключ не в том, чтобы найти «модель без ошибок», а в том, чтобы **уметь с ними обращаться**: понимать, где врёт чаще, спрашивать так, чтобы врал реже, и проверять то, что важно. Это и есть AI-грамотность — навык не для программистов, а для каждого, кто пользуется ИИ всерьёз.

Именно этому — спокойно и на бытовых примерах, без кода и без хайпа — мы учим с нуля.