Ты спросил у ИИ название книги, год события, цитату или статью закона — он ответил уверенно, с деталями, без тени сомнения. А потом выяснилось: книги такой нет, год другой, цитата выдумана. Самое обидное тут не сама ошибка, а тон: он звучал так, будто точно знает.
Это называют галлюцинацией. Слово загадочное, но за ним нет никакой мистики — и, главное, всё предсказуемо. Поймёшь, откуда берутся выдумки — перестанешь им удивляться и начнёшь ловить заранее. Разберёмся по-человечески.
ИИ не помнит — он угадывает
Вот главное, что стоит уложить в голове: языковая модель не хранит факты как справочник, откуда можно «достать» правильный ответ. Она предсказывает, какое слово правдоподобнее всего идёт следующим — опираясь на гигантское количество текстов, которые видела при обучении.
Представь, что тебе показали миллион писем и попросили продолжать любую фразу так, чтобы звучало естественно. Тебе говорят: «Согласно отчёту компании за 2019 год, выручка составила...» — и ты, не видя никакого отчёта, на автомате дописываешь правдоподобное число. Получится гладко и убедительно. И, скорее всего, мимо.
Так же работает и ИИ. Есть нужная информация — отвечает точно. Информации нет — он не молчит и не говорит «не знаю», а достраивает самое правдоподобное продолжение. Выходит уверенная выдумка. Это не ложь со зла: его задача не «сказать правду», а «продолжить текст так, чтобы звучало складно».
Отсюда два следствия, которые меняют всё:
- Уверенность ≠ правота. Гладкий, складный ответ — не признак истины. ИИ одинаково уверенно говорит и про факт, и про выдумку.
- Выдумки гуще там, где данных мало. Узкие темы, точные цифры, имена, даты, цитаты, ссылки — именно здесь модель чаще всего сочиняет.
Где ждать выдумок чаще всего
Не все запросы одинаково рискованны. ИИ редко ошибается, когда просишь переформулировать твой же текст или объяснить общеизвестную вещь. И гораздо охотнее сочиняет, когда лезешь в «факты с хвостиком».
- Точные ссылки и источники. «Дай ссылку на исследование» — и он выдаёт правдоподобный URL, которого не существует.
- Цифры, даты, имена. Год выхода, размер штрафа, фамилия автора — мелкие детали, которые легко достраиваются «по ощущению».
- Узкие и юридические темы. Конкретная статья закона, редкая болезнь, нишевая техника — данных мало, простор для фантазии большой.
- Свежие события. То, что случилось после обучения модели, она в принципе знать не может — но может бодро рассказать.
Совет
Простое правило для важных решений: факт из ИИ — это гипотеза, а не справка. Цифру, дату, цитату или ссылку, на которую ты реально опираешься (письмо начальнику, договор, лечение, деньги), всегда проверяй в первоисточнике. Ответ ИИ — хороший черновик, а не последняя инстанция.
Как снизить выдумки на практике
Хорошая новость: выдумки сильно зависят от того, как ты спрашиваешь. Несколько приёмов резко повышают надёжность — и ничего технического для них не нужно.
- Дай контекст сам. Не «перескажи статью X», а вставь сам текст: «Вот статья, перескажи её». Когда нужное под рукой, модели незачем сочинять — она работает с твоими данными, а не с памятью.
- Разреши сказать «не знаю». Прямо в запросе: «Если не уверен — так и напиши, не выдумывай». Звучит наивно, но это правда снижает уверенный бред: ты как будто разрешаешь честность.
- Проси помечать уверенность. «Где ты уверен, а где только предполагаешь — пометь». Сомнительные места всплывают сами, и ты сразу видишь, что перепроверить.
- Спрашивай источники — и проверяй их. «Откуда это? Дай ссылку». Но не верь ссылке на слово — открой её. Несуществующий или нерелевантный URL — верный признак выдумки.
- Дроби сложное на шаги. Большой запрос «одним куском» провоцирует склейку правды с фантазией. Маленькие шаги легче проверять по дороге.
Сравни на простом примере. Запрос «Какие законы о персональных данных есть в России?» вернёт обтекаемый ответ, где детали могут оказаться выдуманными. А запрос «Вот текст закона (ниже). Объясни простыми словами, что он требует от интернет-магазина. Если чего-то в тексте нет — так и скажи» почти не оставляет места для фантазии: материал у модели перед глазами, а сочинять ей прямо запретили.
Заметил закономерность? Чем меньше ты заставляешь ИИ доставать факты из воздуха и чем больше даёшь ему материал и право на честность — тем надёжнее результат.
Это не баг, а правила игры
Галлюцинации — не поломка, которую когда-нибудь «починят» окончательно. Это обратная сторона того самого свойства, за которое мы ИИ и любим: он гибкий, он достраивает, он отвечает на что угодно. Полностью убрать выдумки — значит лишить его этой гибкости.
Поэтому ключ не в том, чтобы найти «модель без ошибок», а в том, чтобы уметь с ними обращаться: понимать, где врёт чаще, спрашивать так, чтобы врал реже, и проверять то, что важно. Это и есть AI-грамотность — навык не для программистов, а для каждого, кто пользуется ИИ всерьёз.
Именно этому — спокойно и на бытовых примерах, без кода и без хайпа — мы учим с нуля.