Спроси у ИИ что угодно — и почти всегда получишь ровный, складный, уверенный ответ. Без запинок, без «эээ», без «я не уверен, но кажется». Звучит так, будто отвечает эксперт, который сто раз это объяснял. Проблема в том, что точно так же уверенно ИИ говорит и тогда, когда выдумывает.
У живого человека сомнение обычно слышно. Он мнётся, делает паузу, говорит «вроде бы», отводит взгляд. Мы с детства считываем эти сигналы и по ним прикидываем, можно ли верить. У ИИ таких сигналов нет вообще. Он не краснеет, не замолкает, не понижает голос. Любой ответ — хоть точный факт, хоть полная выдумка — выходит в одной и той же гладкой упаковке.
Форма и содержание — это разные вещи
Представь два ответа на вопрос о том, в каком году вышла книга. Первый: «Книга вышла в 1998 году». Второй: «Книга вышла в 2003 году». Оба сформулированы одинаково спокойно и уверенно. По тону ты никак не отличишь правду от ошибки — потому что тон вообще не несёт информации о правдивости. Он несёт информацию только о стиле.
Вот привычка, которую стоит поломать: «звучит убедительно» не равно «это правда». Гладкость — это форма. Верно ли по сути — это содержание. ИИ почти всегда отлично делает форму. А вот за содержание отвечаешь ты.
Мини-проверка
ИИ ответил спокойно и без единой оговорки. О чём это говорит?
Что с этим делать на практике
Не нужно подозревать каждое слово — это утомительно и не всегда оправдано. Достаточно одного простого сдвига: перестань использовать тон как доказательство. Когда ответ важен — имя, дата, цифра, цитата, медицинский или юридический совет — отдели «как сказано» от «что сказано» и проверь содержание отдельно.
Совет
Поймал себя на мысли «звучит логично, наверное, правда»? Это сигнал остановиться. Уверенность ответа — не повод ему верить, а всего лишь его упаковка. Смотри на факты, а не на гладкость.
Уверенный тон ИИ — не признак знания и не признак вранья. Он просто всегда такой. В следующем уроке разберём, как именно рождается складная выдумка — и почему ИИ вообще «придумывает» то, чего не знает.