Самая коварная ошибка Claude — не та, где он говорит «не знаю». Коварнее та, где он уверенно называет факт, которого не существует: несуществующий закон, выдуманную цитату, ссылку в никуда. Звучит гладко и убедительно — потому и опасно. У этого есть название: галлюцинация.
Почему он так делает
Claude не «помнит» факты как справочник или энциклопедия. Он подбирает правдоподобное продолжение текста — то, что обычно идёт следом. Чаще всего правдоподобное совпадает с правдой. Но если точного знания нет, модель может сложить убедительную выдумку вместо честного «не уверен» — и подаст её тем же спокойным тоном, что и проверенный факт.
Держи ухо востро, когда речь о:
- точных цифрах, датах, именах и цитатах;
- номерах законов и статей;
- ссылках и названиях книг, статей, исследований.
Порепетируй
Попробуй поймать момент, когда Claude звучит уверенно — но выдумывает.
Ты готовишь возражение по аренде и спрашиваешь у Claude точную статью закона — посмотри, как звучит уверенная выдумка.
Claude
Ты спрашиваешь: «Какая статья закона разрешает арендатору не платить за месяц, если в квартире не было горячей воды? Назови точный номер.»
Уверенный тон — не доказательство правоты. Галлюцинация выглядит ровно как правда, просто она ложная. Чем важнее факт, тем меньше верь на слово.
Главное — не пугаться, а помнить: Claude может ошибаться красиво и спокойно. Это не злой умысел и не глупость, а особенность того, как он устроен. В следующем уроке выработаем привычку проверять важное.