Самая коварная ошибка — не та, где Claude говорит «не знаю». Коварнее та, где он уверенно называет факт, которого не существует: несуществующий закон, выдуманную цитату, ссылку, которая никуда не ведёт. Звучит гладко и убедительно — потому и опасно. У этого даже есть название: галлюцинация.
Почему так происходит
Claude не «помнит» факты как справочник. Он подбирает правдоподобное продолжение текста. Чаще всего правдоподобное совпадает с правдой — но не всегда. Если точного знания нет, модель может сложить убедительную выдумку вместо честного «не уверен». И сделает это тем же спокойным тоном, что и проверенный факт.
Особенно держи ухо востро, когда речь о:
- точных цифрах, датах, именах и цитатах;
- законах, нормах, статьях — где ошибка дорого стоит;
- ссылках и названиях книг, статей, исследований.
Как распознать и подстраховаться
Несколько простых приёмов на каждый день:
- Проси источник. «Откуда это? Можешь сослаться на конкретный источник?» Если источника нет или он размытый — относись к факту как к версии, а не истине.
- Проси оговорки. «Если не уверен — так и напиши.» Прямое разрешение сомневаться снижает шанс гладкой выдумки.
- Сверяй важное сам. Закон, диагноз, сумму к оплате, юридический срок — всегда перепроверяй в первоисточнике. Claude хорош как черновик, но не как последняя инстанция в важных вопросах.
Назови статью закона и обязательно дай ссылку на источник. Если точно не уверен в номере — честно напиши «не уверен», не угадывай.
Важно
Уверенный тон — не доказательство правоты. Чем важнее решение (деньги, здоровье, документы, право), тем строже проверяй факты в первоисточнике, а не доверяй ответу на слово.
Claude — сильный помощник, если помнить про этот его край. Спрашивай источники, разрешай ему сомневаться и оставляй проверку важного за собой — и уверенные ошибки перестанут заставать тебя врасплох.