В 2023 году нью-йоркский адвокат Стивен Шварц принес в суд иск с шестью судебными прецедентами. Все шесть придумала ChatGPT. Юрист заранее спросил у модели, реальные ли это дела, и получил уверенное «да, конечно, они есть в базах». Федеральный судья Кевин Кастель потом разбирался, как человек с двадцатилетним стажем поверил в выдуманные ссылки, и влепил юристам штраф в 5 тысяч долларов.
Вот это и называют галлюцинацией нейросети. Не сбой сервера и не баг в коде. Модель выдала текст с правильными номерами дел, правильными названиями судов и правдоподобными формулировками. Только весь документ был фикцией от первой строки до последней.
Галлюцинация - это не поломка, а штатный режим работы
Слово взяли из психиатрии, но смысл другой. Человек в галлюцинации видит то, чего нет, и сам не отдает себе отчета. Языковая модель ничего не видит. Она предсказывает следующий фрагмент текста по вероятностным весам, накопленным при обучении. Механизма, который отличал бы правду от правдоподобия, внутри просто нет.
Спросите у ChatGPT про редкий судебный прецедент - в базу модель не полезет. Она достроит ответ так, как выглядели похожие ответы в обучающих данных. Формат юридической ссылки усвоен отлично. Содержание подставилось по вероятности. Иногда совпало с реальностью, иногда нет.
Главная неприятность в том, что галлюцинация не выглядит как ошибка. Кривой ответ на плохом русском вы бы отфильтровали за секунду. А гладкий, структурный, вежливый текст с уверенным тоном проходит внутренний фильтр доверия почти всегда. Модель не сомневается, потому что не умеет сомневаться, если ее специально не научили.
Три типа, которые полезно различать
Фактические ошибки. Модель подменяет реальные сведения ложными: путает год основания компании, приписывает цитату не тому автору, называет неверную дозировку. Опасность в том, что 90 процентов ответа при этом абсолютно верны, и глаз зацепляется за знакомые правильные куски.
Сфабрикованный контент - здесь модель не ошибается, а сочиняет с нуля. Несуществующие статьи, книги, законы, ссылки на исследования с аккуратным DOI, который ведет в никуда. Тот самый случай со Шварцем. Плюс вымышленные отзывы, биографии, события, интервью.
Третий тип - бессмысленные выводы. Грамматика идеальна, логика рассыпается. Совет «чтобы сэкономить, покупайте больше», инструкция, где шаг три противоречит шагу один. Такое чаще вылезает в длинных цепочках рассуждений, когда модель теряет нить и продолжает генерировать в том же уверенном ритме.
Масштаб: от 3 до 27 процентов
Стартап Vectara прогнал популярные модели через тесты на фактическую точность и получил разброс от 3 до 27 процентов галлюцинаций. Разброс зависит от задачи. Пересказ документа с опорой на текст ближе к нижней границе. Вопросы про малоизвестные события, узкие профессиональные темы и свежие новости ближе к верхней.
Здесь меня интересует не среднее, а нижняя граница. Даже лучшая модель в тесте ошибается в трех случаях из ста. Для юридического документа, медицинской памятки или финансового отчета три процента - не погрешность. Это три гарантированные ошибки на сотню фактов, и каждая может стоить денег.
Air Canada: чат-бот наврал, платила компания
В 2024 году трибунал по гражданским спорам в Британской Колумбии обязал Air Canada компенсировать пассажиру около 812 канадских долларов. История бытовая. Мужчина спросил у чат-бота на сайте авиакомпании про тариф для случая смерти близкого человека и получил ответ: купите билет по полной цене, потом запросите скидку. Он так и сделал. В поддержке сказали: никакой скидки постфактум нет, бот ошибся.
Air Canada попробовала аргумент «чат-бот это отдельная сущность, компания за него не отвечает». Суд довод не принял. Ответственность за то, что говорит ваш бот, лежит на вас. Случай вошел в учебники по юридическим рискам ИИ, и не зря: это первый раз, когда галлюцинация нейросети привела к официальному денежному решению против корпорации.
Почему она так уверена в себе
Внутри генерации нет шага «проверить, правда ли это». Есть распределение вероятностей следующего токена. Модель выбирает продолжение, которое статистически лучше вписывается в контекст. Уверенный тон тоже статистически выгоден: в обучающих данных экспертные ответы звучат твердо, а не «возможно, я не уверен, но, кажется».
Дальше настройки. Чем выше температура и чем свободнее сэмплирование, тем креативнее ответ и тем чаще выдумка. Для маркетинговых заголовков это плюс. Для справки по дозировке лекарства - прямая дорога к беде. Один и тот же промпт при разных настройках дает разную степень фантазии. Об этом почти никто не помнит, когда копирует ответ в рабочий документ.
Отдельная история, когда модель не знает ответа, но не говорит об этом. Человек в такой ситуации пожимает плечами. Модель достраивает. Отучить ее от этого до конца не получилось: инструкция «если не уверен, скажи, что не знаешь» работает процентов на семьдесят, и то не всегда.
Картинки врут иначе
В генерации изображений галлюцинация выглядит как артефакт. Лишний палец, шестая рука, зубы в два ряда, тень не с той стороны, размытый стык на месте удаленного объекта. Нейросеть не знает анатомии. Она видела миллионы фотографий людей и собирает похожее, а не правильное.
С руками новые модели справляются намного лучше, чем год назад: шестипалые ладони из 2023-го уже редкость. Зато текст на картинке до сих пор ломается. Вывеска с абракадаброй, надпись на футболке из псевдобукв, кривой логотип. Мелкие детали вроде пуговиц, столовых приборов и отражений в очках тоже зона риска. Для соцсетей сойдет, для коммерческого каталога нужно смотреть вплотную и переделывать.
Галлюцинация и устаревшие данные - не одно и то же
Модель уверенно называет старую цену, прежнего директора, отмененный тариф. Формально это не выдумка, а знание, устаревшее с даты обучения. Разница принципиальная: галлюцинацию ловят проверкой источников, а устаревшие данные лечат подключением поиска или загрузкой свежего документа в контекст.
На практике граница размыта. Модель легко смешивает старое с придуманным и выдает гибрид, который выглядит как единый факт. Поэтому в рабочих задачах я всегда прошу указать, на что опирается ответ, и назвать дату источника. Половина сомнительных утверждений отваливается уже на этом шаге.
Поиск и загруженные документы снижают риск, но не убирают
Схема с поиском или загруженной базой знаний работает заметно надежнее, чем генерация по памяти. Модель получает контекст и отвечает по нему. Но и тут есть люфт: она может неверно прочитать абзац, склеить два факта из разных разделов или процитировать фразу, которой в документе не было.
На Reddit в тредах про работу с документами разработчики регулярно выкладывают один и тот же скриншот: модель уверенно цитирует абзац, которого в файле нет ни в каком виде. Лечится это дисциплиной запроса. Мой проверенный прием - просить точные цитаты с указанием места. Когда модель обязана процитировать дословно, врать ей заметно сложнее. Второй прием: спрашивать не «что сказано в документе», а «в каком разделе это сказано и как звучит дословно». Формулировка меняет качество ответа сильнее, чем кажется.
Мои рабочие проверки
За годы практики выработался короткий набор привычек. Стопроцентной гарантии они не дают, но отсекают большинство неприятностей.
- Прошу источники и проверяю каждый. Не «есть исследование», а название, автор, год, ссылка. Если ссылка не открывается, значит ответа не существует.
- Задаю тот же вопрос второй модели. Расхождение в фактах - сигнал, что тема скользкая и надо копать руками.
- Прошу модель возразить самой себе. «Приведи аргументы, что твой ответ неверен». Часто всплывают детали, которых в первом ответе не было.
- Считаю сам. Любую арифметику в ответе проверяю калькулятором, даже таблицу умножения. Модели путают разряды и проценты с завидной регулярностью.
- Дроблю задачу. Один большой запрос на десять фактов почти гарантированно даст хотя бы одну выдумку. Десять маленьких запросов дают шанс поймать ее на месте.
И главное правило: чем выше цена ошибки, тем меньше доверия к тексту, который никто не проверял. Черновик письма - ладно. Справка для клиента, коммерческое предложение с цифрами, статья в блог от лица эксперта - только через проверку.
Одна модель - лотерея, несколько моделей - система
Практика показала простую вещь: галлюцинации лучше всего ловятся сравнением. Когда под рукой три-четыре флагманские модели, вы задаете один вопрос, получаете разные ответы и сразу видите, где начинается зона вымысла. Одна соврала, вторая поправила.
Из России добраться до свежих флагманов долго было квестом: иностранная карта, VPN, риск блокировки аккаунта. Сейчас есть 3GPT от 3SELLER - роутер, который открывает доступ к топовым нейросетям без иностранных карт. Подписка стартует от 149 рублей, пополнить баланс можно российской картой, через СБП или криптой.
Внутри собраны Chat GPT 6 Astra, Chat GPT 5.5, Chat GPT 6.1 Sol, the model 5, 5.1 и 5.5, Nano Banana для изображений и генерация видео. Переключаетесь между ними в одном интерфейсе и проверяете ответы друг другом, вместо того чтобы верить первому попавшемуся тексту.

Для повседневных задач в работе и бизнесе этого хватает с головой. Продающие тексты, лендинги, разбор договора, перевод, код, презентация. Вопрос «что называют галлюцинацией нейросети» из теоретического превращается в прикладной: у вас есть чем перепроверить ответ.
Готовые агенты, если не хочется писать промпты
Отдельная фишка сервиса - готовые ИИ агенты под конкретные задачи. Выбираете агента и сразу начинаете диалог, без настройки ролей и многострочных инструкций. Модель агента меняется прямо в чате: начали на одной, поняли, что не тянет, переключились на другую.

Мне такой подход нравится тем, что снижает порог входа. Человеку без опыта сложно сформулировать нормальный промпт, а готовый агент уже настроен под задачу: маркетинг, тексты, разбор данных, помощь с учебой.
Картинки и видео: где начинается настоящая магия
Генерация изображений через лучшие ИИ инструменты давно перестала быть игрушкой. Фотореалистичные портреты, товарные рендеры, интерьерные визуализации, обложки для статей - все это делается за минуты и без фотосессии.

С видео та же история. Короткие ролики, анимация статичных фото, озвучка голосом, который не отличить от живого диктора. Для соцсетей и рекламы это экономит дни работы.

Но именно здесь галлюцинации видны глазами. Смотрите на руки, на текст в кадре, на отражения и на стыки объектов. Все, что вызывает сомнение, переделывайте сразу: в изображении фальшь заметна мгновенно, в отличие от фальши в тексте.
Что делать с этим знанием
Галлюцинация не баг конкретной модели и не повод отказываться от инструмента. Свойство технологии, которое надо учитывать, как учитывают погрешность весов или плохое освещение при съемке.
Работает простая схема: модель генерирует, человек проверяет, вторая модель страхует. Чем дороже ошибка, тем больше слоев проверки. И чем шире доступ к разным моделям, тем проще поймать выдумку за руку. Начать можно с 3GPT: 149 рублей, российская карта, все флагманы в одном окне.