Весной 2023 года юрист из Нью-Йорка Стивен Шварц подал в суд документ с шестью судебными прецедентами. Все шесть придумал ChatGPT. У кейсов были правдоподобные номера, даты и цитаты, все выглядело безупречно - только самих дел никогда не существовало. Судья оштрафовал адвоката на 5 000 долларов, а термин, который до этого кочевал по исследовательским бумагам, выстрелил в мировые новости. Ответ на вопрос, как называются ошибки нейросети, звучит непривычно: галлюцинации. Дальше разберу, откуда взялся термин, почему модель врет с умным лицом и что с этим делать на практике.
Галлюцинация: главное слово в словаре ошибок ИИ
Галлюцинацией нейросети называют ситуацию, когда модель в ответ на запрос выдает недостоверную информацию, которая при этом выглядит убедительно. Термин построен по аналогии с психикой человека: искусственный интеллект «видит» в своих данных несуществующую закономерность и генерирует текст или изображение, полностью или частично не соответствующие реальности. Впервые слово всплыло в научных работах по машинному переводу еще в 2017 году. Массовым термин стал после взлета ChatGPT, когда тысячи пользователей поймали бота на выдуманных фактах.
Коварство в том, что галлюцинация внешне неотличима от нормального ответа. Модель приводит несуществующий источник с правдоподобным DOI, называет точную статистику, которой никогда не было, путает даты, приписывает цитату не тому человеку. И самое неприятное: нейросеть почти никогда не предупреждает, что сомневается. Она сообщает выдумку с той же интонацией, с какой говорит, что два плюс два - четыре.
Исследователи делят галлюцинации на два типа. Фактические - когда ответ противоречит реальности: придуманное событие, несуществующая персона, ложная дата. Внутренние (их еще называют faithfulness-ошибками) - когда текст противоречит самому запросу или документу, который дали модели. Для пользователя разница условная, но для разработчиков это два разных фронта борьбы.
Нейросеть не знает, что такое правда
Частая ошибка новичка - представлять нейросеть умным собеседником, который иногда врет из вредности. С математической точки зрения все прозаичнее: нейросеть - это сложная функция, которая превращает входные данные в выходные через цепочку вычислений, разбитых на слои. Внутри нет базы истины, нет желания обмануть, нет даже понимания вопроса в человеческом смысле.
Модель обучается на примерах: она прогоняет через себя гигантские массивы текстов и сама находит закономерности. Иногда среди них оказываются ложные. Дальше работает простая механика: следующий фрагмент подбирается не по критерию «правда-ложь», а по критерию «насколько похоже на правдоподобное продолжение». Уверенный тон фейкового источника и уверенный тон реального не различаются, потому что и там, и там модель просто предсказывает текст.
Отсюда характер галлюцинаций. Чем чаще факт встречается в обучающих данных, тем меньше шанс ошибки. Популярные события, известные люди, базовая математика - зона надежности. Нишевые темы, свежие новости, точные числа - зона риска, где модель достраивает пробелы воображением. Для нейросети нет «выдумки» и «факта» - есть более вероятное и менее вероятное продолжение.
Почему модель не признается, что не знает
Логичный момент: данных не хватает, но нейросеть не отвечает «не знаю». Причина в том, что в ходе дообучения ее целенаправленно штрафовали за отказы и награждали за полезность. Чат-бот, который на каждый третий запрос честно разводит руками, кажется пользователю хуже, чем бот, всегда выдающий какой-то ответ. Инженеры выкрутили уверенность моделей до предела, и побочный эффект этой настройки - галлюцинации с интонацией знатока.
Есть и обратный феномен - подхалимство (sycophancy). Модель легко соглашается с вашей ошибочной версией, если давить авторитетом или повторять вопрос настойчивее. Скажите ей, что правило грамматики изменилось, и через пару реплик она докажет вам правоту. Вывод отсюда простой: тон ответа ничего не говорит о его точности. Уверенность и достоверность - разные вещи, и путать их дорого.
Не всякая ошибка - галлюцинация
Тут многие ошибаются, сваливая в кучу все странности ИИ. Когда модель утверждает, что на дворе прошлый год и не знает вчерашних новостей, это не галлюцинация, а обрезка знаний: обучающие данные заканчиваются определенной датой, и модель честно не знает того, что произошло позже. С перечислением событий после этой даты она действительно споткнется, но механика тут другая.
Отдельная категория - устаревшие ответы по вечно меняющимся темам: тарифы, условия сервисов, законодательство. Модель пересказывает материал из обучающей выборки, а он устарел. Формально вранья нет, для пользователя разница невелика, поэтому и это стоит проверять. Настоящая галлюцинация - когда модель с уверенностью описывает то, чего не было никогда: несуществующую книгу, несуществующее судебное дело, несуществующую функцию в сервисе.
Где нейросеть галлюцинирует чаще всего
По моему опыту и по данным открытых бенчмарков болевые зоны стабильны из года в год. В обсуждениях на Reddit практикующие пользователи жалуются ровно на то же: ошибки всплывают там, где нужна проверка фактов, актуальная информация или экспертная оценка, а не просто связный текст.
- Списки литературы и ссылки. Классика жанра: модель склеивает правдоподобный DOI, год издания и название журнала в несуществующую публикацию. Студенческие рефераты - главный рассадник таких фейков.
- Авторство цитат. Любимую фразу с вероятностью лотереи приписывают Эйнштейну, Марку Твену или Джобсу.
- Даты и числа. Неверная дата события, выдуманная статистика, характеристики продукта, которых нет ни в одной спецификации.
- Юридические и медицинские детали. Точность тут критична, а узких кейсов в обучающей выборке мало.
- Пересказ исследований. Модель может некорректно пересказать научную работу или сделать неверный вывод на основе корректных данных.
Общая черта всех этих ситуаций: модель уверена в ответе на сто процентов. Галлюцинация - не сбой, а штатная работа механизма предсказания, который наткнулся на дыру в данных и аккуратно ее замостил.
Картинки, аудио и видео тоже врут
Нейросеть «Кандинский» по запросу про галлюцинации ИИ рисует сюрреалистичные полотна, но в реальной жизни проблема прозаичнее: лишние пальцы на лицах, нечитаемые надписи на вывесках, лестницы в никуда в интерьерах. Генеративные модели дорисовывают то, что статистически «должно быть» в этом месте кадра. Человеческая анатомия и текст на фоне - их слабые места.
Аудио не отстает. Журналисты AP в 2024 году проверили Whisper - транскрибатор от OpenAI, который используют в больницах и сервисах. Они подтвердили знаменитую особенность модели: на паузах и шуме она иногда «услышивает» целые фразы, включая советы принимать лекарства и выдуманные слова. В минутной записи таких вставок немного, но в медицине даже одна стоит дорого.
Видео галлюцинирует своим способом: объекты морфят, исчезают между кадрами, текст на вывесках плавится. Проблема общая для всех модальностей - модель не проверяет сгенерированное на соответствие реальности, она просто продолжает статистическую закономерность во времени.
Реальные истории с ценой ошибки
Дело Шварца из вступления стало прецедентом с последствиями: суд потребовал от адвокатов округа подтверждать существование всех цитируемых дел. Вторая история дороже. В 2023 году на презентации чат-бота Bard Google попросил его назвать телескоп, сделавший первые снимки экзопланеты. Бот ответил «James Webb» - и ошибся, такие снимки были раньше. За один неточный ответ акции Alphabet потеряли около 100 миллиардов долларов капитализации. Мало какой чат в истории стоил дороже.
Бытовой пример ближе к каждому. Air Canada в 2024 году через трибунал заставили выплатить компенсацию пассажиру: чат-бот авиакомпании пообещал скидку в связи с утратой близкого, которой по внутренним правилам не существовало. Компания пыталась доказать, что бот «отдельная сущность» и отвечает за себя сам. Суд такой философией не впечатлился.
Мораль во всех трех историях одна: галлюцинация опасна не самим фактом ошибки, а уверенностью, с которой она подана. Ни Bard, ни бот Air Canada не намекнули пользователю, что ответ стоит перепроверить.
MAD-синдром: когда нейросеть поедает сама себя
Есть и более экзотический термин, о котором слышали немногие. Model Autophagy Disorder, сокращенно MAD, в русскоязычных статьях - ИИ-аутофагия. Феномен описывает деградацию нейросети, которая обучается на собственных сгенерированных данных. Аутофагия в биологии - процесс, когда клетка переваривает собственные части. С моделями происходит похожее: каждое новое поколение учится на неидеальных данных предыдущего и теряет качество, как ксерокопия с ксерокопии.
У старых моделей ChatGPT и Midjourney деградация была заметна уже после пятого цикла переобучения: ответы становились однообразнее, терялись редкие и специфичные детали, модель постепенно забывала «хвосты» распределения - то есть самые интересные варианты. В 2023 году исследователи из Оксфорда и Кембриджа формализовали эффект как «проклятие рекурсии» и показали: без подпитки свежими человеческими данными модель вырождается неумолимо.
Отсюда вывод, который звучит банально, но держится на жесткой математике: нейросетям для нормальной работы нужен свежий контент, созданный людьми, и разноплановые задачи. Именно поэтому разработчики так рьяно борются за чистые данные и нервничают из-за того, что интернет все плотнее заполняется сгенерированным текстом. Отсюда же простой совет пользователю: свежая версия модели не просто умнее - она еще и честнее, потому что каждый цикл обучения включает работу над сокращением галлюцинаций.
Как поймать галлюцинацию за руку
Отключить галлюцинации полностью нельзя - это свойство архитектуры, а не баг. Но свести их к минимуму вполне реально. За пару лет ежедневной работы с текстами у меня сложился набор приемов, который дает большую часть результата.
- Просите цитировать источники, а потом проверяйте хотя бы пару ссылок вручную. Фейковая ссылка вскрывается за десять секунд поиска.
- Добавляйте в промпт фразу «если не уверен - скажи прямо». Она заметно снижает процент выдумок, потому что разрешает модели признать пробел.
- Делите задачу на шаги. В длинных рассуждениях модель чаще съезжает с фактов, короткие цепочки контролировать проще.
- Давайте нейросети документы в контекст. Когда модель отвечает по вашему файлу, а не по памяти, галлюцинации падают в разы. Такой подход называется RAG, и именно на нем строят корпоративные ассистенты.
- Кросс-чек между двумя моделями. Claude и ChatGPT обучались на разных корпусах, и их выдумки редко совпадают - совпадение ответов хороший знак.
- Читайте ответ как человек, а не как редактор. Если фактура подозрительно гладкая, а источник «слишком идеальный» - насторожитесь.
Пара слов о цифрах. Команда Vectara ведет публичный рейтинг моделей по частоте галлюцинаций при суммаризации. Лучшие современные флагманы удерживают уровень в пределах одного-двух процентов, а модели двух-трехлетней давности на сложных материалах показывали десятки процентов. Прогресс очевиден, но даже один процент означает пару выдумок на сотню ответов. В бухгалтерии, юридической практике или медицине одна - уже много.
Поиск в интернете и модели с рассуждениями: частичная панацея
Да, но лишь отчасти. Модели с доступом к поиску реже врут про новости и свежие цены, потому что опираются на живые страницы, а не на застывшую память. Модели с рассуждениями перепроверяют себя по ходу ответа и чаще признают неопределенность. Однако поиск смещает, а не убирает проблему: модель может процитировать случайный форум как авторитет, вырвать цифру из контекста или склеить данные из разных лет. Проверка источников остается на пользователе в любом случае.
Рабочая связка у меня такая: нейросеть готовит черновик и список фактов, я выборочно проверяю самое критичное - ссылки, цифры, имена - и только потом материал идет в работу. Пять минут проверки экономят дни разборок с последствиями.
Свежие модели врут меньше. Где их взять из России за 149 рублей
Теперь от теории к практике. Главный источник ненужных галлюцинаций, с которым я сталкиваюсь у знакомых и клиентов, - работа на устаревших моделях. Кто-то экономит на подписке, кто-то просто не может оплатить иностранный сервис без зарубежной карты. Обе проблемы разом решает 3GPT от 3SELLER - сервис с прямым доступом из России ко всем флагманским нейросетям.
Внутри собраны актуальные версии всех топ-моделей: ChatGPT 6 Astra, ChatGPT 5.5, ChatGPT 6.1 Sol, Claude Fable 5, Claude Fable 5.1 и Claude Opus 5.5. Плюс Nano Banana для генерации изображений, инструменты для создания видео и синтеза голоса. Подписка на весь набор - 149 рублей, оплата российской картой, через СБП или криптой. Никаких иностранных карт, VPN и переписки с техподдержкой на английском. Получить доступ ко всем флагманским моделям нейросетей из России можно на официальном сайте 3GPT.
Практический смысл именно в выборе модели под задачу. Рабочие тексты и документы я отдаю старшим версиям Claude и ChatGPT - они точнее всего держат фактуру и реже придумывают источники. Реалистичные изображения - Nano Banana, она почти не генерирует те самые лишние пальцы. Видеоролики и озвучка - соседние инструменты в том же интерфейсе, без отдельных подписок под каждую задачу.
Использовать 3GPT можно для повседневных задач в бизнесе и работе: продающие тексты, сайты, обработка и генерация максимально реалистичных изображений, видеоролики, голос. По сути одна подписка за 149 рублей заменяет пачку иностранных - с честной оплатой из России.
Готовые ИИ-агенты: структура вместо хаоса
У 3GPT есть еще одна фишка, о которой мало кто знает. Кроме чата с моделями там собраны готовые ИИ-агенты под конкретные задачи: выбираете профильного агента и сразу общаетесь, без конструирования промптов с нуля. Модель агента меняется прямо в чате - удобно, если конкретная версия на вашей задачке галлюцинирует чаще остальных: переключились и пошли дальше.
Агент с жестким сценарием в среднем дает меньше выдумок, чем свободный чат: система сама удерживает модель в рамках задачи и подает ей данные, а не просит вспомнить из памяти. Для рутинных процессов - тексты, обработка изображений, консультации клиентов - это ощутимая экономия времени и нервов.
Коротко по делу
Ошибки нейросети называются галлюцинациями: модель уверенно выдает несуществующие факты, источники, числа или изображения, потому что предсказывает правдоподобный текст, а не достоверный. Деградация моделей, обученных на собственных ответах, зовется ИИ-аутофагией, или MAD-синдромом. У обоих феноменов один корень: внутри нейросети нет понятия «правда», есть только вероятности.
Рабочая защита от выдумок проста: проверять ссылки, дробить задачи, подавать модели документы в контекст и не сидеть на устаревших версиях. Начните прямо сейчас - откройте последний ответ нейросети и проверьте в нем хотя бы одну цифру или ссылку. А за флагманами без иностранных карт и перепплат идите на сайт 3GPT: 149 рублей открывают ChatGPT 6 Astra, Claude Fable 5 и весь набор актуальных моделей, а готовые агенты помогут встроить их в работу с первого дня.