# Нейросеть выдумала данные: как ловить галлюцинации до того, как они попадут в отчёт

Почему нейросеть уверенно выдумывает факты и как распознать галлюцинации. 5 приёмов проверить ответ ИИ: прожарь ответ, источники, кросс-проверка.

URL: https://posts.danashkin.ru/guides/gallyucinacii-neyrosetey-kak-proveryat
Обновлено: 2026-08-20

---

## Коротко

**Главное**

- Галлюцинация нейросети - это когда модель уверенно выдаёт выдумку за факт: несуществующую цифру, ссылку, цитату или событие. Не со зла - она так устроена: угадывает правдоподобное продолжение, а не проверяет правду.
- Опасно это тем, что выдумка звучит гладко и уверенно, поэтому легко попадает в отчёт, договор или пост. А цена ошибки остаётся на тебе, не на модели.
- Проверка - не паранойя, а гигиена работы с ИИ. Пять простых приёмов ловят почти все галлюцинации, и ни один из них не требует кода или техбэкграунда.
- Если совсем некогда читать: после ответа спроси у модели источники и напиши «прожарь свой ответ». Она сама начнёт себя критиковать и вытащит слабые места.

## Что такое галлюцинация нейросети простыми словами

**Главное**

Галлюцинация - это правдоподобная выдумка, которую модель подаёт как факт: выдуманное число, несуществующая ссылка, ложная цитата, перепутанные даты и имена. Коварство в том, что выглядит она абсолютно правильной.

Представь уверенного отличника, который не выучил один билет, но на экзамене не молчит, а начинает складно рассказывать. Говорит гладко, с деталями, смотрит в глаза - и комиссия верит, хотя половину он придумал прямо на ходу. Нейросеть в режиме галлюцинации ведёт себя точно так же: не знает ответа, но выдаёт красивую версию с той же интонацией, что и проверенный факт.

Галлюцинации бывают разные, и полезно узнавать их в лицо:

- **Выдуманные цифры.** Проценты, суммы, доли рынка, статистика по годам - всё расписано красиво, а за числами ничего не стоит.
- **Несуществующие источники.** Модель даёт ссылку на «исследование» или книгу, которых нет, либо приписывает реальному автору чужие слова.
- **Ложные цитаты.** Красивая фраза «по словам эксперта» - которую эксперт никогда не говорил.
- **Перепутанные факты.** Реальные события, но с неверной датой, не тем человеком или не в той стране.
- **Выдуманные детали продукта или закона.** Функция, которой нет в сервисе, или статья закона с неправильным номером.

Именно на этом обжигаются команды, которые купили подписку и ждали чуда. Одна из частых причин, почему [покупка ChatGPT команде не сработала](/guides/kupili-chatgpt-komande-pochemu-ne-rabotaet), - люди приняли гладкий ответ за проверенный и понесли его дальше. Модель не подписывает свои ответы честным «это я придумал». Эту работу она оставляет тебе.

## Почему нейросеть врёт так уверенно

**Главное**

Модель не хранит факты с пометкой «правда» или «ложь». Она предсказывает наиболее правдоподобное продолжение текста, как продвинутый Т9. Когда точных данных нет, она всё равно достраивает гладкий ответ - и подаёт его с той же уверенностью, что и верный.

Вспомни Т9 в старых телефонах: он угадывал следующее слово по тому, что ты уже набрал. Большая языковая модель - это тот же принцип, только на порядок мощнее: она угадывает не слово, а целый смысл, достраивая самое вероятное продолжение фразы. Ключевое здесь - вероятное, а не истинное. Модель оптимизирована на то, чтобы звучать правдоподобно и связно, а не на то, чтобы говорить правду.

Отсюда простое, но важное следствие. Нейросеть стоит воспринимать как живого собеседника, а не как калькулятор «2+2=4». Калькулятор всегда прав в арифметике, потому что считает по жёстким правилам. Модель ничего не считает - она угадывает по паттернам из миллионов текстов. Талантливый собеседник, который иногда может приврать, сам того не заметив. Когда у него нет точных данных, он не ставит паузу и не говорит «не знаю» - он заполняет пробел самой правдоподобной по форме конструкцией.

Есть и вторая причина, менее очевидная. Исследователи OpenAI в 2025 году показали: модели галлюцинируют отчасти потому, что само их обучение и тестирование поощряют угадывание. На экзаменах-бенчмарках ответ «не знаю» штрафуется так же, как неверный ответ, а удачная догадка иногда приносит балл. В итоге модель приучается всегда давать ответ, даже когда честнее было бы промолчать. Это не поломка конкретной нейросети - это встроенное свойство того, как их учат.

Что с этим делать на практике? Половина борьбы с галлюцинациями - это правильно поданный контекст. Если модель отвечает не из смутной памяти, а по загруженному тобой документу, придумывать ей почти нечего. Этот навык называется [контекст-инжиниринг](/concepts/context-engineering): не выжимать ответ из воздуха, а дать модели правильную опору. Вторая половина - проверка того, что она выдала. Про неё и весь дальнейший разговор.

## Живой пример: как ИИ придумал данные, которых не было

**Главное**

Пару лет назад я попросил нейросеть разложить экономику страны по годам и получил красивую таблицу с процентами. Спросил, откуда данные - модель призналась, что выдумала их. С тех пор у меня жёсткое правило: сначала источник, потом доверие.

Расскажу случай, после которого я перестал доверять гладким ответам на слово. Пару лет назад я спросил у нейросети, как экономика Арабских Эмиратов зависела от добычи нефти по годам, с 2020-го по 2023-й. Получил отличный ответ: всё разложено по годам, в процентах, аккуратная таблица, хоть сейчас в презентацию.

Дальше я задал простой уточняющий вопрос: дай ссылку, откуда эти данные. И модель спокойно ответила, что данные она выдумала - таких цифр у неё не было, а расстраивать меня отказом не хотелось. Тогда нейросети ещё не умели ходить в интернет и работали только по памяти. Если бы я не спросил про источник, эти красивые проценты могли бы уехать в реальный документ и жить там как факт.

Вывод, который я вынес и повторяю на каждом обучении: в любой нейросети результат нужно проверять перед использованием. Не потому что технология плохая, а потому что она именно так устроена. Дальше - конкретные приёмы, как эту проверку встроить в работу, чтобы она занимала минуту, а не час.

## Как распознать галлюцинацию на глаз

**Главное**

Точных детекторов нет, но есть красные флаги: подозрительно конкретные цифры без источника, слишком гладкий уверенный тон на узкой теме, ссылки и цитаты, свежие события, редкие ниши. Чем выше цена ошибки, тем сильнее должна включаться проверка.

Стопроцентного способа отличить правду от выдумки по одному лишь тексту нет - в том и коварство. Но есть сигналы, на которых стоит насторожиться:

- **Слишком точные цифры без источника.** «Рынок вырос на 23,7%» звучит убедительнее круглого «примерно на четверть». Именно избыточная точность часто и выдаёт выдумку.
- **Ссылки, цитаты, номера.** Любая ссылка на статью, книгу, закон или чьи-то слова - первый кандидат на проверку. Их модель придумывает особенно охотно.
- **Свежие события.** Если новость произошла недавно, а модель уверенно её пересказывает без поиска, велик шанс, что она достраивает по памяти.
- **Узкие и редкие темы.** Чем реже тема встречалась в обучающих данных, тем больше модель домысливает.
- **Наводящий вопрос.** Если ты сам подсказал желаемый ответ, модель охотно его подтвердит, даже если это неправда. Об этом отдельно ниже.

И отдельно про автономность. Когда ты используешь [ИИ-агента](/concepts/ai-agent), который сам ходит по шагам и что-то делает без твоего участия, цена непойманной галлюцинации выше: ошибка не показывается тебе на экран, а сразу уезжает в следующее действие. Чем самостоятельнее система, тем важнее заранее встроить в неё проверку.

## Приём 1: прожарь свой ответ

**Главное**

Самый быстрый приём: после ответа попроси модель раскритиковать саму себя. Свежим взглядом она находит в собственном тексте слабые места и сама помечает, что стоит перепроверить.

Модель умеет быть не только автором, но и критиком. И критик из неё выходит на удивление честный, если прямо попросить. После любого ответа, который собираешься использовать, отправь короткую добивку:

```text
Прожарь свой ответ. Найди в нём слабые места, спорные утверждения и всё,
в чём ты не уверен на сто процентов. Отдельно перечисли, какие факты,
цифры и ссылки стоит перепроверить, прежде чем я возьму это в работу.
```

Работает это так. Если исходный запрос был сильным и по делу, модель обычно ставит себе высокую оценку и лишь уточняет пару мест - можно выдыхать. Если запрос был слабым или тема скользкая, она начинает всерьёз себя критиковать и часто переписывает ответ. По сути ты бесплатно получаешь второе мнение от того же собеседника, только теперь настроенного искать дыры, а не защищать написанное.

Важный нюанс: это не гарантия. Модель, которая придумала факт, может при «прожарке» его же и подтвердить. Поэтому приём номер один хорош как быстрый фильтр, но не заменяет проверку по внешним источникам. Считай его первым ситом, через которое отсеивается самое очевидное.

## Приём 2: требуй источники и проверяй их

**Главное**

На каждую цифру и факт проси источник: название, автора, ссылку. И обязательно разреши модели честно написать «источник не подтверждён» вместо выдуманной ссылки. Дальше сам открой пару ссылок и убедись, что они существуют и говорят то, что приписано.

Ровно этот приём спас бы меня в истории с нефтяными процентами. Запрос источника переводит разговор из режима «сочиняй складно» в режим «отвечай за слова». Формулируй так:

```text
Дай источник для каждой цифры и факта из ответа: название, автора и ссылку.
Если источника нет или ты не уверен в нём - честно напиши
"источник не подтверждён", а не придумывай ссылку.
```

Дальше - самая важная часть, которую многие пропускают. Ссылку недостаточно получить, её надо открыть. Модель может выдать правдоподобный, но несуществующий адрес или сослаться на реальную страницу, где написано совсем другое. Проверка занимает полминуты: открыл, убедился, что страница существует и содержит именно тот факт. Если ссылка не открывается или говорит о другом - перед тобой галлюцинация, как бы уверенно ни звучал текст.

**Останься на связи**

Каждую неделю разбираю такие приёмы на реальных задачах бизнеса - как проверять ИИ, где он подводит, как встроить его в работу без факапов. Если тема твоя, подпишись на канал [@ai_anashkin](https://t.me/ai_anashkin), чтобы не пропустить.

## Приём 3: кросс-проверка через вторую модель или поиск

**Главное**

Спорный факт прогони через другой инструмент: вторую нейросеть, поисковик или сервис нейропоиска с источниками. Если два независимых источника сходятся - доверия больше. Разошлись - копай, здесь и прячется ошибка.

Один свидетель может ошибаться, два независимых - уже система. С нейросетями та же логика: не проси одну и ту же модель перепроверить саму себя, а вынеси факт наружу. Способов несколько.

- **Вторая нейросеть.** Скопируй спорный кусок в другую модель и попроси проверить. Разные модели учились на разных данных и часто ловят чужие ошибки.
- **Нейропоиск с источниками.** Сервисы вроде Perplexity устроены так, что отвечают со ссылками на реальные сайты и честно помечают, если факт не имеет подтверждения. Отличный дополнительный слой проверки.
- **Обычный поиск.** Иногда быстрее вбить факт в поисковик и открыть первоисточник руками.

Промпт для проверки в поисковой нейросети или второй модели:

```text
Проверь по источникам эти факты: "сюда вставь факты из ответа".
Что подтверждается, что нет, где данные расходятся? Дай ссылки на источники.
```

Правило простое: чем выше цена ошибки, тем важнее второй независимый источник. Для поста в блог хватит здравого смысла, для цифры в инвестиционном расчёте или пункта в договоре - обязательна перепроверка снаружи. И держи в голове, что качество твоего вопроса определяет качество ответа: расплывчатый запрос провоцирует расплывчатую догадку и там, где ты проверяешь.

## Приём 4: спрашивай так, чтобы не провоцировать выдумку

**Главное**

Половина галлюцинаций рождается из плохого вопроса. Не подсказывай модели желаемый ответ и прямо разрешай ей говорить «не знаю». Плюс давай ей опору - документ или данные, по которым отвечать, а не память.

Модель охотно подстраивается под то, что ты хочешь услышать. Спросишь «Подтверди, что наш продукт лучший на рынке, правда же?» - получишь бодрое подтверждение, даже если это не так. Убери из вопроса подсказку и попроси нейтральный разбор:

```text
Сравни наш продукт с альтернативами по фактам. Где он реально проигрывает
и в чём слабые места? Не подстраивайся под желаемый ответ, будь критичным.
```

Второй ход - прямо разрешить незнание. Помнишь вывод исследователей: модель приучена всегда давать ответ. Значит, право промолчать ей надо выдать явно. Вставляй такую установку в начало запроса или в системную инструкцию:

```text
Отвечай строго по фактам. Если точных данных нет - напиши "не знаю" или
"недостаточно данных" и не угадывай. Честное "нет информации" для меня
лучше, чем правдоподобная выдумка.
```

Третий ход - дать опору. Когда модель отвечает по загруженному документу, а не по смутной памяти, выдумывать ей почти негде. Это и есть [контекст-инжиниринг](/concepts/context-engineering) в быту: сначала дай материал, потом задавай по нему вопросы. Для работы с договором, отчётом или статьёй это снижает риск галлюцинаций в разы - модель просто цитирует то, что видит, а не сочиняет из головы.

## Собери проверку в привычку: чеклист

**Главное**

Не держи приёмы в голове по отдельности, собери их в короткий ритуал перед тем, как использовать ответ ИИ. Пять шагов, минута времени, и почти все галлюцинации остаются в чате, а не в твоём документе.

Отдельные приёмы работают, но настоящая защита получается, когда они собраны в привычку. Перед тем как взять ответ нейросети в дело, прогоняй его по короткому маршруту:

1. **Оцени цену ошибки**

   Пост в соцсети - хватит здравого смысла. Цифра в отчёте, пункт договора, медицинский или юридический факт - включай полную проверку.

2. **Прожарь ответ**

   Попроси модель раскритиковать саму себя и вытащить, что стоит перепроверить. Быстрый фильтр очевидного.

3. **Затребуй источники**

   На каждую цифру и факт - ссылку. Разреши ответить «источник не подтверждён» вместо выдуманного адреса.

4. **Открой ссылки руками**

   Убедись, что страница существует и говорит именно то, что приписано. Полминуты, которые спасают репутацию.

5. **Кросс-проверь важное**

   Спорный факт прогони через вторую модель или нейропоиск с источниками. Сошлось - хорошо, разошлось - копай.

Со временем этот маршрут перестаёт быть чек-листом и становится рефлексом - как посмотреть в зеркала перед перестроением. Ты уже не думаешь о нём отдельно, просто не берёшь непроверенный факт в работу. Именно этой привычки не хватает большинству команд, которые внедряют ИИ: инструмент купили, а гигиену проверки не поставили.

**Хочешь поставить это всей команде**

Одно дело - самому научиться ловить галлюцинации, другое - встроить проверку в процессы компании, чтобы это делал каждый сотрудник. Ровно это я разбираю на [интенсиве по нейросетям для бизнеса](https://danashkin.ru/workshop): без магии, по делу, с результатом, который остаётся у вас. Если готовишься внедрять ИИ системно, посмотри ещё разбор [как внедрить ИИ в компании пошагово](/guides/kak-vnedrit-ii-v-kompanii-poshagovo).

## Частые вопросы

**Главное**

Короткие ответы на главные вопросы про галлюцинации: исчезнут ли они в новых моделях, почему нейросеть придумывает ссылки, помогает ли просто попросить «не выдумывай» и можно ли доверять ответу со ссылками.

### Частые вопросы

**Новые модели перестанут галлюцинировать?**

Реже - да, полностью - нет. Галлюцинация заложена в самом принципе: модель угадывает правдоподобное, а не проверяет истинное. Свежие версии ошибаются заметно меньше, особенно в режиме рассуждения, но проверять всё равно нужно. Это встроенное свойство инструмента, и полностью оно никуда не денется.

**Почему нейросеть придумывает ссылки и источники?**

Потому что ссылка для неё - это просто правдоподобная последовательность символов, а не адрес, который она реально открыла. Она достраивает похожий на настоящий URL по паттерну. Поэтому любую ссылку от модели нужно открывать и проверять руками.

**Достаточно просто написать «не выдумывай»?**

Помогает, но не гарантирует. Явно разрешить ответ «не знаю» - сильнее, чем запретить выдумывать, потому что вы даёте модели легальный выход промолчать. Но и это не отменяет проверки источников на важных фактах.

**Если модель дала ссылки, можно доверять?**

Только после того, как ты их открыл. Наличие ссылок само по себе ничего не гарантирует - модель умеет придумывать и адреса, и содержание за ними. Доверие даёт не ссылка, а проверенная ссылка.

## Главный вывод

**Главное**

Галлюцинации - не поломка, а свойство того, как устроены нейросети. Победить их насовсем нельзя, но можно сделать проверку дешёвой привычкой. Тогда сила инструмента остаётся с тобой, а риск выдумки - под контролем.

Нейросеть - мощный, но ненадёжный на слово собеседник. Она угадывает правдоподобное, а не истинное, и делает это так уверенно, что выдумку легко принять за факт. Это не повод ей не доверять и не пользоваться - это повод выстроить простую гигиену: прожарить ответ, затребовать и открыть источники, разрешить модели сказать «не знаю», прогнать важное через второй инструмент. Минута работы против часа разгребания последствий.

ИИ не заменяет тебя, а усиливает - но только если ты умеешь им пользоваться, а не слепо копируешь ответы. Проверка и есть часть этого умения. Выигрывает не тот, кто быстрее получает от нейросети гладкий ответ, а тот, кто умеет отличить в нём правду от правдоподобной выдумки. Если хочешь глубже разобраться, как встраивать такие привычки в реальную работу, загляни в [12 принципов вайбкодинга для предпринимателя](/guides/vibecoding-dlya-predprinimatelya-12-principov) - там та же логика на уровне целых проектов.

Как думаешь: галлюцинации нейросетей - это временная детская болезнь технологии, которая скоро пройдёт сама, или постоянное свойство, под которое нам всем придётся выработать привычку проверять?

### Источники

- [Kalai, Nachum, Vempala, Zhang - «Why Language Models Hallucinate», препринт на arXiv, 2025](https://arxiv.org/abs/2509.04664)
- [Ji et al. - «Survey of Hallucination in Natural Language Generation», arXiv, 2022](https://arxiv.org/abs/2202.03629)
- [Anthropic - Research (материалы о надёжности и ограничениях языковых моделей)](https://www.anthropic.com/research)