Главная
→
Блог
→
Галлюцинации ИИ: 6 способов снизить их до приемлемого уровня

Галлюцинации ИИ: 6 способов снизить их до приемлемого уровня

“

Галлюцинация — это когда нейросеть уверенно выдаёт неправду. Полностью убрать их нельзя, но можно снизить до приемлемого уровня. Для этого есть шесть способов: подключить собственные документы (RAG), требовать цитаты и ссылки, разрешить модели отвечать «не знаю», сужать задачу, проверять ответ отдельным шагом и оставлять человека там, где ошибка дорого стоит. Лучше всего они работают в комбинации.

Данные приведены по первоисточникам на октябрь 2026 года.

Что такое галлюцинация и почему она дорого стоит

LLM (large language model, «большая языковая модель») не ищет факты в базе. Она подбирает самое правдоподобное продолжение текста. Поэтому неправда у неё звучит так же уверенно, как правда.

Цена ошибки уже бывала реальной:

Air Canada, 2024. Чат-бот авиакомпании сообщил клиенту, что скидку на билет для летящих на похороны можно оформить задним числом. Это было неправдой. Трибунал провинции Британская Колумбия признал компанию ответственной за слова чат-бота и присудил клиенту около 650 канадских долларов компенсации плюс проценты и судебные сборы. Довод компании, что бот будто бы отдельное юридическое лицо, трибунал отклонил.

Mata v. Avianca, 2023. Юристы подали в американский суд документ со ссылками на дела, которых не существовало: их сгенерировал ChatGPT. Юристы просили у ИИ подтверждение, что дела настоящие, и получили его. Суд оштрафовал их на 5 000 долларов.

Почему модели выдумывают

По исследованию OpenAI, причина отчасти в том, как модели оценивают. Большинство тестов считают только долю правильных ответов. Ответ «не знаю» получает ноль баллов, как и ошибка. Поэтому модели выгоднее угадывать, чем признаваться в незнании.

Это видно по цифрам теста SimpleQA (вопросы на точные факты):

Сравнение моделей

Результаты тестирования на одном и том же наборе запросов

Модель	Отказалась отвечать	Правильных ответов	Ошибок
gpt-5-thinking-mini	52%	22%	26%
OpenAI o4-mini	1%	24%	75%

Более старая модель отвечает чуть чаще верно (24% против 22%), но ошибается втрое чаще, потому что почти никогда не говорит «не знаю». Вывод: модель можно научить сдерживаться, и это снижает число ошибок.

1. Дать модели ваши документы (RAG)

RAG (Retrieval-Augmented Generation, «генерация с поиском») работает как экзамен с открытой книгой: система находит в ваших файлах нужные фрагменты и просит модель отвечать только по ним. Для бизнеса это основной способ, потому что цены, регламенты и договоры берутся из ваших источников.

Но RAG не панацея. Исследователи из Стэнфорда проверили коммерческие юридические ИИ-сервисы Lexis+ AI, Westlaw AI-Assisted Research и Ask Practical Law AI, которые построены на поиске по базам. Они ошибались в 17–33% случаев. Это меньше, чем у обычного GPT-4, но разработчики обещали «ответы без галлюцинаций». Поэтому поиск нужно сочетать с остальными способами.

2. Требовать цитаты и ссылки на источник

Anthropic в документации рекомендует работать так:

для больших документов (больше 20 тысяч токенов, примерно 15 тысяч слов) сначала просить модель выписать дословные цитаты, а ответ строить только на них;
просить ссылку на источник для каждого утверждения;
после ответа заставить модель найти подтверждающую цитату для каждого утверждения, а если не нашлась, убрать его.

Так сотрудник проверяет ответ за секунды, а модели сложнее сочинять, когда она обязана подтвердить сказанное.

3. Разрешить говорить «не знаю»

Это самая простая мера. Anthropic пишет, что явное разрешение признавать неуверенность способно «резко сократить» ложную информацию [5]. В системном промпте (наборе правил, который задаёт поведение ИИ) стоит прописать:

отвечать только по предоставленным материалам;
если информации нет, сказать об этом;
не додумывать цены, сроки и условия.

Для бизнеса честное «в базе этого нет, передаю специалисту» лучше красивой выдумки. Именно этого не было у бота Air Canada.

4. Сужать задачу и формат ответа

Чем шире вопрос, тем больше простора для фантазии. Помогает:

давать узкую роль («ты отвечаешь только по HR-политике компании»);
просить ответ в строгой форме: поля, выбор из вариантов, список;
разбивать сложную задачу на шаги.

Выбрать вариант из списка модели проще, чем придумывать текст, и ошибиться тут сложнее.

5. Добавить проверку ответа

Хорошая система не доверяет первому ответу. Есть три рабочих приёма:

Цепочка проверок (Chain-of-Verification). Метод из исследования Meta состоит из четырёх шагов: модель пишет черновик, придумывает вопросы для проверки, отвечает на них независимо от черновика и только потом выдаёт итоговый ответ. Авторы показали снижение числа галлюцинаций на трёх типах задач.
Несколько запусков. Задайте один вопрос несколько раз. Если ответы расходятся, это сигнал возможной галлюцинации.
Простые правила. Сумма должна сходиться с расчётом, дата быть корректной, а название присутствовать в справочнике.

6. Подключить человека и измерять качество

Там, где ошибка стоит дорого (юридические, финансовые, медицинские решения), ИИ готовит черновик, а человек подтверждает. Случай с Avianca показывает, к чему приводит доверие без проверки.

Чтобы знать, насколько надёжна система, её нужно измерять:

собрать набор типовых вопросов с правильными ответами;
прогонять его после каждого изменения;
разбирать каждую ошибку.

Без измерений вы не узнаете, что стало лучше, а что хуже.

Как это работает вместе

Способы защиты ответов LLM

Шесть базовых приёмов, которые снижают риск ошибок и выдумок в работе с языковыми моделями.

Способы защиты и от чего каждый из них защищает
Способ	От чего защищает
RAG	Выдумывания фактов
Цитаты и ссылки	Непроверяемых ответов
Правило «не знаю»	Уверенных выдумок при нехватке данных
Узкая задача и формат	Слишком свободных ответов
Проверка ответа	Ошибок в числах, именах и фактах
Человек и тесты	Дорогих ошибок и «тихого» ухудшения качества

Итог

Даже Anthropic прямо пишет, что эти приёмы значительно снижают галлюцинации, но не устраняют их, и важные решения всё равно нужно проверять. Поэтому разумный подход такой: строить систему вокруг модели, где есть ваши данные, понятные правила, проверка и контроль. Тогда ИИ работает как быстрый помощник, чей результат можно проверить.

Если хотите понять, где в ваших процессах ИИ можно запускать безопасно, напишите нам: подберём задачи и настроим систему под ваши документы.