Главная
→
Блог
→
Теневой ИИ: что делать, если сотрудники уже носят данные в чат-боты

Теневой ИИ: что делать, если сотрудники уже носят данные в чат-боты

“

Сотрудники уже загружают в публичные чат-боты договоры, код и клиентские базы, чаще всего без злого умысла. Разбираем масштаб проблемы, чем она грозит по российским и мировым данным и что сделать за квартал: разрешить безопасную альтернативу, написать правила и закрепить их письменно.

Что такое теневой ИИ

Теневой ИИ (shadow AI) — это нейросети и чат-боты, которыми сотрудники пользуются на работе без ведома ИТ-отдела и службы информационной безопасности (ИБ). Бухгалтер просит чат-бот свести таблицу, юрист загружает договор для пересказа, разработчик вставляет кусок кода, чтобы найти ошибку.

Мотив почти всегда один: сделать работу быстрее. Поэтому проблему нельзя решить поиском виновных. Её нужно решать так, чтобы у сотрудника была безопасная возможность делать то же самое.

Насколько это распространено

В России. По опросу «Битрикс24» и «Русской школы управления», в котором участвовали 1,5 тыс. сотрудников малого и среднего бизнеса, каждый пятый делился конфиденциальными данными с нейросетями. В 16% компаний такой случай был один раз, в 7% повторялся. Более четверти компаний не знают, были ли у них такие случаи. А 15% опрошенных признались, что регулярно отправляют в чат-боты пароли и важные файлы. Выборка небольшая и относится к малому и среднему бизнесу, поэтому цифры стоит читать как сигнал, а не как рыночную норму.

В мире. В исследовании IBM Cost of a Data Breach 2025 каждая пятая организация связала утечку с теневым ИИ. Там, где он распространён широко, средняя утечка обходилась на $670 000 дороже. Только 37% организаций имели политики управления ИИ или выявления теневого ИИ. Если утечка связана с теневым ИИ, в 65% случаев затронуты персональные данные (в среднем по всем утечкам 53%) и в 40% интеллектуальная собственность (в среднем 33%).

По данным вендоров, которые продают защитные решения, картина ещё острее. LayerX сообщает, что 77% сотрудников вставляют данные в ИИ-сервисы, причём 82% такой вставки идёт из неуправляемых личных аккаунтов. Читайте эти цифры как ориентир: у авторов есть интерес показывать проблему крупнее.

Что может пойти не так

Samsung, 2023 год. По сообщениям, было три случая, когда сотрудники передали ChatGPT конфиденциальную информацию, включая исходный код. Компания временно запретила генеративные ИИ-инструменты на рабочих устройствах, предупредила о дисциплинарных мерах вплоть до увольнения и начала разрабатывать собственный внутренний сервис с ограничением размера запроса.

Российский суд, 2025 год. Директор по продажам московской инженерной компании была уволена за разглашение охраняемой законом тайны. Суд установил, что она пересылала служебные документы на личную почту и загружала сведения из защищённого внутреннего ресурса в DeepSeek. Иск об оспаривании увольнения суд отклонил. Адвокат, комментировавший дело, называет главной ошибкой использование нейросети без разрешения руководства и советует компаниям заранее доводить правила до сотрудников под роспись.

Почему запрет не работает

Запрет кажется очевидным ответом, но данные вендоров показывают обратное. По исследованию UpGuard, 41% сотрудников обходят блокировку ИИ-приложений. В опросе Software AG (6 000 работников в США, Великобритании и Германии) 46% сказали, что продолжили бы пользоваться ИИ, даже если бы работодатель это запретил.

Показательно и то, что Samsung после запрета занялся собственным сервисом. Запрет без альтернативы не убирает потребность, а прячет её.

Что делать: шесть шагов

1. Выясните, что происходит на самом деле. Проведите анонимный опрос: какими сервисами пользуются и для каких задач. Объявите заранее, что цель не наказание, иначе вы получите вежливое молчание. Проверьте сетевые журналы на обращения к популярным чат-ботам. Юрист из упомянутого дела предупреждает: скрытая установка программ наблюдения на устройства сотрудников сама является нарушением со стороны работодателя.

2. Дайте безопасную альтернативу. Это важнее всего остального. Варианты по возрастанию контроля: российское облако с договором на обработку данных, корпоративный ИИ-ассистент в вашем контуре, модель на собственных серверах. Если безопасный инструмент удобнее личного аккаунта, сотрудники перейдут на него сами.

3. Разделите данные на категории и для каждой определите допустимый канал. Например: публичные данные можно в любой сервис, внутренние только в корпоративный, конфиденциальные и персональные только в закрытый контур, пароли и ключи доступа не вносить никуда. Хорошая матрица помещается на одну страницу.

4. Закрепите правила письменно. Оформите их как внутренний документ компании и ознакомьте сотрудников под роспись. Эксперты в деле, которое мы разобрали, подчёркивают: при оценке нарушения суд смотрит, предупреждали ли человека об ответственности. Формулировки лучше проверить у юриста.

5. Добавьте технические фильтры. Системы защиты от утечек (DLP, Data Loss Prevention) и инструменты, которые находят и маскируют пароли и персональные данные до отправки в модель. Авторы разбора на SecurityLab отдельно оговаривают, что такие фильтры не дают стопроцентной точности и работают только как один из слоёв защиты.

6. Обучайте и пересматривайте. Раз в квартал проверяйте настройки и список разрешённых сервисов. Покажите сотрудникам реальные примеры: Samsung и судебное дело убеждают лучше абстрактных запретов.

Где скрыты риски с персональными данными

Персональные данные утекают незаметно. По разбору на Anti-Malware.ru, ИНН физического лица сам по себе позволяет определить человека. Данные из открытых реестров, например ЕГРЮЛ, не перестают быть персональными из-за публикации. Замена имён на идентификаторы вида user_123 не спасает, если связь можно восстановить.

Отдельный вопрос: отправка таких данных в зарубежный сервис. Статья 12 закона «О персональных данных» (152-ФЗ) регулирует трансграничную передачу. По мнению автора разбора на Хабре, главная проблема не в уведомлении Роскомнадзора, а в отсутствии договора поручения на обработку с большинством зарубежных поставщиков. Это экспертное мнение, а не официальная позиция регулятора, поэтому для конкретной ситуации нужна консультация юриста.

Как это решаем в AllSee

Базовый подход, который мы применяем: данные не покидают периметр компании. Для научно-исследовательского института мы развернули ассистента на его собственных серверах. 100% данных остаётся внутри контура, а каждый ответ даётся со ссылкой на источник. Такой ассистент закрывает те же задачи, ради которых сотрудники идут в публичные чат-боты, но без передачи документов наружу.

Итог

Теневой ИИ нельзя ни запретить, ни проигнорировать. Рабочая последовательность выглядит так: узнать реальную картину, дать безопасный инструмент, описать правила по категориям данных и закрепить их письменно. Пока этого нет, данные уже уходят: просто вы об этом не знаете.