Автономные ИИ-агенты: задачи отдают, решения — нет
“
46% сотрудников готовы отдать агентам задачи, но не решения. Где проходит граница доверия и что нужно, чтобы сдвинуть её у себя
Почти половина сотрудников готова отдать нейросети больше работы. И почти столько же хотят, чтобы человек при этом оставался рядом.
Цифры из исследования «Технологий Доверия»: 46,1% готовы делегировать ИИ больше задач, 45,2% предпочитают модель, где человек и ИИ работают вместе. Опросили тысячу с небольшим представителей российских компаний, от малого бизнеса до крупных предприятий, и отдельно поговорили с руководителями ИИ-направлений в Сбере, ВТБ, Альфа-Банке, Яндексе и Точке.
Главный вывод исследования звучит сухо, но касается самого важного: российский бизнес не готов передавать ИИ ответственность за решения.
На мой взгляд, это не осторожность отстающих, а довольно точное понимание, где сейчас проходит граница возможного. Разберём, из чего она складывается.
Цифры из исследования «Технологий Доверия»: 46,1% готовы делегировать ИИ больше задач, 45,2% предпочитают модель, где человек и ИИ работают вместе. Опросили тысячу с небольшим представителей российских компаний, от малого бизнеса до крупных предприятий, и отдельно поговорили с руководителями ИИ-направлений в Сбере, ВТБ, Альфа-Банке, Яндексе и Точке.
Главный вывод исследования звучит сухо, но касается самого важного: российский бизнес не готов передавать ИИ ответственность за решения.
На мой взгляд, это не осторожность отстающих, а довольно точное понимание, где сейчас проходит граница возможного. Разберём, из чего она складывается.
Задача и решение — разные вещи
Различие стоит проговорить, потому что в разговорах про агентов его постоянно смешивают.
Задача звучит так: разбери сто входящих писем и разложи по темам. Решение — так: выбери, кому из этих клиентов дать отсрочку платежа.
В первом случае агент ошибётся, вы это увидите и поправите. Письмо попало не в ту папку — неприятно, но не смертельно. Во втором ошибка вскроется через три месяца, когда клиент не заплатит, а объяснить, почему решение приняли именно так, будет уже невозможно.
Вот эта объяснимость и есть настоящая причина недоверия — не страх бунта машин. Если решение принято, кто-то должен уметь ответить, на каком основании. Агент такой ответ дать не может: он не хранит логику рассуждения, он выдаёт наиболее вероятное продолжение текста.
Так что осторожность бизнеса здесь абсолютно рациональна. Отдавать стоит то, где ошибку видно сразу и её можно исправить.
Задача звучит так: разбери сто входящих писем и разложи по темам. Решение — так: выбери, кому из этих клиентов дать отсрочку платежа.
В первом случае агент ошибётся, вы это увидите и поправите. Письмо попало не в ту папку — неприятно, но не смертельно. Во втором ошибка вскроется через три месяца, когда клиент не заплатит, а объяснить, почему решение приняли именно так, будет уже невозможно.
Вот эта объяснимость и есть настоящая причина недоверия — не страх бунта машин. Если решение принято, кто-то должен уметь ответить, на каком основании. Агент такой ответ дать не может: он не хранит логику рассуждения, он выдаёт наиболее вероятное продолжение текста.
Так что осторожность бизнеса здесь абсолютно рациональна. Отдавать стоит то, где ошибку видно сразу и её можно исправить.
Почему личные навыки не превращаются в автономность
Самое интересное наблюдение исследования я бы сформулировал так: умение сотрудников пользоваться нейросетью не приближает компанию к автономным агентам.
Звучит неочевидно. Логика подсказывает обратное: если все научились работать с ИИ, следующим шагом должно стать поручение ему работать самостоятельно. На практике это две разные дороги.
Когда человек пользуется нейросетью, он приносит контекст сам. Он знает, что это за клиент, чем закончился прошлый разговор, какие в компании правила и что сейчас важнее — скорость или аккуратность. Всё это он держит в голове и подкладывает в запрос, даже не замечая.
У агента, работающего без человека, такого контекста нет. Чтобы он появился, кто-то должен вынести знания компании наружу: собрать регламенты в одном виде, описать данные так, чтобы было понятно, что означает каждое поле, зафиксировать правила, которые сейчас живут в головах у трёх сотрудников.
Работа скучная, на «внедрение ИИ» не похожа совершенно, и её всегда откладывают. А без неё автономности не будет, сколько бы людей ни прошли обучение по составлению запросов.
Звучит неочевидно. Логика подсказывает обратное: если все научились работать с ИИ, следующим шагом должно стать поручение ему работать самостоятельно. На практике это две разные дороги.
Когда человек пользуется нейросетью, он приносит контекст сам. Он знает, что это за клиент, чем закончился прошлый разговор, какие в компании правила и что сейчас важнее — скорость или аккуратность. Всё это он держит в голове и подкладывает в запрос, даже не замечая.
У агента, работающего без человека, такого контекста нет. Чтобы он появился, кто-то должен вынести знания компании наружу: собрать регламенты в одном виде, описать данные так, чтобы было понятно, что означает каждое поле, зафиксировать правила, которые сейчас живут в головах у трёх сотрудников.
Работа скучная, на «внедрение ИИ» не похожа совершенно, и её всегда откладывают. А без неё автономности не будет, сколько бы людей ни прошли обучение по составлению запросов.
Три уровня, которые стоит различать
Я обычно раскладываю проекты по трём уровням — так проще договориться, что именно мы строим.
Помощник работает рядом с человеком, и человек проверяет каждый результат. Сюда сегодня попадает большинство рабочих внедрений, и это зрелая позиция, а не начальная стадия.
Исполнитель делает задачу сам от начала до конца, а человек смотрит выборочно и вмешивается там, где система сама пометила случай как сомнительный. Здесь уже нужны те самые структурированные знания, иначе ошибки пойдут потоком.
Решающий принимает решение, влияющее на деньги или обязательства, без участия человека. Вот здесь бизнес и тормозит — и правильно делает. Такое имеет смысл доверять агенту только там, где правило можно записать явно, а результат сверить с фактом: скидка по понятной формуле, отказ по формальному признаку.
Ошибка большинства проектов в том, что заказывают третий уровень, а данные и процессы готовы к первому. Между уровнями лежит не переключатель, а работа: описать процесс, разметить данные, договориться о границах.
Помощник работает рядом с человеком, и человек проверяет каждый результат. Сюда сегодня попадает большинство рабочих внедрений, и это зрелая позиция, а не начальная стадия.
Исполнитель делает задачу сам от начала до конца, а человек смотрит выборочно и вмешивается там, где система сама пометила случай как сомнительный. Здесь уже нужны те самые структурированные знания, иначе ошибки пойдут потоком.
Решающий принимает решение, влияющее на деньги или обязательства, без участия человека. Вот здесь бизнес и тормозит — и правильно делает. Такое имеет смысл доверять агенту только там, где правило можно записать явно, а результат сверить с фактом: скидка по понятной формуле, отказ по формальному признаку.
Ошибка большинства проектов в том, что заказывают третий уровень, а данные и процессы готовы к первому. Между уровнями лежит не переключатель, а работа: описать процесс, разметить данные, договориться о границах.
Что нужно, чтобы граница сдвинулась
Исследование называет основой автономности структурированные знания, описание данных и бизнес-контекст. Переведу это на язык действий.
Свести правила в один вид. Не «у нас есть регламент», а один действующий документ, который не противоречит двум другим. Обычно на этом шаге выясняется, что в компании существует три версии одного процесса и все три считают себя главной.
Объяснить машине, что означают ваши данные. Поле «статус 4» человеку понятно из опыта, а агенту — нет. Пока это не описано, он будет угадывать.
Задать границы полномочий явно. До какой суммы, для каких клиентов, в каких случаях — стоп и передача человеку. То же самое требуется и со стороны безопасности: агенту нужны минимальные права и собственное имя в журнале, я разбирал это в статье про безопасность ИИ.
Определить, как считается ошибка. Не «мы посмотрим», а конкретно: какая доля ошибок допустима, кто их считает и что происходит при превышении.
Ни один из этих пунктов не про технологии. Все четыре — про порядок в компании, и именно поэтому их так не любят.
Здесь же кроется причина, по которой готовый сервис не поднимает вас на уровень выше. Он приходит с чужой логикой и общими правилами, а описание ваших процессов и данных за вас никто не сделает. Собственное решение строится с другой стороны: сначала разбирают, как у вас реально принимаются решения, что означает каждое поле в ваших системах и где проходят границы полномочий, — и уже на этом основании собирают агента, чьи действия можно проверить и объяснить. Работа выглядит скучно и на демонстрации не впечатляет, зато именно она отличает пилот от системы, которой доверяют реальные операции.
Свести правила в один вид. Не «у нас есть регламент», а один действующий документ, который не противоречит двум другим. Обычно на этом шаге выясняется, что в компании существует три версии одного процесса и все три считают себя главной.
Объяснить машине, что означают ваши данные. Поле «статус 4» человеку понятно из опыта, а агенту — нет. Пока это не описано, он будет угадывать.
Задать границы полномочий явно. До какой суммы, для каких клиентов, в каких случаях — стоп и передача человеку. То же самое требуется и со стороны безопасности: агенту нужны минимальные права и собственное имя в журнале, я разбирал это в статье про безопасность ИИ.
Определить, как считается ошибка. Не «мы посмотрим», а конкретно: какая доля ошибок допустима, кто их считает и что происходит при превышении.
Ни один из этих пунктов не про технологии. Все четыре — про порядок в компании, и именно поэтому их так не любят.
Здесь же кроется причина, по которой готовый сервис не поднимает вас на уровень выше. Он приходит с чужой логикой и общими правилами, а описание ваших процессов и данных за вас никто не сделает. Собственное решение строится с другой стороны: сначала разбирают, как у вас реально принимаются решения, что означает каждое поле в ваших системах и где проходят границы полномочий, — и уже на этом основании собирают агента, чьи действия можно проверить и объяснить. Работа выглядит скучно и на демонстрации не впечатляет, зато именно она отличает пилот от системы, которой доверяют реальные операции.
Куда всё это движется
Осторожность бизнеса легко прочитать как торможение, а на самом деле это разумное распределение рисков: задачи отдаём, ответственность оставляем себе.
Изменится ситуация не тогда, когда модели станут умнее. Она изменится, когда компании доведут до конца скучную часть — опишут процессы и данные так, что решение агента можно будет проверить и объяснить.
Те, кто делает эту работу сейчас, через год смогут отдавать агентам всё больше. Те, кто ждёт следующего поколения моделей, останутся с помощниками и с ощущением, что ИИ снова не оправдал ожиданий. Откуда это ощущение берётся у большинства, я разбирал в статье про эффект от внедрения.
Тысяча компаний в опросе, а общий ответ у них один: доверие покупается не мощностью модели, а порядком в собственных данных.
Изменится ситуация не тогда, когда модели станут умнее. Она изменится, когда компании доведут до конца скучную часть — опишут процессы и данные так, что решение агента можно будет проверить и объяснить.
Те, кто делает эту работу сейчас, через год смогут отдавать агентам всё больше. Те, кто ждёт следующего поколения моделей, останутся с помощниками и с ощущением, что ИИ снова не оправдал ожиданий. Откуда это ощущение берётся у большинства, я разбирал в статье про эффект от внедрения.
Тысяча компаний в опросе, а общий ответ у них один: доверие покупается не мощностью модели, а порядком в собственных данных.
Создайте новое будущее с нашими решениями
Похожие статьи