Топ-5 проблем ИИ и советы по их решению

Внедрение ИИ требует баланса между технологическими возможностями и этическими вызовами. Ключевые моменты включают создание сбалансированных данных, разработку этических принципов, регулярные аудиты систем ИИ и обучение сотрудников. Важно понимать, что успех зависит от пошаговой стратегии и непрерывного обучения.

Как технологическая компания, которая начала заниматься ИИ еще до того, как это стало мейнстримом, мы видели множество сложных проектов, связанных с ИИ.

Часто проблемы с искусственным интеллектом возникают из-за недопонимания того, что такое ИИ, на что он способен и имеет ли смысл его внедрение в конкретных ситуациях.

Например, с тех пор как ChatGPT и другие фундаментальные модели ИИ стали популярными, многие компании заинтересовались генеративными ИИ-сервисами. Представьте, сколько из них не имеют инфраструктуры для интеграции этой технологии в свои процессы и качественных данных для обучения моделей ИИ.

Основные проблемы, с которыми сталкивается ИИ, можно свести к пяти критическим вопросам:

1. Технологические проблемы в процессе разработки
2. Неспособность воспроизвести лабораторные результаты в реальном мире
3. Трудности с масштабированием ИИ-систем для различных случаев использования
4. Ошибочные предположения о возможностях ИИ
5. Решение этических проблем, связанных с внедрением ИИ

Хотите узнать, как лидеры российского рынка используют наши решения?

Ознакомьтесь с маркетинг-китом AllSee, где собраны реальные кейсы и решения, доказавшие свою эффективность в бизнесе!

Задача ИИ № 1: столкновение с технологическими препятствиями

Хотя ИИ существует с середины 50-х годов, чат-боты на основе ИИ, приложения для замены лиц и роботы-собаки стали реальностью только пару лет назад.

На данный момент ни у бизнеса, ни у их технологических партнеров нет проверенной формулы для разработки и внедрения ИИ-систем на уровне всей компании.

Некоторые из распространенных проблем с ИИ включают:

Неправильный выбор архитектуры. Точные прогнозы - не единственное, чего следует ожидать от ИИ-решения. В многоарендных ИИ-приложениях как услуга (AIaaS), обслуживающих тысячи пользователей, важны также производительность, масштабируемость и простота управления. Нельзя ожидать, что ваш поставщик просто напишет сервис на Flask, упакует его в Docker-контейнер и развернет вашу ML-модель. Когда система достигнет максимальной емкости, у вас останется приложение, которое слишком большое и сложное для эффективного управления.

Неточные или недостаточные данные для обучения. Производительность ИИ-систем зависит от качества данных, на которых они обучены. В некоторых случаях компании испытывают трудности с предоставлением качественных данных (и их достаточного объема) для обучения алгоритмов ИИ. Такая ситуация часто встречается в здравоохранении, где сложно получить данные пациентов, такие как рентгеновские снимки и КТ, из-за соображений конфиденциальности. Для лучшего выявления и понимания повторяющихся шаблонов в входных данных также важно вручную маркировать обучающие наборы данных с помощью инструментов аннотации, таких как Supervise.ly. По данным Gartner, проблемы, связанные с данными, были основной причиной ошибочных результатов в 85% проектов по искусственному интеллекту до 2022 года.

Недостаточная объяснимость ИИ. Объяснимый искусственный интеллект (XAI) - это концепция, направленная на предоставление достаточного объема данных для разъяснения того, как ИИ-системы принимают свои решения. Используя алгоритмы с открытым доступом (white-box), решения, соответствующие требованиям XAI, предоставляют результаты, которые могут быть интерпретированы как разработчиками, так и экспертами в предметной области. Обеспечение объяснимости ИИ критически важно в различных отраслях, где используются интеллектуальные системы. Например, оператор литьевых машин на пластмассовом заводе должен понимать, почему новая система предсказуемого технического обслуживания рекомендует определенный способ работы машины — и иметь возможность отменить неверные решения. По сравнению с моделями черного ящика, такими как нейронные сети и сложные ансамбли, модели ИИ с открытым доступом могут уступать в точности и предсказательной способности, что несколько подрывает всю концепцию искусственного интеллекта.

Решение

Чтобы избежать технологических проблем, связанных с искусственным интеллектом, мы рекомендуем начать ваш проект с этапа исследования и создания доказательства концепции ИИ.

Это позволит вам сопоставить требования решения с потребностями вашего бизнеса, устранить технологические барьеры и спланировать архитектуру системы с учетом предполагаемого числа пользователей.

Также важно выбрать технологического партнера, который знает, как преодолевать проблемы, связанные с данными для искусственного интеллекта — например, путем повторного использования существующих алгоритмов или целенаправленного увеличения размера обучающего набора данных.

Что касается компромисса между точностью и объяснимостью, ваш поставщик должен иметь практический опыт работы с LIME и суррогатными моделями, которые представляют процесс принятия решений сложными ИИ-системами.

Задача ИИ № 2: воспроизведение результатов лабораторных исследований в реальных условиях

Система сканирования рака груди на основе ИИ, созданная Google Health и Имперским колледжем Лондона, по сообщениям, дает меньше ложноположительных результатов, чем два сертифицированных радиолога.

В 2016 году ученые из Оксфорда и Google DeepMind разработали глубокую нейронную сеть, которая считывает по губам с точностью 93% (по сравнению с 52% у людей).

Теперь есть доказательства, что модели машинного обучения могут точно выявлять COVID-19 у бессимптомных пациентов по кашлю, записанному на мобильный телефон!

С мощным оборудованием и большим объемом данных для обучения, алгоритмы ИИ могут выполнять широкий спектр задач на уровне с человеком — и даже превосходить его. Проблема с ИИ в том, что большинство компаний не могут повторить результаты, достигнутые Google, Microsoft и MIT, или точность, показанную их собственными ИИ-прототипами, за пределами лабораторий.

Решение

Решение этой сложной задачи с ИИ частично заключается в готовности технологических гигантов делиться полными результатами исследований и исходным кодом с учеными и разработчиками ИИ.

На уровне компании есть несколько шагов, которые вы можете предпринять, чтобы повторить результаты, достигнутые ИИ-решениями в контролируемых условиях:

Понимать ограничения, вариации и непредсказуемость реального мира, которые могут повлиять на работу ИИ-системы.
Убедиться, что данные для обучения ИИ-системы разнообразны и отражают реальные сценарии, с которыми она столкнется.
Использовать техники увеличения данных, такие как добавление шума, введение вариаций или моделирование различных сценариев, чтобы искусственно увеличить разнообразие ваших обучающих данных.
Применять метод трансферного обучения, предварительно обучая вашу ИИ-модель на обширном и всеобъемлющем наборе данных, а затем дообучая её на данных, специфичных для вашей области.
Настраивать ИИ-системы так, чтобы они обновлялись и переобучались с использованием новых данных из реального мира, чтобы оставаться актуальными и точными.
Устанавливать обратную связь с пользователями или операторами ИИ-системы, которые будут собирать отзывы о её работе и использовать эти данные для корректировки модели и её прогнозов.
Внедрять инструменты мониторинга и отладки для выявления и устранения проблем, возникающих в реальных условиях, таких как смещение модели, предвзятость ИИ и постепенное ухудшение производительности.

Если у вашей внутренней ИТ-команды нет необходимых навыков и опыта для выполнения этих задач, вы можете привлечь опытных консультантов по машинному обучению.

Ищете проверенные ИИ-решения, которые реально работают?

В нашей подборке — 85 уникальных ИИ технологий для маркетинга, ритейла, HR и других сфер, которые уже приносят выгоду компаниям.

Задача ИИ №3: масштабирование искусственного интеллекта

Проблемы с масштабируемостью программного обеспечения преследуют различные ИТ-проекты, независимо от используемой технологии, и решения на основе ИИ не являются исключением.

Согласно данным Gartner, только 53% проектов ИИ успешно переходят от прототипов к производству. Эта статистика указывает на нехватку технической экспертизы, компетенций и ресурсов, необходимых для масштабного внедрения интеллектуальных систем.

Другие факторы, влияющие на проблемы масштабируемости ИИ, включают:

Размер наборов данных для обучения алгоритмов и качество этих данных.
Использование значительных вычислительных ресурсов для обучения и развертывания моделей ИИ.
Увеличивающаяся сложность современных моделей ИИ.
Необходимость расширения базовой облачной инфраструктуры горизонтально или вертикально для учета эволюции модели ИИ и её внедрения в различные случаи использования.
Потребность в интеграции моделей ИИ с другими системами в ИТ-инфраструктуре компании.

Решение

Постоянный перенос знаний может быть эффективным решением проблем с масштабируемостью ИИ.

Хотя большинство компаний в настоящее время полагаются на сторонних поставщиков для создания и внедрения интеллектуальных систем, передовые ИТ-директора и лидеры должны убедиться, что их пилотные проекты помогают перенести знания от внешних специалистов по DevOps, MLOps и DataOps.

Оснащенные этими знаниями, вы можете предпринять несколько шагов для решения проблем масштабируемости ИИ:

1. Оцените вашу инфраструктуру ИИ, чтобы выявить потенциальные узкие места и установить четкие цели для масштабирования системы.

2. Внедряйте эффективные практики управления данными, включая очистку данных, предварительную обработку и оптимизацию хранения, и поддерживайте достаточное качество данных по мере их расширения.

3. Инвестируйте в методы оптимизации моделей, чтобы уменьшить их размер и сложность и повысить их эффективность использования ресурсов.

4. Используйте распределенные вычислительные фреймворки, такие как Apache Spark или TensorFlow, для распределенного обучения и вывода.

5. Воспользуйтесь облачными вычислительными платформами, которые предлагают масштабируемость и эластичность.

6. Исследуйте контейнеризацию и инструменты оркестрации, такие как Kubernetes, для эффективного управления ресурсами.

7. Усильте свои облачные развертывания возможностями туманных и периферийных вычислений, чтобы снизить задержку и нагрузку на сервер.

8. Применяйте методы обнаружения аномалий для выявления проблем с производительностью моделей ИИ.

9. Используйте специализированные аппаратные ускорители, такие как GPU, TPU или FPGA, чтобы ускорить работу с ИИ.

Проблема ИИ № 4: переоценка возможностей ИИ

В 2020 году MIT Sloan Management Review и Boston Consulting Group опубликовали отчет, который объясняет, почему одни компании получают выгоду от ИИ, а другие — нет.

DHL, почтовая и логистическая компания, доставляющая 1,5 миллиарда посылок в год, является одним из победителей в области ИИ.

Компания использует систему компьютерного зрения, чтобы определить, можно ли складывать грузовые поддоны друг на друга и оптимизировать пространство в грузовых самолетах.

Гина Чунг, вице-президент по инновациям в DHL, говорит, что в начале эта киберфизическая система работала плохо. Как только она начала учиться у человеческих экспертов с многолетним опытом выявления неподходящих для штабелирования поддонов, результаты значительно улучшились.

В бизнес-среде такой сбалансированный подход к внедрению ИИ скорее исключение, чем правило.

На практике многие компании поддаются шумихе вокруг ИИ и начинают амбициозные проекты, не оценивая должным образом свои потребности, ИТ-возможности, стоимость разработки ИИ, а также правовые и этические аспекты технологии.

Решение

Если в основе вашей стратегии ИИ лежит полная автоматизация и сокращение числа сотрудников, вы, скорее всего, потерпите неудачу.

Во-первых, алгоритмам необходимы знания людей, чтобы со временем делать точные прогнозы.

Во-вторых, ваши сотрудники будут более охотно обучать алгоритмы, если вы дадите понять, что умные машины не заменят человеческую рабочую силу в обозримом будущем.

Не уверены, нужен ли вашему бизнесу искусственный интеллект?

Специальная анкета от AllSee поможет оценить текущие бизнес-процессы и понять, где ИИ станет вашим конкурентным преимуществом.

Задача ИИ №5: решение этических проблем ИИ

Широкое использование умных приложений сопровождается несколькими этическими вызовами ИИ, включая:

1. Предвзятость в алгоритмическом принятии решений, которая возникает из-за ошибочных данных для обучения, подготовленных людьми, и отражает социальные и исторические несправедливости. Например, система распознавания лиц, используемая правоохранительными органами США, с большей вероятностью идентифицирует небелого человека как преступника.

Моральные последствия, которые главным образом касаются намерений некоторых компаний заменить человеческих работников высокопродуктивными, всегда работающими роботами. Хотя две трети бизнес-руководителей считают, что ИИ в конечном итоге создаст больше рабочих мест, чем уничтожит, 69% организаций могут потребовать новых навыков для успешной работы в цифровую эпоху.

Ограниченная прозрачность и объяснимость, что характерно для продвинутых решений ИИ черного ящика. Глубокие нейронные сети не только не могут объяснить логику своих решений, но и сложно определить ответственность за рекомендации ИИ в случае ошибок системы и нанесенного вреда.

Решение

Ваша компания может решить большинство этических проблем искусственного интеллекта, создав сбалансированные наборы данных для обучения, включающие изображения людей различных этнических, гендерных и возрастных групп.

Фактически, искусственный интеллект может помочь нам в долгосрочной перспективе устранить расовые, гендерные, возрастные и сексуальные предвзятости. Например, программное обеспечение по управлению человеческими ресурсами на базе ИИ может сканировать больше резюме, чем человеческие специалисты, и идентифицировать потенциальных кандидатов исключительно на основе их образования и опыта работы.

Другие шаги, которые вы можете предпринять для решения проблем ИИ, включают разработку набора этических руководящих принципов. Эти принципы должны отражать ваше обязательство к справедливости, прозрачности, конфиденциальности и ответственности.

В рамках этой стратегии вы также должны регулярно проводить этические аудиты систем ИИ для выявления и устранения потенциальных этических проблем.

И наконец, рассмотрите возможность проведения обучающих программ для сотрудников, занимающихся разработкой и внедрением ИИ, чтобы повысить осведомленность о этических вопросах и лучших практиках.

Как преодолеть вызовы ИИ: основные моменты

Возвращаясь к отчету BCG и MIT Sloan Management Review, на который мы ссылались ранее, стоит отметить, что ваши шансы успешно справиться с вызовами ИИ возрастают с каждым шагом в вашем пути.

Ниже приведен высокоуровневый план для разработки, валидации, развертывания и масштабирования систем ИИ без рисков:

Обратитесь к поставщику ИИ с соответствующим портфелем и опытом.
Работайте с опытным бизнес-аналитиком для определения процессов и ИТ-систем, которые могут получить выгоду от использования ИИ.
Учитывайте, как этические вопросы могут помешать использованию ИИ в полной мере.
Создайте концепцию для проверки выполнимости решения и обхода технологических ловушек, связанных с ИИ.
Разработайте детальную карту реализации проекта ИИ, включающую разработку решения, интеграцию, масштабирование и обучение сотрудников.
Начните строить вашу систему вместе с поставщиком, обеспечивая непрерывный обмен знаниями.
Не возлагайте высоких надежд: для создания ИИ-решений, способных улучшить или взять на себя критические задачи, требуется время, терпение и большое количество данных.
Назначьте экспертов по предметной области для настройки алгоритмов ИИ.
Обучите ваших сотрудников важности принятия решений на основе данных и возможностям оптимизации, предлагаемым искусственным интеллектом.
И, наконец, продолжайте экспериментировать с ИИ — даже если ваш пилотный проект не оправдает ожиданий! 73% компаний, которые пересматривают свои процессы на основе уроков, извлеченных из неудач, в конечном итоге видят значительный возврат инвестиций в искусственный интеллект.