Топ-5 проблем ИИ и советы по их решению
Внедрение ИИ требует баланса между технологическими возможностями и этическими вызовами. Ключевые моменты включают создание сбалансированных данных, разработку этических принципов, регулярные аудиты систем ИИ и обучение сотрудников. Важно понимать, что успех зависит от пошаговой стратегии и непрерывного обучения.
Как технологическая компания, которая начала заниматься ИИ еще до того, как это стало мейнстримом, мы видели множество сложных проектов, связанных с ИИ.
Часто проблемы с искусственным интеллектом возникают из-за недопонимания того, что такое ИИ, на что он способен и имеет ли смысл его внедрение в конкретных ситуациях.
Например, с тех пор как ChatGPT и другие фундаментальные модели ИИ стали популярными, многие компании заинтересовались генеративными ИИ-сервисами. Представьте, сколько из них не имеют инфраструктуры для интеграции этой технологии в свои процессы и качественных данных для обучения моделей ИИ.
Основные проблемы, с которыми сталкивается ИИ, можно свести к пяти критическим вопросам:
1. Технологические проблемы в процессе разработки
2. Неспособность воспроизвести лабораторные результаты в реальном мире
3. Трудности с масштабированием ИИ-систем для различных случаев использования
4. Ошибочные предположения о возможностях ИИ
5. Решение этических проблем, связанных с внедрением ИИ
Часто проблемы с искусственным интеллектом возникают из-за недопонимания того, что такое ИИ, на что он способен и имеет ли смысл его внедрение в конкретных ситуациях.
Например, с тех пор как ChatGPT и другие фундаментальные модели ИИ стали популярными, многие компании заинтересовались генеративными ИИ-сервисами. Представьте, сколько из них не имеют инфраструктуры для интеграции этой технологии в свои процессы и качественных данных для обучения моделей ИИ.
Основные проблемы, с которыми сталкивается ИИ, можно свести к пяти критическим вопросам:
1. Технологические проблемы в процессе разработки
2. Неспособность воспроизвести лабораторные результаты в реальном мире
3. Трудности с масштабированием ИИ-систем для различных случаев использования
4. Ошибочные предположения о возможностях ИИ
5. Решение этических проблем, связанных с внедрением ИИ
Задача ИИ № 1: столкновение с технологическими препятствиями
Хотя ИИ существует с середины 50-х годов, чат-боты на основе ИИ, приложения для замены лиц и роботы-собаки стали реальностью только пару лет назад.
На данный момент ни у бизнеса, ни у их технологических партнеров нет проверенной формулы для разработки и внедрения ИИ-систем на уровне всей компании.
Некоторые из распространенных проблем с ИИ включают:
Решение
Чтобы избежать технологических проблем, связанных с искусственным интеллектом, мы рекомендуем начать ваш проект с этапа исследования и создания доказательства концепции ИИ.
Это позволит вам сопоставить требования решения с потребностями вашего бизнеса, устранить технологические барьеры и спланировать архитектуру системы с учетом предполагаемого числа пользователей.
Также важно выбрать технологического партнера, который знает, как преодолевать проблемы, связанные с данными для искусственного интеллекта — например, путем повторного использования существующих алгоритмов или целенаправленного увеличения размера обучающего набора данных.
Что касается компромисса между точностью и объяснимостью, ваш поставщик должен иметь практический опыт работы с LIME и суррогатными моделями, которые представляют процесс принятия решений сложными ИИ-системами.
На данный момент ни у бизнеса, ни у их технологических партнеров нет проверенной формулы для разработки и внедрения ИИ-систем на уровне всей компании.
Некоторые из распространенных проблем с ИИ включают:
- Неправильный выбор архитектуры. Точные прогнозы - не единственное, чего следует ожидать от ИИ-решения. В многоарендных ИИ-приложениях как услуга (AIaaS), обслуживающих тысячи пользователей, важны также производительность, масштабируемость и простота управления. Нельзя ожидать, что ваш поставщик просто напишет сервис на Flask, упакует его в Docker-контейнер и развернет вашу ML-модель. Когда система достигнет максимальной емкости, у вас останется приложение, которое слишком большое и сложное для эффективного управления.
- Неточные или недостаточные данные для обучения. Производительность ИИ-систем зависит от качества данных, на которых они обучены. В некоторых случаях компании испытывают трудности с предоставлением качественных данных (и их достаточного объема) для обучения алгоритмов ИИ. Такая ситуация часто встречается в здравоохранении, где сложно получить данные пациентов, такие как рентгеновские снимки и КТ, из-за соображений конфиденциальности. Для лучшего выявления и понимания повторяющихся шаблонов в входных данных также важно вручную маркировать обучающие наборы данных с помощью инструментов аннотации, таких как Supervise.ly. По данным Gartner, проблемы, связанные с данными, были основной причиной ошибочных результатов в 85% проектов по искусственному интеллекту до 2022 года.
- Недостаточная объяснимость ИИ. Объяснимый искусственный интеллект (XAI) - это концепция, направленная на предоставление достаточного объема данных для разъяснения того, как ИИ-системы принимают свои решения. Используя алгоритмы с открытым доступом (white-box), решения, соответствующие требованиям XAI, предоставляют результаты, которые могут быть интерпретированы как разработчиками, так и экспертами в предметной области. Обеспечение объяснимости ИИ критически важно в различных отраслях, где используются интеллектуальные системы. Например, оператор литьевых машин на пластмассовом заводе должен понимать, почему новая система предсказуемого технического обслуживания рекомендует определенный способ работы машины — и иметь возможность отменить неверные решения. По сравнению с моделями черного ящика, такими как нейронные сети и сложные ансамбли, модели ИИ с открытым доступом могут уступать в точности и предсказательной способности, что несколько подрывает всю концепцию искусственного интеллекта.
Решение
Чтобы избежать технологических проблем, связанных с искусственным интеллектом, мы рекомендуем начать ваш проект с этапа исследования и создания доказательства концепции ИИ.
Это позволит вам сопоставить требования решения с потребностями вашего бизнеса, устранить технологические барьеры и спланировать архитектуру системы с учетом предполагаемого числа пользователей.
Также важно выбрать технологического партнера, который знает, как преодолевать проблемы, связанные с данными для искусственного интеллекта — например, путем повторного использования существующих алгоритмов или целенаправленного увеличения размера обучающего набора данных.
Что касается компромисса между точностью и объяснимостью, ваш поставщик должен иметь практический опыт работы с LIME и суррогатными моделями, которые представляют процесс принятия решений сложными ИИ-системами.
Задача ИИ № 2: воспроизведение результатов лабораторных исследований в реальных условиях
Система сканирования рака груди на основе ИИ, созданная Google Health и Имперским колледжем Лондона, по сообщениям, дает меньше ложноположительных результатов, чем два сертифицированных радиолога.
В 2016 году ученые из Оксфорда и Google DeepMind разработали глубокую нейронную сеть, которая считывает по губам с точностью 93% (по сравнению с 52% у людей).
Теперь есть доказательства, что модели машинного обучения могут точно выявлять COVID-19 у бессимптомных пациентов по кашлю, записанному на мобильный телефон!
С мощным оборудованием и большим объемом данных для обучения, алгоритмы ИИ могут выполнять широкий спектр задач на уровне с человеком — и даже превосходить его. Проблема с ИИ в том, что большинство компаний не могут повторить результаты, достигнутые Google, Microsoft и MIT, или точность, показанную их собственными ИИ-прототипами, за пределами лабораторий.
Решение
Решение этой сложной задачи с ИИ частично заключается в готовности технологических гигантов делиться полными результатами исследований и исходным кодом с учеными и разработчиками ИИ.
На уровне компании есть несколько шагов, которые вы можете предпринять, чтобы повторить результаты, достигнутые ИИ-решениями в контролируемых условиях:
Если у вашей внутренней ИТ-команды нет необходимых навыков и опыта для выполнения этих задач, вы можете привлечь опытных консультантов по машинному обучению.
В 2016 году ученые из Оксфорда и Google DeepMind разработали глубокую нейронную сеть, которая считывает по губам с точностью 93% (по сравнению с 52% у людей).
Теперь есть доказательства, что модели машинного обучения могут точно выявлять COVID-19 у бессимптомных пациентов по кашлю, записанному на мобильный телефон!
С мощным оборудованием и большим объемом данных для обучения, алгоритмы ИИ могут выполнять широкий спектр задач на уровне с человеком — и даже превосходить его. Проблема с ИИ в том, что большинство компаний не могут повторить результаты, достигнутые Google, Microsoft и MIT, или точность, показанную их собственными ИИ-прототипами, за пределами лабораторий.
Решение
Решение этой сложной задачи с ИИ частично заключается в готовности технологических гигантов делиться полными результатами исследований и исходным кодом с учеными и разработчиками ИИ.
На уровне компании есть несколько шагов, которые вы можете предпринять, чтобы повторить результаты, достигнутые ИИ-решениями в контролируемых условиях:
- Понимать ограничения, вариации и непредсказуемость реального мира, которые могут повлиять на работу ИИ-системы.
- Убедиться, что данные для обучения ИИ-системы разнообразны и отражают реальные сценарии, с которыми она столкнется.
- Использовать техники увеличения данных, такие как добавление шума, введение вариаций или моделирование различных сценариев, чтобы искусственно увеличить разнообразие ваших обучающих данных.
- Применять метод трансферного обучения, предварительно обучая вашу ИИ-модель на обширном и всеобъемлющем наборе данных, а затем дообучая её на данных, специфичных для вашей области.
- Настраивать ИИ-системы так, чтобы они обновлялись и переобучались с использованием новых данных из реального мира, чтобы оставаться актуальными и точными.
- Устанавливать обратную связь с пользователями или операторами ИИ-системы, которые будут собирать отзывы о её работе и использовать эти данные для корректировки модели и её прогнозов.
- Внедрять инструменты мониторинга и отладки для выявления и устранения проблем, возникающих в реальных условиях, таких как смещение модели, предвзятость ИИ и постепенное ухудшение производительности.
Если у вашей внутренней ИТ-команды нет необходимых навыков и опыта для выполнения этих задач, вы можете привлечь опытных консультантов по машинному обучению.
Задача ИИ №3: масштабирование искусственного интеллекта
Проблемы с масштабируемостью программного обеспечения преследуют различные ИТ-проекты, независимо от используемой технологии, и решения на основе ИИ не являются исключением.
Согласно данным Gartner, только 53% проектов ИИ успешно переходят от прототипов к производству. Эта статистика указывает на нехватку технической экспертизы, компетенций и ресурсов, необходимых для масштабного внедрения интеллектуальных систем.
Другие факторы, влияющие на проблемы масштабируемости ИИ, включают:
Решение
Постоянный перенос знаний может быть эффективным решением проблем с масштабируемостью ИИ.
Хотя большинство компаний в настоящее время полагаются на сторонних поставщиков для создания и внедрения интеллектуальных систем, передовые ИТ-директора и лидеры должны убедиться, что их пилотные проекты помогают перенести знания от внешних специалистов по DevOps, MLOps и DataOps.
Оснащенные этими знаниями, вы можете предпринять несколько шагов для решения проблем масштабируемости ИИ:
1. Оцените вашу инфраструктуру ИИ, чтобы выявить потенциальные узкие места и установить четкие цели для масштабирования системы.
2. Внедряйте эффективные практики управления данными, включая очистку данных, предварительную обработку и оптимизацию хранения, и поддерживайте достаточное качество данных по мере их расширения.
3. Инвестируйте в методы оптимизации моделей, чтобы уменьшить их размер и сложность и повысить их эффективность использования ресурсов.
4. Используйте распределенные вычислительные фреймворки, такие как Apache Spark или TensorFlow, для распределенного обучения и вывода.
5. Воспользуйтесь облачными вычислительными платформами, которые предлагают масштабируемость и эластичность.
6. Исследуйте контейнеризацию и инструменты оркестрации, такие как Kubernetes, для эффективного управления ресурсами.
7. Усильте свои облачные развертывания возможностями туманных и периферийных вычислений, чтобы снизить задержку и нагрузку на сервер.
8. Применяйте методы обнаружения аномалий для выявления проблем с производительностью моделей ИИ.
9. Используйте специализированные аппаратные ускорители, такие как GPU, TPU или FPGA, чтобы ускорить работу с ИИ.
Согласно данным Gartner, только 53% проектов ИИ успешно переходят от прототипов к производству. Эта статистика указывает на нехватку технической экспертизы, компетенций и ресурсов, необходимых для масштабного внедрения интеллектуальных систем.
Другие факторы, влияющие на проблемы масштабируемости ИИ, включают:
- Размер наборов данных для обучения алгоритмов и качество этих данных.
- Использование значительных вычислительных ресурсов для обучения и развертывания моделей ИИ.
- Увеличивающаяся сложность современных моделей ИИ.
- Необходимость расширения базовой облачной инфраструктуры горизонтально или вертикально для учета эволюции модели ИИ и её внедрения в различные случаи использования.
- Потребность в интеграции моделей ИИ с другими системами в ИТ-инфраструктуре компании.
Решение
Постоянный перенос знаний может быть эффективным решением проблем с масштабируемостью ИИ.
Хотя большинство компаний в настоящее время полагаются на сторонних поставщиков для создания и внедрения интеллектуальных систем, передовые ИТ-директора и лидеры должны убедиться, что их пилотные проекты помогают перенести знания от внешних специалистов по DevOps, MLOps и DataOps.
Оснащенные этими знаниями, вы можете предпринять несколько шагов для решения проблем масштабируемости ИИ:
1. Оцените вашу инфраструктуру ИИ, чтобы выявить потенциальные узкие места и установить четкие цели для масштабирования системы.
2. Внедряйте эффективные практики управления данными, включая очистку данных, предварительную обработку и оптимизацию хранения, и поддерживайте достаточное качество данных по мере их расширения.
3. Инвестируйте в методы оптимизации моделей, чтобы уменьшить их размер и сложность и повысить их эффективность использования ресурсов.
4. Используйте распределенные вычислительные фреймворки, такие как Apache Spark или TensorFlow, для распределенного обучения и вывода.
5. Воспользуйтесь облачными вычислительными платформами, которые предлагают масштабируемость и эластичность.
6. Исследуйте контейнеризацию и инструменты оркестрации, такие как Kubernetes, для эффективного управления ресурсами.
7. Усильте свои облачные развертывания возможностями туманных и периферийных вычислений, чтобы снизить задержку и нагрузку на сервер.
8. Применяйте методы обнаружения аномалий для выявления проблем с производительностью моделей ИИ.
9. Используйте специализированные аппаратные ускорители, такие как GPU, TPU или FPGA, чтобы ускорить работу с ИИ.
Проблема ИИ № 4: переоценка возможностей ИИ
В 2020 году MIT Sloan Management Review и Boston Consulting Group опубликовали отчет, который объясняет, почему одни компании получают выгоду от ИИ, а другие — нет.
DHL, почтовая и логистическая компания, доставляющая 1,5 миллиарда посылок в год, является одним из победителей в области ИИ.
Компания использует систему компьютерного зрения, чтобы определить, можно ли складывать грузовые поддоны друг на друга и оптимизировать пространство в грузовых самолетах.
Гина Чунг, вице-президент по инновациям в DHL, говорит, что в начале эта киберфизическая система работала плохо. Как только она начала учиться у человеческих экспертов с многолетним опытом выявления неподходящих для штабелирования поддонов, результаты значительно улучшились.
В бизнес-среде такой сбалансированный подход к внедрению ИИ скорее исключение, чем правило.
На практике многие компании поддаются шумихе вокруг ИИ и начинают амбициозные проекты, не оценивая должным образом свои потребности, ИТ-возможности, стоимость разработки ИИ, а также правовые и этические аспекты технологии.
Решение
Если в основе вашей стратегии ИИ лежит полная автоматизация и сокращение числа сотрудников, вы, скорее всего, потерпите неудачу.
Во-первых, алгоритмам необходимы знания людей, чтобы со временем делать точные прогнозы.
Во-вторых, ваши сотрудники будут более охотно обучать алгоритмы, если вы дадите понять, что умные машины не заменят человеческую рабочую силу в обозримом будущем.
DHL, почтовая и логистическая компания, доставляющая 1,5 миллиарда посылок в год, является одним из победителей в области ИИ.
Компания использует систему компьютерного зрения, чтобы определить, можно ли складывать грузовые поддоны друг на друга и оптимизировать пространство в грузовых самолетах.
Гина Чунг, вице-президент по инновациям в DHL, говорит, что в начале эта киберфизическая система работала плохо. Как только она начала учиться у человеческих экспертов с многолетним опытом выявления неподходящих для штабелирования поддонов, результаты значительно улучшились.
В бизнес-среде такой сбалансированный подход к внедрению ИИ скорее исключение, чем правило.
На практике многие компании поддаются шумихе вокруг ИИ и начинают амбициозные проекты, не оценивая должным образом свои потребности, ИТ-возможности, стоимость разработки ИИ, а также правовые и этические аспекты технологии.
Решение
Если в основе вашей стратегии ИИ лежит полная автоматизация и сокращение числа сотрудников, вы, скорее всего, потерпите неудачу.
Во-первых, алгоритмам необходимы знания людей, чтобы со временем делать точные прогнозы.
Во-вторых, ваши сотрудники будут более охотно обучать алгоритмы, если вы дадите понять, что умные машины не заменят человеческую рабочую силу в обозримом будущем.
Задача ИИ №5: решение этических проблем ИИ
Широкое использование умных приложений сопровождается несколькими этическими вызовами ИИ, включая:
Решение
Ваша компания может решить большинство этических проблем искусственного интеллекта, создав сбалансированные наборы данных для обучения, включающие изображения людей различных этнических, гендерных и возрастных групп.
Фактически, искусственный интеллект может помочь нам в долгосрочной перспективе устранить расовые, гендерные, возрастные и сексуальные предвзятости. Например, программное обеспечение по управлению человеческими ресурсами на базе ИИ может сканировать больше резюме, чем человеческие специалисты, и идентифицировать потенциальных кандидатов исключительно на основе их образования и опыта работы.
Другие шаги, которые вы можете предпринять для решения проблем ИИ, включают разработку набора этических руководящих принципов. Эти принципы должны отражать ваше обязательство к справедливости, прозрачности, конфиденциальности и ответственности.
В рамках этой стратегии вы также должны регулярно проводить этические аудиты систем ИИ для выявления и устранения потенциальных этических проблем.
И наконец, рассмотрите возможность проведения обучающих программ для сотрудников, занимающихся разработкой и внедрением ИИ, чтобы повысить осведомленность о этических вопросах и лучших практиках.
Как преодолеть вызовы ИИ: основные моменты
Возвращаясь к отчету BCG и MIT Sloan Management Review, на который мы ссылались ранее, стоит отметить, что ваши шансы успешно справиться с вызовами ИИ возрастают с каждым шагом в вашем пути.
Ниже приведен высокоуровневый план для разработки, валидации, развертывания и масштабирования систем ИИ без рисков:
- 1. Предвзятость в алгоритмическом принятии решений, которая возникает из-за ошибочных данных для обучения, подготовленных людьми, и отражает социальные и исторические несправедливости. Например, система распознавания лиц, используемая правоохранительными органами США, с большей вероятностью идентифицирует небелого человека как преступника.
- Моральные последствия, которые главным образом касаются намерений некоторых компаний заменить человеческих работников высокопродуктивными, всегда работающими роботами. Хотя две трети бизнес-руководителей считают, что ИИ в конечном итоге создаст больше рабочих мест, чем уничтожит, 69% организаций могут потребовать новых навыков для успешной работы в цифровую эпоху.
- Ограниченная прозрачность и объяснимость, что характерно для продвинутых решений ИИ черного ящика. Глубокие нейронные сети не только не могут объяснить логику своих решений, но и сложно определить ответственность за рекомендации ИИ в случае ошибок системы и нанесенного вреда.
Решение
Ваша компания может решить большинство этических проблем искусственного интеллекта, создав сбалансированные наборы данных для обучения, включающие изображения людей различных этнических, гендерных и возрастных групп.
Фактически, искусственный интеллект может помочь нам в долгосрочной перспективе устранить расовые, гендерные, возрастные и сексуальные предвзятости. Например, программное обеспечение по управлению человеческими ресурсами на базе ИИ может сканировать больше резюме, чем человеческие специалисты, и идентифицировать потенциальных кандидатов исключительно на основе их образования и опыта работы.
Другие шаги, которые вы можете предпринять для решения проблем ИИ, включают разработку набора этических руководящих принципов. Эти принципы должны отражать ваше обязательство к справедливости, прозрачности, конфиденциальности и ответственности.
В рамках этой стратегии вы также должны регулярно проводить этические аудиты систем ИИ для выявления и устранения потенциальных этических проблем.
И наконец, рассмотрите возможность проведения обучающих программ для сотрудников, занимающихся разработкой и внедрением ИИ, чтобы повысить осведомленность о этических вопросах и лучших практиках.
Как преодолеть вызовы ИИ: основные моменты
Возвращаясь к отчету BCG и MIT Sloan Management Review, на который мы ссылались ранее, стоит отметить, что ваши шансы успешно справиться с вызовами ИИ возрастают с каждым шагом в вашем пути.
Ниже приведен высокоуровневый план для разработки, валидации, развертывания и масштабирования систем ИИ без рисков:
- Обратитесь к поставщику ИИ с соответствующим портфелем и опытом.
- Работайте с опытным бизнес-аналитиком для определения процессов и ИТ-систем, которые могут получить выгоду от использования ИИ.
- Учитывайте, как этические вопросы могут помешать использованию ИИ в полной мере.
- Создайте концепцию для проверки выполнимости решения и обхода технологических ловушек, связанных с ИИ.
- Разработайте детальную карту реализации проекта ИИ, включающую разработку решения, интеграцию, масштабирование и обучение сотрудников.
- Начните строить вашу систему вместе с поставщиком, обеспечивая непрерывный обмен знаниями.
- Не возлагайте высоких надежд: для создания ИИ-решений, способных улучшить или взять на себя критические задачи, требуется время, терпение и большое количество данных.
- Назначьте экспертов по предметной области для настройки алгоритмов ИИ.
- Обучите ваших сотрудников важности принятия решений на основе данных и возможностям оптимизации, предлагаемым искусственным интеллектом.
- И, наконец, продолжайте экспериментировать с ИИ — даже если ваш пилотный проект не оправдает ожиданий! 73% компаний, которые пересматривают свои процессы на основе уроков, извлеченных из неудач, в конечном итоге видят значительный возврат инвестиций в искусственный интеллект.
Получите оценку проекта
Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь c политикой конфиденциальности
Оцените свой проект! Заполните форму ниже
Похожие статьи
© ООО «АЛЛ СИИ», 2024