С новыми инструментами талантливый инженер может создать доказательство концепции за выходные. В некоторых случаях это может быть достаточно для удовлетворения потребностей предприятия (например, чат-бот для суммирования). Однако для большинства случаев использования в контексте крупного предприятия доказательства концепции недостаточны. Они плохо масштабируются в производство, и их производительность быстро снижается без соответствующей инженерии и экспериментов. На Dev Day OpenAI инженеры показали, насколько сложно превратить POC в продукт высокого качества для производства. В начале демонстрация POC достигла только 45% точности для задачи поиска. Через несколько месяцев и десятки экспериментов (например, тонкая настройка, повторная ранжировка, метаданные, разметка данных, оценка модели, защитные меры от рисков) инженеры достигли точности 98%.
Это приводит к двум выводам. Во-первых, организации не могут стремиться к совершенству в каждом случае использования. Они должны быть выборочными в том, когда стоит инвестировать ограниченные ресурсы инженеров для разработки высокопроизводительных приложений GenAI. Для некоторых ситуаций точность в 45% может быть достаточной для достижения бизнес-преимущества. Во-вторых, организации должны масштабировать свои возможности GenAI для достижения своих целей. Большинство организаций выделяют сотни случаев использования GenAI. Поэтому они обращаются к многоразовым компонентам кода, чтобы ускорить разработку. Посвященные инженеры, часто находящиеся в Центре компетенции (COE), кодифицируют лучшие практики в этих компонентах кода, что позволяет последующим усилиям по созданию GenAI использовать полученные уроки от первооткрывателей. Мы видели, что эти компоненты ускоряют доставку на 25% - 50%.
В течение прошлого года был бесконечный поток новостей и шума вокруг GenAI. В этом году вероятно будет похоже - но с растущим фокусом на достижение реальной бизнес-ценности для обоснования миллиардных инвестиций. От крупных предприятий до передовых стартапов организации должны сформировать свои стратегии вокруг проверенных временем принципов цифровых и аналитических преобразований. Организации, которые правильно используют эти проверенные временем знания, сформируют долгосрочные стратегические преимущества перед своими конкурентами, создавая привлекательный опыт для клиентов и увеличивая долю рынка в сложной макроэкономической среде.
Если 2023 год был годом шума, то 2024 год станет годом долгосрочного влияния в масштабе.