Локальные модели в бизнесе: зачем «Фаберлик» поставил нейросеть на свои серверы
“
В конце августа «Фаберлик» запустил нейросетевой поиск по каталогу — и сделал это не через подписку на чужой сервис, а развернув открытую модель Qwen на собственных GPU-серверах. Разбираем, почему выбрали именно так и когда это решение вообще имеет смысл для бизнеса.
Что именно они построили
Задача звучит просто: сделать так, чтобы покупатель находил товар, даже когда формулирует запрос не теми словами, которыми товар назван в каталоге.
Обычный поиск работает по совпадению слов. Человек пишет «крем от морщин вокруг глаз», а в каталоге позиция называется «омолаживающий уход для периорбитальной зоны» — совпадений нет, выдача пустая, покупатель ушёл.
Нейросетевой поиск устроен иначе. Каждый товар и каждый запрос превращаются в набор чисел, отражающий смысл, и система ищет ближайшие по смыслу, а не по буквам. Поэтому «крем от морщин вокруг глаз» находит нужную позицию, даже если ни одно слово не совпало.
Для компании с большим каталогом это прямое влияние на выручку: покупатель, который ничего не нашёл, обычно не пишет второй запрос, а уходит.
Оговоримся честно: конкретных цифр — насколько выросла конверсия, сколько позиций в каталоге, как быстро отвечает система — компания не раскрыла. Так что кейс интересен архитектурой, а не результатами.
Обычный поиск работает по совпадению слов. Человек пишет «крем от морщин вокруг глаз», а в каталоге позиция называется «омолаживающий уход для периорбитальной зоны» — совпадений нет, выдача пустая, покупатель ушёл.
Нейросетевой поиск устроен иначе. Каждый товар и каждый запрос превращаются в набор чисел, отражающий смысл, и система ищет ближайшие по смыслу, а не по буквам. Поэтому «крем от морщин вокруг глаз» находит нужную позицию, даже если ни одно слово не совпало.
Для компании с большим каталогом это прямое влияние на выручку: покупатель, который ничего не нашёл, обычно не пишет второй запрос, а уходит.
Оговоримся честно: конкретных цифр — насколько выросла конверсия, сколько позиций в каталоге, как быстро отвечает система — компания не раскрыла. Так что кейс интересен архитектурой, а не результатами.
Почему локальная модель, а не подписка
Вот тут начинается самое полезное для любого бизнеса.
Стоимость обработки запросов. Когда вы пользуетесь чужим сервисом, вы платите за каждое обращение. Пока обращений тысячи в месяц — это копейки. Когда речь про поиск в интернет-магазине, счёт идёт на сотни тысяч запросов, и поштучная оплата превращается в постоянно растущий расход, который вы не контролируете. Своё железо — это фиксированная стоимость: сервер стоит столько же независимо от того, сколько запросов через него прошло.
Ровно здесь и находится точка разворота экономики. При малом объёме подписка дешевле в разы. При большом — наоборот, и разница тоже в разы.
Данные внутри контура. Второй аргумент, который часто оказывается решающим. Поисковые запросы покупателей — это данные о поведении клиентов, и отдавать их наружу компания не обязана. В отраслях с персональными данными вопрос вообще снимается: наружу нельзя, точка. Как устроены требования к таким данным, мы разбирали в статье про обезличивание.
Независимость от поставщика. Третья причина, которую обычно не проговаривают. Модель, поставленная у себя, не изменит цену на следующий год, не введёт лимиты и не закроет доступ. Для процесса, встроенного в выручку, это не мелочь.
Стоимость обработки запросов. Когда вы пользуетесь чужим сервисом, вы платите за каждое обращение. Пока обращений тысячи в месяц — это копейки. Когда речь про поиск в интернет-магазине, счёт идёт на сотни тысяч запросов, и поштучная оплата превращается в постоянно растущий расход, который вы не контролируете. Своё железо — это фиксированная стоимость: сервер стоит столько же независимо от того, сколько запросов через него прошло.
Ровно здесь и находится точка разворота экономики. При малом объёме подписка дешевле в разы. При большом — наоборот, и разница тоже в разы.
Данные внутри контура. Второй аргумент, который часто оказывается решающим. Поисковые запросы покупателей — это данные о поведении клиентов, и отдавать их наружу компания не обязана. В отраслях с персональными данными вопрос вообще снимается: наружу нельзя, точка. Как устроены требования к таким данным, мы разбирали в статье про обезличивание.
Независимость от поставщика. Третья причина, которую обычно не проговаривают. Модель, поставленная у себя, не изменит цену на следующий год, не введёт лимиты и не закроет доступ. Для процесса, встроенного в выручку, это не мелочь.
Что для этого нужно на самом деле
Теперь честно про обратную сторону, потому что решение не бесплатное.
Открытые модели вроде Qwen действительно ничего не стоят как таковые — платить нужно за всё остальное.
Нужны серверы с видеокартами. Аренда таких машин начинается примерно от 30–50 тысяч рублей в месяц, и это нижняя граница для небольших моделей.
Нужен человек, который развернёт модель, настроит и будет обслуживать. Это не «поставил и забыл»: обновления, наблюдение за нагрузкой, разбор сбоев.
Нужна подготовка данных. Чтобы поиск по каталогу заработал, каталог должен быть в порядке: описания заполнены, категории не противоречат друг другу, дубли убраны. Обычно это самая трудоёмкая часть, и её всегда недооценивают.
Складывая всё вместе, получаем: локальная модель имеет смысл при большом объёме или жёстких требованиях к данным. Для компании с сотней запросов в день это дороже облака в несколько раз.
Открытые модели вроде Qwen действительно ничего не стоят как таковые — платить нужно за всё остальное.
Нужны серверы с видеокартами. Аренда таких машин начинается примерно от 30–50 тысяч рублей в месяц, и это нижняя граница для небольших моделей.
Нужен человек, который развернёт модель, настроит и будет обслуживать. Это не «поставил и забыл»: обновления, наблюдение за нагрузкой, разбор сбоев.
Нужна подготовка данных. Чтобы поиск по каталогу заработал, каталог должен быть в порядке: описания заполнены, категории не противоречат друг другу, дубли убраны. Обычно это самая трудоёмкая часть, и её всегда недооценивают.
Складывая всё вместе, получаем: локальная модель имеет смысл при большом объёме или жёстких требованиях к данным. Для компании с сотней запросов в день это дороже облака в несколько раз.
Кому локальные модели не нужны, а кому стоит считать
Разложим по простому признаку — объёму и чувствительности данных.
Не нужно. Небольшой бизнес с редкими обращениями к нейросети. Компании, у которых данные не относятся к чувствительным. Все, кто ещё не запустил ни одного рабочего процесса на ИИ: начинать со сборки инфраструктуры — самый дорогой способ ничего не запустить. Сначала облако и проверка гипотезы, потом переезд.
Стоит считать. Интернет-магазины и маркетплейсы с большим потоком поисковых запросов. Компании, обрабатывающие персональные или медицинские данные. Организации, которым по договору с клиентами запрещено передавать информацию третьим лицам. Все, у кого расход на облачную модель перевалил за стоимость аренды сервера — это простая арифметика, которую полезно пересчитывать раз в квартал.
Обязательно. Гостайна, финансовые данные под особыми требованиями, любые случаи, где передача наружу запрещена законом.
Не нужно. Небольшой бизнес с редкими обращениями к нейросети. Компании, у которых данные не относятся к чувствительным. Все, кто ещё не запустил ни одного рабочего процесса на ИИ: начинать со сборки инфраструктуры — самый дорогой способ ничего не запустить. Сначала облако и проверка гипотезы, потом переезд.
Стоит считать. Интернет-магазины и маркетплейсы с большим потоком поисковых запросов. Компании, обрабатывающие персональные или медицинские данные. Организации, которым по договору с клиентами запрещено передавать информацию третьим лицам. Все, у кого расход на облачную модель перевалил за стоимость аренды сервера — это простая арифметика, которую полезно пересчитывать раз в квартал.
Обязательно. Гостайна, финансовые данные под особыми требованиями, любые случаи, где передача наружу запрещена законом.
Что здесь может сделать студия разработки
Скажем прямо, потому что это важнее, чем кажется: саму модель поставить несложно. Инструкции открытые, за пару дней инженер развернёт Qwen на арендованном сервере.
Сложность в другом — и на этом кейс «Фаберлика» показателен. Модель сама по себе ничего не даёт. Нужно превратить каталог в поисковый индекс, настроить логику подбора, связать всё с сайтом, продумать, что показывать, когда система не нашла ничего подходящего, и как обновлять индекс при изменении каталога.
То есть работа не в том, чтобы запустить нейросеть, а в том, чтобы встроить её в процесс. Это и отличает демонстрацию, которая красиво отвечает на десять запросов, от системы, которая держит поток покупателей.
Правильный порядок для компании, которая думает об этом: сначала проверить гипотезу на облачной модели за небольшие деньги, посчитать реальный объём запросов и только потом решать, переезжать ли на своё железо. Обратный путь — сначала купить серверы, потом искать задачу — обходится в разы дороже и почти никогда не окупается.
Сложность в другом — и на этом кейс «Фаберлика» показателен. Модель сама по себе ничего не даёт. Нужно превратить каталог в поисковый индекс, настроить логику подбора, связать всё с сайтом, продумать, что показывать, когда система не нашла ничего подходящего, и как обновлять индекс при изменении каталога.
То есть работа не в том, чтобы запустить нейросеть, а в том, чтобы встроить её в процесс. Это и отличает демонстрацию, которая красиво отвечает на десять запросов, от системы, которая держит поток покупателей.
Правильный порядок для компании, которая думает об этом: сначала проверить гипотезу на облачной модели за небольшие деньги, посчитать реальный объём запросов и только потом решать, переезжать ли на своё железо. Обратный путь — сначала купить серверы, потом искать задачу — обходится в разы дороже и почти никогда не окупается.
Создайте новое будущее с нашими решениями
Похожие статьи