Внедрение модели Jev позволило сократить издержки на автоматизацию модерации товаров на 90%
Команда интернет-магазина компьютерной техники Narisuemvse.by решила проблему бэклога в 100 тысяч заявок, отказавшись от генеративных LLM в пользу специализированной модели Jev. Переход на систему оценки вероятностей вместо генерации текста обеспечил жесткую типизацию данных, ускорил обработку и значительно снизил бюджетное потребление.
# Как Jev сэкономил 90% бюджета на автоматизации каталога
В контексте стремительного роста цифрового присутствия, многие компании сталкиваются с разрывом между скоростью поступления новых данных и возможностями их обработки вручную. Компания Narisuemvse.by, владеющая интернет-магазином компьютерной техники с каталогом из 200 тысяч активных позиций, оказалась в такой ситуации. Постоянный парсинг товаров из внешних источников создавал операционную нагрузку, которую не могла выдержать команда контент-менеджеров.
Изначально скорость обработки составляла около 5 тысяч товаров в месяц. В результате накопился значительный долг: на момент принятия решения об автоматизации в очереди на проверку находилось около 100 тысяч заявок. Для решения этой задачи требовалось решение, способное обрабатывать данные линейно, без человеческой усталости и с минимальными издержками.
От генеративного текста к строгой вероятности
Изначально для верификации товаров была разработана схема с использованием больших языковых моделей (LLM). Нейросеть анализировала название, характеристики и категорию товара, выдавая вердикт и коэффициент уверенности. Агент внутри системы использовал промпт, требующий ответа в строгом формате JSON.
Однако работа с генеративными моделями для таких задач имеет inherent (внутренние) ограничения. Несмотря на попытки зафиксировать структуру ответа через JSON-схемы, бюджетные модели часто выдавали формат данных, не соответствующий ожиданиям. Это приводило к ошибкам парсинга и требовало дополнительных усилий на очистку данных. Основная цель — проверка соответствия товара категории и согласованности характеристик — требовала не творчества, а бинарного или вероятностного ответа с высокой точностью.
В эту ситуацию компания вышла к новой категории моделей — System One, представившей модель Jev. По заявлению разработчиков, данная модель в разы быстрее и дешевле традиционных LLM. Ключевое отличие Jev заключается в том, что вместо генерации текста и сложных рассуждений она выдает чистые вероятностные оценки. Именно это соответствовало задаче: системе требовались не текстовые пояснения, а математическая уверенность в том, что товар подходит к категории.
Технические преимущества и экономический эффект
Переход на Jev потребовал минимальных изменений в коде, поскольку изначально заложенный подход с оценкой уверенности легко адаптировался под новую архитектуру. Результаты внедрения оказались значительными.
Главным преимуществом стала жесткая типизация. В отличие от LLM, которые могут давать сбои в форматировании, Jev в 100% случаев возвращает ожидаемую структуру данных. Это полностью исключило ошибки при чтении ответов системой и упростило интеграцию в CRM.
Экономический аспект также стал определяющим. Использование генеративных моделей подразумевает оплату за токены, затраченные на создание текста, который часто не используется (например, на объяснения). Jev работает иначе: она сразу выдает вероятности (например, noul: 0.94 для совпадения категории) без лишних токенов. Это привело к резкому снижению стоимости одного запроса.
Кроме того, скорость обработки выросла в четыре раза. Модель способна выполнять несколько сценариев одновременно: проверку категории и согласованности характеристик в одном запросе, что дополнительно ускоряет процесс.
Пример работы системы
При проверке товара, например, "Кабель ВВГнг-LS 3х2,5", система Jev возвращает структуру, содержащую вероятностные оценки для каждого вопроса:
json { "answers": { "category_match": { "noul": 0.94 }, "fields_consistent": { "noul": 0.88 } } }
Также модель успешно решает задачи классификации. Если товар имеет корректные характеристики, но ошибочную категорию, Jev может предложить корректное назначение, например, отнести электрический кабель в категорию "Провода и кабели" с уверенностью 0.98.
Ограничения и реалистичный взгляд на автоматизацию
Важно отметить, что Jev — это инструмент узкого назначения. Она не заменяет полностью возможности генеративных LLM, таких как сложная обработка естественного языка для генерации описаний или креативные задачи. В проекте Narisuemvse.by LLM по-прежнему используется для более сложных этапов, таких как разбор названия товара для дальнейшего поиска.
Также стоит учитывать новизну продукта. Модель находится на стадии активной разработки, что потенциально может влиять на стабильность работы. Компания не ставила цели достичь 100% автоматизации, понимая риски полного исключения человека из цикла.
Итогом стало успешное разрешение проблемы бэклока. Команда смогла автоматизировать обработку 65% всех заявок. Это позволило ликвидировать операционный долг и обеспечить стабильное обновление каталога. Кейс демонстрирует, что в задачах верификации и строгой классификации специализированные модели вероятностного вывода могут быть более эффективными и экономичными, чем универсальные генеративные решения.
Для разработчиков и бизнеса этот опыт подводит важный итог: внедрение ИИ не должно быть "фичей ради фичи". Правильный выбор инструмента под конкретную задачу — будь то генеративная модель или специализированная система оценки вероятностей — является ключом к оптимизации затрат и повышению эффективности процессов.