Масштабирование ИИ-агентов: как развести OpenClaw на 5000 сотрудников добывающей компании

# Масштабирование ИИ-агентов: как развести OpenClaw на 5000 сотрудников добывающей компании

Сцена, показанная в фантастических фильмах о всемогущих цифровых ассистентах, становится реальностью. Прошлый декабрь продемонстрировал, что ИИ-агент с умной нейросетью, паттерном ReAct и полными правами доступа способен выполнять любые задачи. Однако переводение этой технологии из разряда игрушек в категорию корпоративной инфраструктуры для тысяч пользователей — задача, с которой сталкиваются не многие.

Внедрение подобных систем в компании, далёкие от IT-сектора, например, в горнодобывающий бизнес, ставит перед разработчиками новые вызовы. В одной из компаний топ-менеджмент массово перешел на использование OpenClaw, а затем запросили интеграцию системы для всего коллектива, численностью до 5000 человек. Это решение базируется на концепции кастомного RAG (Retrieval-Augmented Generation), где ИИ получает доступ к базам знаний компании.

Архитектурные ограничения и поиск баланса

Первая и главная дилемма заключалась в том, как организовать взаимодействие 5000 пользователей через одного Telegram-бота с OpenClaw. Простое использование одного агента привело бы к хаосу из-за путаницы в именах и предпочтениях пользователей. Решение заключалось в маршрутизации: запросы шли на общий роутер, который распределял их по отдельным экземплярам OpenClaw для каждого сотрудника.

Исходная версия OpenClaw не поддерживала изолированных списков пользователей, а попытка использовать жесткие (hardcoded) списки не годилась из-за постоянных изменений никнеймов в Telegram. Более того, сама технология требовательна к ресурсам. Открытый анализ показал, что запуск всех 5000 агентов в одно время потребовал бы примерно 2,5 терабайта оперативной памяти (при расчете 500 МБ на сессию браузера). Это стало бы непреодолимой нагрузкой даже для мощных серверов.

Важным нюансом является разделение личного использования и корпоративного. Многие пользователи предпочитают держать бота на облачных серверах, а не на личных устройствах, чтобы избежать риска поломки рабочего окружения и иметь доступ к ассистенту с любого устройства.

Выбор технологии: от Docker до нативных сервисов

Проблема ресурсов привела к отказу от Docker-контейнеров для каждого экземпляра агента. Использование контейнеров потребляло слишком много ресурсов для запуска 5000 процессов. Вместо этого разработчики перешли на использование нативных сервисов Unix (systemctl).

Для решения задачи масштабирования был выбран легковесный аналог OpenClaw под названием nanobot. Архитектура была перестроена следующим образом: * Один общий Telegram-роутер на 15 МБ оперативной памяти. * Множество отдельных процессов nanobot, работающих в режиме HTTP-сервера. * Каждый активный агент потребляет около 250 МБ памяти.

При такой схеме пиковое потребление памяти на сервер снизилось до около 25 ГБ для работы 100 одновременных сессий. Это решение позволило ИТ-директору согласовать проект. Однако оставалась проблема «спящих» ботов.

Алгоритм был построен так, что если пользователь не обращается к ассистенту в течение часа, его процесс останавливается. При новом запросе сервис поднимается заново за 1–2 секунды. Использование Docker сделало бы этот процесс задержкой в 10 секунд, что неприемлемо для пользователя. Нативные сервисы позволили сократить время старта до нескольких секунд.

Для предотвращения ситуации, когда множество спящих ботов одновременно активируются на одной машине с ограниченной памятью, была разработана система автобалансировки. Она мониторит нагрузку на все доступные серверы и автоматически перемещает процессы с перегруженных машин на те, где есть свободная оперативная память. Перемещение осуществляется через архивацию,scp (копирование по сети) и распаковку, что занимает около 5 секунд.

Управление и безопасность в экосистеме из тысяч ботов

Создание технической базы потребовало продуманного интерфейса для администраторов. Работа с 5000 сотрудников вручную была невозможна, поэтому была внедрена система авторизации по приглашениям. Сотрудник отправляет код, после чего роутер создает под него новый экземпляр nanobot.

Для безопасности реализована ротация инвайт-кодов и автоматическое отключение неактивных пользователей после двух месяцев простоя. Важной функцией стала возможность «передачи» ассистента. Если сотрудник меняет отдел, его накопленные знания, навыки и история переписки не удаляются, а передаются новому сотруднику, занимающему его должность. Это сохраняет корпоративную экспертизу внутри ИИ-модуля.

Административная панель также позволяет управлять интеграциями. Вместо того чтобы настраивать 5000 отдельных подключений к почте или CRM, администратор включает интеграцию (например, Яндекс.Почту) для всей команды. Система сама рассылает сотрудникам инструкции по подключению их личных аккаунтов.

Модели искусственного интеллекта обновляются централизованно. Администратор меняет модель в интерфейсе, и обновление распространяется на все тысячи агентов параллельно, что может занять несколько минут.

Обработка данных и поиск информации

Для работы с документами компании был проведен сравнительный анализ методов поиска. Традиционный RAG (векторный поиск) дает быстрый ответ за 1–2 секунды, но требует сложной настройки. Метод плоских файлов с использованием рекурсивного поиска и grep (алгоритм ReAct) был медленнее (4–7 секунд), но оказался эффективнее в нахождении информации в структурированных документах.

В итоге был выбран гибридный подход: векторная база данных на базе pgvector используется как основной источник знаний для быстрого доступа, а плоские текстовые файлы служат резервом. Администраторы также могут добавлять прямые текстовые правила в интерфейс, которые сразу попадают в системные инструкции агентов.

В качестве примера оптимизации UI, была внедрена система «аватара сотрудника» в виде процента готовности. Это визуальный индикатор показывает, насколько хорошо ассистент наполнен навыками, историей переписки и выполненными задачами за последние три месяца. Также реализовано отслеживание активности на уровне отделов (команд), позволяющее видеть среднюю степень «наполненности» ИИ каждого подразделения.

Заключение

Проект масштабируемой экосистемы ИИ-ассистентов продемонстрировал, что мощные агенты могут работать в не-IT средах, если подходить к инфраструктурным вопросам прагматично. Отказ от тяжелых контейнерных решений в пользу нативных сервисов и грамотная балансировка ресурсов позволили развернуть систему на тысячи пользователей.

Следующие этапы развития включают интеграцию с 1С и amoCRM, а также создание механизма, при котором менее опытные ИИ-ассистенты внутри команды смогут обучаться у более продвинутых.

*Уминэ Наги. В мире, где алгоритмы берут на себя рутину, важна не только скорость вычислений, но и способность архитектуры адаптироваться к человеческим факторам. Этот кейс — отличный тому пример.*