ИИ-агенты · Apache Cassandra · MongoDB · DevOps · Big Data · MLOps · AvitoTech22 сентября в 23:02 · 3 мин

Миграция базы данных на миллиарды за один квартал: как ИИ-агенты заменили команду инженеров

Инженеры AvitoTech завершили безаварийную миграцию критического хранилища мессенджера с MongoDB на Apache Cassandra за один квартал. Проект, требующий от года работы выделенной команды, был реализован архитектором силами автономных ИИ-агентов, что стало возможным благодаря внедрению строгих протоколов верификации.

# Миграция хранилища мессенджера Avito на Cassandra: роль ИИ-агентов в ускорении разработки

В экосистеме Avito храним критически важные данные мессенджера, включая более 80 миллиардов сообщений и 9 миллиардов активных чатов. Исторически эти данные лежали в MongoDB, но рост нагрузок сделал эксплуатацию кластера из 2400 инстансов экономически невыгодной. Компания решила перенести данные на более эффективную базу данных Apache Cassandra.

Классическая оценка сроков проекта требовала участия целой команды инженеров и года работы, что противоречило необходимости непрерывного развития продукта. Команда выбрала альтернативный путь: использовать искусственный интеллект для генерации и поддержки кода. В результате проект был завершен силами одного архитектора за три месяца.

Эволюция доверия к автономным агентам

Внедрение генеративных моделей в инженерные процессы прошло через несколько психологических этапов. Изначально доминировало отрицание: масштаб задачи и риски потери данных не оставляли пространства для экспериментов. На втором этапе наступила наивная оптимизация, когда агентам ставились глобальные задачи без детального контроля. Результаты сгенерированного кода казались успешными, но при проверке на реальных сценариях система давала критические сбои.

Следующим шагом стала гиперо опека, превратившая разработчика в микроскопического надзирателя. Агенты генерировали обильный код, который требовал ручного аудита каждой строчки. Этот подход оказался неэффективным: объем данных для проверки вырос лавинообразно, а мнимая уверенность в качестве кода скрывала фундаментальные архитектурные дефекты. Например, агенты могли игнорировать определенные паттерны чтения, создавая «фолбэк» на старую систему, или нарушать идемпотентность запросов.

Финальной точкой перелома стал кризис доверия. Команда поняла, что контроль действий ИИ неэффективен, так как невозможно предсказать все возможные ошибки генерации. Необходимость сместилась к строгому контролю границ и результатов.

Инженерная модель: лестница независимых доказательств

Для обеспечения безопасности и корректности миграции была разработана методология «Лестница независимых доказательств». Это последовательность автоматизированных фильтров, пропуска через которые является обязательным условием для продвижения изменений дальше.

1. Формализация: Создание детальных спецификаций и декомпозиция задач на изолированные модули. 2. Локальная валидация: Агент самостоятельно генерирует и запускает юнит- и интеграционные тесты. Любое падение теста блокирует дальнейшее развитие кода. 3. Наблюдаемость: Внедрение метрик, позволяющих агенту анализировать логи и дашборды для самостоятельной отладки. 4. Сравнительное чтение (Shadow Reads): Параллельный вывод данных из MongoDB и Cassandra. Система в реальном времени сверяет байт в байт, фиксируя любые расхождения. 5. Изоляция изменений: Развертывание через feature-тогглы и канареечные релизы для минимизации радиуса повреждения при возможных сбоях. 6. Живой стенд: Развертывание на копии продакшена под реальной нагрузкой для проведения end-to-end тестов.

Эта система позволила структурировать требования к коду и создать иерархию ценности, где каждый уровень корректности опирается на прочность предыдущего.

Безопасность и этика

Важным аспектом эксперимента стала строгая политика безопасности. В Avito запрещена передача персональной информации и коммерческой тайны во внешний контур ИИ-сервисов. Сотрудники обучены правилам безопасного использования инструментов, что исключило риск утечки чувствительных данных при генерации кода.

Итоги эксперимента

Внедрение жесткого фреймворка верификации оправдало связанные с ним риски. Вместо года работы пяти-шести инженеров проект был завершен одним архитектором за один квартал. Ключевым фактором успеха стало доверие, основанное не на вере в идеальную работу ИИ, а на системе независимых автоматических проверок. Вся кодовая база, включая тесты и миграционные скрипты, была сгенерирована агентами без прямого написания продакшн-кода человеком.

Первоисточники

Habr AI
← Вернуться в эфир