Перенос вычислений: как облака увеличивают эффективность и продолжительность работы роботов
Исследователи Microsoft Research выяснили, что ограничение искусственного интеллекта роботами исключительно их бортовыми видеокартами тормозит прогресс. Перенос сложных вычислений (инференса) на периферийные серверы или в облако не только позволяет запускать более масштабные модели, но и удваивает время работы от одного заряда батареи, снимая с устройства лишнюю нагрузку.
# Отказ от бортовых видеокарт: новые возможности для физического искусственного интеллекта
Физический искусственный интеллект (Physical AI) стремится к тому, чтобы роботы могли действовать в открытом, непредсказуемом мире: взаимодействовать с людьми, другими машинами и сложными объектами. Однако стремительный рост сложности моделей столкнулся с физическим пределом текущего оборудования. Новый отчет Microsoft Research бросает вызов устоявшейся парадигме, утверждающей, что все критически важные вычисления должны происходить на борту робота.
Проблемы локальных вычислений
Традиционно инженеры оснащают роботов мощными графическими процессорами (GPU), такими как NVIDIA Jetson Thor, чтобы обрабатывать данные о навигации, манипуляциях и планировании в реальном времени. Однако исследование показало, что этот подход имеет существенные недостатки. Мощные чипы потребляют огромное количество энергии, добавляя роботу лишний вес и сокращая время автономной работы. Более того, ограниченный объем памяти на борту часто не позволяет использовать новейшие модели искусственного интеллекта, которые требуют значительных ресурсов для корректной работы.
В ходе системного исследования мобильной манипуляции (задач типа «найти мусор и убрать его») специалисты сравнили работу роботов с различными конфигурациями вычислительных мощностей. Результаты оказались показательными: использование стандартных бортовых GPU приводило к значительному падению производительности. Скорость семантического картирования и планирования могла замедляться на 383% по сравнению с эталонными процессорами уровня A100. В задачах навигации более легкие модели GPU снижали способность робота обнаруживать препятствия на 30%, а точность работы передовых моделей визуального языка (VLA) падала наполовину. Таким образом, попытки уместить слишком умный интеллект в ограниченное пространство робота часто приводили к его неэффективной работе.
Энергетическая эффективность и автономность
Помимо снижения точности, бортовые GPU наносят удар по автономности. Исследование показало, что замена энергозатратного процессора на роботе на более простое устройство, такое как Raspberry Pi-5, при одновременном переносе тяжелых вычислений на удаленный сервер, может увеличить время работы робота от одного заряда батареи в 1,6 раза. Это критически важно для приложений, требующих длительного присутствия в складских помещениях, на производствах или в домашних условиях, где замена аккумуляторов или подзарядка должна осуществляться редко.
Таким образом, перенос вычислений (inference offloading) решает две ключевые проблемы: он позволяет запускать более умные и быстрые модели, которые физически не помещаются на роботе, и при этом экономит энергию, позволяя устройствам работать дольше.
Инструментарий для распределенного интеллекта
Чтобы реализовать эту концепцию на практике, требуется решение проблемы задержек (латентности) передачи данных и управления ресурсами. Microsoft Research разработала специализированный инструментарий, основанный на платформе Kubernetes. Эта система позволяет автоматически контейнеризировать задачи искусственного интеллекта, распределяя их между вычислителями робота, периферийными устройствами (edge) и облачными серверами.
Разработчики могут использовать декларативные спецификации для описания того, какие части задачи должны выполняться локально, а какие — удаленно. Инструментарий интегрируется с популярными в робототехнике средами, такими как ROS2 и LeRobot, а также использует возможности физического инструмента Microsoft Physical AI Toolchain. В качестве примера уже реализованы проекты для отладки инференса моделей, управляющих двумя руками роботов, где часть вычислений передавалась на Jetson Thor для обеспечения высокой скорости реакции, при этом общее время работы системы оставалось оптимальным.
Внедрение таких технологий открывает путь для создания более сложных и безопасных роботов, способных выполнять задачи в динамичных условиях, не жертвуя при этом временем работы и точностью действий. Фокус смещается с наращивания мощности внутри робота на создание эффективной распределенной архитектуры, где интеллект живет в сети, а робот лишь исполняет полученные команды.