искусственный интеллект · компьютерное зрение · TAPe ML · наземные робототехнические системы · локальное ИИ · Edge AI17 октября в 04:32 · 5 мин

Локальный компьютерный взгляд: модель «Ночной глаз» в 4,2 МБ опережает мировые стандарты на одном ядре CPU

Команда «Ночной глаз» в сотрудничестве с Comexp Research Lab внедрила оптимизированную версию архитектуры TAPe+ML для работы без интернета. Модель, занимающая всего 4,2 МБ, выполняет обработку кадров на одном ядре процессора за менее чем 16 миллисекунд, достигая метрик, сопоставимых с передовыми мировыми решениями (SOTA), ранее требовавшими сложной облачной инфраструктуры или мощных видеокарт.

# Локальный компьютерный взгляд: как 4 МБ превратили «Ночной глаз» в всевидящее око

Вода камень точит, но в сфере искусственного интеллекта вода — это часто просто среда, в которой плавают тяжеловесные модели. Однако недавний кейс проекта «Ночной глаз» доказывает обратное: с помощью технологии TAPe+ML удалось создать систему компьютерного зрения, которая работает автономно, на бюджетном «железе» и не уступает лучшим аналогам.

Компания Comexp Research Lab совместно с ГК «Барс» разрабатывала систему навигации для катеров и лодок. Задача была нетривиальной:不仅要 видеть в темноте (функция ночного видения), но и понимать, что именно находится в кадре. Нужна была не просто картинка, а выделенные объекты: буи, другие суда, бревна и препятствия, едва выступающие из воды.

Для решения этой задачи команде не потребовалась облачная ферма GPU. Вместо этого была создана локальная модель весом всего 4,2 МБ, способная работать на одном ядре процессора.

Почему локальное решение важнее облака

Проект «Ночной глаз» изначально использовал комбинацию RGB-камеры и тепловизора. Стандартное ночное видение лишь облегчает обзор в темноте, но не заменяет человеческий мозг в поиске целевых объектов. Оператору все равно приходится постоянно сканировать экран, пытаясь отличить полезный объект от шума. Интеграция компьютерного зрения решает эту проблему, подсвечивая значимые элементы прямо в интерфейсе.

Выбор в пользу TAPe+ML был сделан после сравнительных испытаний. В отличие от других подходов, эта архитектура позволяет достигать показателей на уровне передовых мировых моделей (SOTA — State of the Art) без привязки к специфической инфраструктуре. Модель, которая в базовой конфигурации весит менее 100 тысяч параметров, продемонстрировала точность 88,1% на ImageNet-1k и mAP50–95 на COCO равным 65,3%.

Главное преимущество для конечного пользователя — полная автономность. Локальная обработка означает, что система не зависит от стабильности мобильного интернета и не требует передачи каждого кадра в облако для анализа. Это критически важно для навигационных систем, где задержка (латентность) и надежность являются приоритетом.

От теории к практике: как обучалась модель

Работой над компьютерным компонентом занимался Илья Егоров. Его задача заключалась не только в использовании готовых инструментов, но и в адаптации их под специфические условия эксплуатации на воде. Подготовка данных стала ключевым этапом, где проявилась гибкость платформы TAPe+ML.

Уникальность датасета

Обучение началось не с абстрактных изображений, а с реальных снимков, полученных с оборудования «Ночной глаз». Исходный набор включал RGB-изображения, ночные записи и кадры с тепловизоров. В конечном итоге выборка для обучения состояла из 2205 тренировочных и 506 валидационных изображений.

Особое внимание уделялось редким, но критически важным объектам. Фотографии лодок и стандартных плавсредств найти легко, но данные о плавающих бревнах, камнях или препятствиях в тумане — редкость. Для первой версии модели команда сосредоточилась на буях и судах, понимая, что это приоритетные цели для безопасности. Однако механизм сбора данных уже заложен для будущих обновлений: планируется расширение датасета за счет съемок в тумане и добавления категорий малых препятствий.

Технология авторазметки значительно ускорила процесс. Вместо ручного рисования рамок с нуля, система автоматически предлагала варианты, которые специалисты проверяли и корректировали через API. Это позволило эффективно работать с тысячами кадров, устраняя дубликаты и уточняя границы объектов.

Результаты испытаний на воде

Первый запуск модели показал впечатляющие результаты. На тестах система успешно обнаруживала лодки на расстоянии до 500 метров. В условиях слабой освещенности и тумана, когда для человеческого глаза на тепловизионном изображении может быть не видно даже точки, алгоритм выделял объекты в кадре. Показатели точности достигли F1-меры 0,723 и mAP50 0,735.

Однако система не идеальна. На этапе полевых испытаний возникали ошибки, например, распознавание красных огней мостов как буев. Такие «ложные срабатывания» решаются путем дообучения на новых данных, что является естественной частью жизненного цикла любой ИИ-системы.

Точка бифуркации: оптимизация под процессор

После успешных испытаний логическим шагом стало создание коммерческой версии, способной работать на бортовых компьютерах без видеопроводов и сложной периферии. Работа над локальной версией стала этапом глубокой оптимизации TAPe+ML под ресурсы процессорного ядра.

Технический прорыв: 4 МБ и одно ядро

Первоначальная версия модели для проекта занимала около 28–30 МБ. Она работала на мини-ПК RDBox, нагружая процессорное ядро на 30–60%. Это уже было эффективно, но для встраивания в компактные устройства потребовалось еще больше сжатия.

Применяя методы оптимизации библиотек и исполнения кода, разработчики добились невероятного результата. Текущая локальная поставка модели занимает всего 4,2 МБ. Благодаря этому она помещается во внутренней памяти процессора и работает прямо в ней после первоначальной загрузки, исключая постоянные операции по переносу параметров из оперативной памяти.

Скорость обработки кадра на одном ядре CPU варьируется в диапазоне 8,6–15,8 мс. Для контекста: это время, необходимое глазу человека для фиксации взгляда на объекте. Это позволяет системе работать в реальном времени, даже на устройствах среднего класса, не требуя видеокарт и мощного охлаждения.

Бизнес-модель и будущее

Эта технология открывает новые возможности для производителей навигационных комплектов. Модель готова к развертыванию на Android-планшетах, оснащенных RGB-камерой и тепловизором. Более того, компания рассматривает модель как сервис: базовый пакет включается в стоимость оборудования, а后续的 обновления и поддержка активации предлагаются как дополнительная услуга.

Проект «Ночной глаз» демонстрирует, как сложные задачи компьютерного зрения могут быть решены с помощью легких, но интеллектуальных архитектур. TAPe+ML предоставляет инструменты для всего цикла разработки: от загрузки данных и авторазметки до обучения и деплоя на клиентские устройства. Это делает технологию доступной не только для крупных корпораций, но и для производителей компактного оборудования, стремящихся вывести свои продукты на новый уровень функциональности без существенного роста стоимости «железа».

Теперь вопрос стоит не в том, можно ли выполнить вычисления на одном ядре, а в том, достаточно ли у устройства памяти и вычислительной мощности, чтобы развернуть такую компактную модель.

Первоисточники

Habr AI ↗
← Вернуться в эфир