AIR получила 50 миллионов долларов на создание «иммунной системы» для навыков ИИ-агентов
По мере того как корпорации всё чаще доверяют автономным ИИ-агентам доступ к своим данным и системам, формируется новая уязвимость в цепочке поставок программного обеспечения. Стартап AIR, основанный бывшими сотрудниками подразделения 8200, поднял 50 миллионов долларов, чтобы предоставить компаниям инструмент для постоянного аудита «навыков», плагинов и модулей, которыми пользуются эти агенты. Проект позиционирует себя как критически важный слой защиты, способный перехватывать вредоносные подключения и блокировать несанкционированные действия до того, как они приведут к компрометации данных.
# ИИ-агенты требуют своего уровня контроля: AIR получает 50 миллионов долларов для создания системы безопасности навыков
В эпоху повсеместного внедрения искусственного интеллекта корпоративный ландшафт трансформируется из статичного набора приложений в динамичную экосистему автономных операторов. ИИ-агенты теперь не просто анализируют данные, но и обладают правом взаимодействовать с внешними сервисами, подключаться к интернету и выполнять операции с базами данных. Однако, по словам экспертов, вокруг этих новых инструментов формируется «зарождающаяся цепочка поставок», которая остается без должного надзора. В ответ на это риски кибератак многократно возрастают, а стартап AIR, недавно вышедший из стелс-режима, получил 50 миллионов долларов инвестиций для решения этой проблемы.
Основатели компании — CEO Яир Сабан (Yair Saban) и CTO Нив Хоффман (Niv Hoffman) — имеют солидный опыт работы в израильском подразделении 8200, ответственном за кибербезопасность и offensive-операции. Используя этот бэкграунд, они создали платформу, которая не только обнаруживает работающие внутри компании ИИ-агенты, но и непрерывно проверяет любой набор инструментов и расширений, которые эти агенты используют для своей работы.
Новая угроза: отравление контента вместо прямой атаки
Главная идея, которую продвигает AIR, заключается в изменении вектора атак. Традиционные угрозы часто направлены непосредственно на код самого ИИ-модели или системы, в которой она работает. Однако с появлением автономных агентов, способных самостоятельно искать информацию в открытом доступе, риск смещается. Злоумышленники могут начать «отравлять» контент, который агент потребляет, внедрять вредоносные плагины или менять параметры подключений в реальном времени.
«В начале 2000-х при установке драйверов не требовалась их подпись. Сегодня каждый драйвер имеет подпись, поскольку он загружает код в ядро системы, — цитирует CEO Яир Сабан. — Но с навыками, плагинами и серверами MCP (Model Context Protocol) такой контроль отсутствует, хотя механизмы воздействия те же. Это упущение, которое нам стоит исправить».
Сабан и его команда сравнивают ситуацию с операционными системами прошлого: сейчас компании доверяют ИИ-агентам уровень доступа, сопоставимый с правами администратора, но не имеют аналогичных механизмов верификации для каждого используемого ими «инструмента». AIR предлагает закрыть этот разрыв, создав слой управления, который работает как фильтр между агентом и внешним миром.
Как работает платформа непрерывной проверки
Платформа AIR строится на трех ключевых компонентах, направленных на обеспечение безопасности на всех этапах взаимодействия агента с окружением:
1. Видимость и обнаружение: Система способна идентифицировать всех активных ИИ-агентов внутри корпоративной сети. Это включает в себя как официально развернутых сотрудников, так и использование сотрудниками личных аккаунтов или непроверенных инструментов, что часто является «слепым пятном» для отдела безопасности. 2. Интерцепция действий: Платформа внедряет слой принуждения, который перехватывает действия агентов. Перед тем как агент попытаться загрузить новый навык, получить данные из интернета или установить какое-либо расширение, AIR анализирует это действие в реальном времени. 3. Белый список и фильтрация: Компания поддерживает актуальный репозиторий одобренных навыков и добавлений. Если агент стремится использовать инструмент, который отсутствует в этом списке, взаимодействие блокируется. Сабан отмечает, что текущая фильтрация системы отключает примерно 27% всех обнаруженных в открытом доступе навыков и расширений, которые потенциально могут представлять угрозу.
Важно отметить различие между разовой проверкой и постоянной. В мире статического программного обеспечения проверка происходит один раз при установке. В случае ИИ-агентов ситуация меняется динамически: даже тот навык, который был безопасен сегодня, может стать вредоносным завтра, если его разработчик изменит код или будет взломан.
Конкуренция и стратегическое преимущество
Рынок кибербезопасности для ИИ активно развивается. В категорию входят такие компании, как Noma Security, Zenity, Astrix Security и Operant AI. Zenity недавно получила 125 миллионов долларов на стадии Series C, а Noma поднимала 100 миллионов долларов в Series B. Однако AIR делает ставку на специфический аспект: непрерывную проверку.
«Это не задача сканера, — отметил Богумил Балкански (Bogomil Balkansky), партнер Sequoia, который возглавил первую раунд финансирования в размере 10 миллионов долларов. — Это проблема постоянного переверификации. Осмотреть каждый навык, плагин и под-агент, с которыми работает флот агентов компании, и пересмотреть их состояние в реальном времени — это инфраструктурная задача, которая стоит раньше, чем вопрос безопасности».
Согласно данным основателя, у AIR уже есть более 20 клиентов, четверть из которых представляют собой крупные предприятия. Наибольший спрос наблюдается в таких строго регулируемых отраслях, как финансовый сектор и фармацевтика, где риск компрометации данных недопустим.
Инвестиции в размере 50 миллионов долларов (10 млн в первом раунде от Sequoia и 40 млн во втором, возглавляемом Greenoaks Capital) позволят компании нанять исследователей и усилить усилия по выходу на рынок в США и Европе. К настоящему моменту в штате AIR работает около 40 сотрудников.
Технологический прогресс не стоит на месте, но человеческий фактор и необходимость надежной архитектуры безопасности требуют адаптации. AIR позиционирует себя как «тихий маяк» в океане быстро меняющихся технологий, предлагая компаниям уверенность в том, что их ИИ-агенты работают с теми инструментами, которые действительно безопасны и проверены.
Для тех, кто интересуется техническими деталями, стоит упомянуть, что «навыки» (skills) в контексте ИИ — это модульные программные компоненты, позволяющие агенту выполнять конкретные действия (например, читать почту или делать резервные копии), а MCP (Model Context Protocol) — это стандарт, обеспечивающий взаимодействие между различными моделями ИИ и источниками данных. Контроль над этим стеком становится критическим элементом корпоративной гигиены в будущем.