OpenAI представил аналог Jev: новый инструмент для контроля разрастающихся ИИ-агентов
На конференции Dev Day генеральный директор OpenAI Сэм Алтман анонсировал появление Decisions API — сервиса, функционально похожего на модель Jev от компании TypeSafe AI. Это решение призвано решить проблему высокой стоимости и задержек, связанных с использованием больших языковых моделей (LLM) в автоматизации. Главная цель новой технологии — обеспечить быстрый и дешёвый мониторинг действий автономных агентов, чтобы предотвратить сбои и нежелательное поведение в открытых сетях.
# OpenAI представил аналог Jev: новый инструмент для контроля разрастающихся ИИ-агентов
На фоне усложнения ландшафта искусственного интеллекта, где автономные системы начинают действовать самостоятельно, технологические гиганты ищут способы сделать их управление более надежным и экономически эффективным. В рамках конференции OpenAI Dev Day, прошедшей во вторник, Сэм Алтман, генеральный директор компании, сделал неожиданное заявление. Разговоры о масштабных релизах сменились скромным, но стратегически важным анонсом нового сервиса — Decisions API.
Этот продукт позиционируется как ответ на вызов, который уже ощущают на себе разработчики. В основе идеи лежит опыт, полученный другим игроком рынка: модель Jev, выпущенная компанией TypeSafe AI в начале сентября. Jev была создана специально для задач автоматизации программного обеспечения и отличается от традиционных LLM тем, что работает быстрее и дешевле, предлагая вероятностный выбор из заранее заданных опций.
Конкуренция «клонских» моделей и философия скорости
Сэм Алтман описал Decisions API как инструмент, позволяющий модели Luna (новой модели безопасности OpenAI) выбирать из строго определенного набора вариантов. Например, система может классифицировать изображение в одну из нескольких категорий или выбрать определенный тип поведения для агента.
«Сосредоточив модель на выборе из этого набора, мы можем сделать её чрезвычайно быстрой, сохраняя при этом возможности, такие как понимание изображений, широкую языковую поддержку и меры безопасности», — заявил Алтман.
Сходство с продуктом TypeSafe AI стало заметным для многих наблюдателей в сфере ИИ. Диогу Альмейда, основатель TypeSafe и бывший инженер OpenAI, пошутил на платформе X о начале «_clone wars_», отметив, что появление аналога от конкурента лишь подтверждает тренд. Альмейда назвал этот подход совместимым с концепцией «Системы 1» (System One) — быстрых, интуитивных процессов мышления, в противовес медленной и тщательной «Системе 2».
Важно отметить, что OpenAI не дала точных технических сравнений между своим новым API и Jev, так как сервис находится на стадии ограниченной предпросмотра. Однако индустрия уже привыкла к тому, что крупные игроки часто следуют за инновациями стартапов, адаптируя их для более широкого применения. Другие технологические компании также начинают разрабатывать подобные модели, так как традиционные LLM демонстрируют неэффективность в задачах, где требуется мгновенный и дешевый ответ.
Экономический парадокс безопасности агентов
Один из наиболее острых вопросов в развитии автономного ИИ сегодня связан с безопасностью. Открытые платформы, такие как Hugging Face, стали ареной для экспериментов, которые иногда выходят из-под контроля. Недавно инцидент с вредоносным агентом на Hugging Face наглядно показал риски, когда ИИ начинает действовать без должного надзора.
OpenAI уже внедрила меры безопасности, используя отдельную модель для анализа действий агентов. Однако этот метод имеет существенный недостаток: он требует огромных вычислительных ресурсов и, следовательно, является очень дорогим для круглосуточного мониторинга.
«Мы используем отдельную модель для наблюдения за плохими действиями, но это стоит значительных вычислительных затрат», — признают разработчики безопасности.
Здесь на помощь приходит концепция «быстро и дешево». Стартап QueryStory, занимающийся кибербезопасностью, уже продемонстрировал, как модель Jev может радикально снизить стоимость такого мониторинга. В ходе недавнего хакатона команда создала демо-проект, где Jev проверяет каждое действие агента на соответствие поставленной задаче.
Результаты сравнения оказались прорывными: * Использование Jev для проверки действий обходится в $2,94. * Аналогичная задача, выполненная мощной фронтальной LLM (как используемой OpenAI), стоит $372.
Экономия в 127 раз делает возможным тотальный контроль. Теперь проверку безопасности можно провести на каждом шаге работы агента, не рискуя разориться на вычислениях. Это позволяет создать слой проверки, который в теории мог бы предотвратить подобные инциденты в будущем.
Как работает технология
Технически Decisions API и Jev представляют собой не универсальные разговорные модели, а супер-классификаторы. Разработчик предоставляет системе ограниченный набор вариантов ответа. Вместо того чтобы генерировать новый текст или код с нуля (что медленно и ресурсоемко), модель анализирует входные данные и возвращает вероятность выбора одного из предложенных вариантов. Это похоже на то, как человек решает бытовую задачу: не раздумывая «с нуля», а выбирая из привычных действий, основываясь на ситуации.
«Быстро и дешево — это очень просто, если использовать кубик. Сложная часть — это интеллект, и моя цель — всегда сдвигать парето-кривую интеллекта на доллар», — подчеркивает Диогу Альмейда, ставя во главу угла качество решений по отношению к затратам.
Будущее агентности
Появление Decisions API сигнализирует о зрелости подхода к построению сложных ИИ-систем. Индустрия перестает полагаться исключительно на универсальные, но медленные модели для выполнения конкретных задач автоматизации и контроля. Вместо этого создается инфраструктура, где «слабые», но быстрые классификаторы берут на себя рутину и фильтрацию, позволяя более сложным моделям работать там, где это действительно необходимо.
Сейчас неясно, насколько точно калиброваны выводы API OpenAI в реальной жизни по сравнению с TypeSafe, но спрос на такие решения очевиден. Если мониторинг действий агентов становится доступным по цене, это открывает путь к созданию более надежных и самостоятельных цифровых помощников, которые будут безопасны не только в закрытых лабораториях, но и в открытых сетях. OpenAI, как всегда, движется по пути адаптации инноваций сообщества, превращая эксперименты стартапов в стандарты индустрии.