American Express представляет фреймворк для предотвращения несанкционированных покупок ИИ-агентами
В ответ на растущие риски, связанные с автономным поведением искусственного интеллекта, American Express запускает новую систему аутентификации намерений. Данная технология призвана гарантировать, что любые транзакции, инициируемые ИИ-ботами, строго соответствуют заранее утверченным пользователем инструкциям, минимизируя ошибки и финансовые споры.
# American Express внедряет протокол контроля намерений для безопасного взаимодействия с ИИ
Рынок автономного ИИ стремительно развивается. Программные агенты, способные самостоятельно совершать покупки и управлять услугами, переходят из стадии экспериментов в фазу массового внедрения. Однако за этой эффективностью скрывается существенный риск: неопределённость природы больших языковых моделей может привести к тому, что агент совершит действие, не являющееся частью исходной команды пользователя.
Чтобы решить эту проблему и обеспечить доверие пользователей к новым технологиям, American Express представила индустриальный стандарт под названием «Фреймворк интеллекта намерений» (Intent Intelligence Framework). Цель системы — создать непрерывный цикл аутентификации, где каждый шаг транзакции проверяется на соответствие изначальному запросу клиента.
Как работает система контроля намерений
Ключевая идея нового подхода заключается в том, что процесс утверждения покупки должен начинаться до фактического списания средств и сопровождать агента на всём протяжении операции.
Техническая реализация процесса выглядит следующим образом:
1. Фиксация намерений: При взаимодействии с пользователем агент через API собирает детальные инструкции: название продавца, максимальный бюджет, конкретные характеристики товара. Этот этап фиксирует контекст желания клиента. 2. Аутентификация и подпись: Пользователь подтверждает свою личность и подписывает полученные инструкции. Это действие превращает абстрактный запрос в юридически значимое намерение. 3. Генерация уникальных идентификаторов: На основе подписанного запроса создаётся уникальный идентификатор намерения (Intent ID) и токен доказательства намерения (Proof of Intent Token). Токен содержит высокоразрешающие данные о бюджете и предпочтениях, но не включает прямой номер кредитной карты. 4. Транзакция с использованием токена: Вместо номера карты агент использует цифровые платежные реквизиты, привязанные к токену. В точке покупки система проверяет, совпадают ли детали сделки с параметрами, заложенными в токен.
Этот механизм позволяет отсеивать ошибки до завершения оплаты. Например, если пользователь дал команду купить белые кроссовки размера 9, а агент попытается оформить заказ на ботинки от другого бренда или другой цвет, система мгновенно заблокирует транзакцию, так как данные не будут соответствовать утвержденному токену.
Что такое намерение агента?
В контексте ИИ-агентов «намерение» — это формализованная версия запроса пользователя, которая включает не только целевое действие (например, «купить кофе»), но и жесткие ограничения (бюджет, марка, сроки). В отличие от простого согласия, которое может быть дано разово, фреймворк Amex требует, чтобы эти ограничения оставались валидными на каждом этапе сложной цепочки действий, которые агент может предпринять для выполнения задачи.
Статистика и планы развития
Согласно последнему отчету Trendex от American Express, спрос на агентную коммерцию высок: 66% опрошенных американских потребителей готовы использовать ИИ для поиска лучших цен, а 61% планируют рекомендовать такие сервисы другим людям в течение следующих 12 месяцев.
Несмотря на активный интерес рынка, компания пока не фиксирует роста числа споров, связанных с ошибками агентов. Однако руководство считает необходимым быть проактивным. В ближайшем будущем ожидается появление более автономных агентов, способных самостоятельно заказывать бытовые товары вроде туалетной бумаги или бумаги для принтера. В таких сценариях главное ограничение — цена и размер, но даже здесь человеческий контроль необходим для предотвращения мошенничества или технических сбоев.
Генеральный директор партнерств по агентным стратегиям American Express Ханна Бозиан (Hannah Bozian) подчеркивает, что их подход отличается от других решений, так как он внедряет проверку намерений на самом раннем этапе, еще до возникновения риска.
Сейчас Amex активно обсуждает внедрение своей системы ACE (Agentic Commerce Experiences) с партнерами по экосистеме платежей. Ожидается, что этот стандарт станет обязательным условием для безопасного развития индустрии искусственного интеллекта.