American Express представила фреймворк для защиты от ошибок ИИ-агентов

Защита от непредсказуемости больших языковых моделей

Персональные ИИ-агенты все чаще проводят транзакции от имени пользователей, однако из-за недетерминированной природы больших языковых моделей они склонны совершать непредвиденные действия. Это создает риск того, что боты могут ошибиться и провести неавторизованный платеж. Чтобы предотвратить подобные ситуации, American Express разработала специальный инструмент для фиксации и аутентификации намерений клиентов до завершения сделки.

Как пояснила вице-президент Amex по партнерствам и стратегии в сфере агентской торговли Ханна Бозиан, цель компании заключается в том, чтобы сделать такие операции бесшовными, надежными и безопасными. Новый фреймворк дополняет инструментарий разработчика ACE Developer Toolkit, запущенный в апреле. Решение должно охватить всю цепочку взаимодействия, начиная с первоначального запроса.

Как работает Create Intent API и токены безопасности

Новая система начинается с интерфейса Create Intent API, который фиксирует инструкции покупателя и заданные им ограничения. В число таких параметров могут входить имя продавца, максимальный бюджет и предпочтения к товару. Сбор намерений может отличаться в зависимости от используемой языковой модели, но фреймворк создается универсальным для поддержки разных платформ.

После подтверждения клиентом своей личности и параметров покупки система генерирует уникальный идентификатор Intent ID и токен Proof of Intent Token. Вместо передачи реального номера банковской карты агент использует на этапе оформления заказа безопасные цифровые платежные данные. Это позволяет проводить оплату в строгом соответствии с исходным заданием пользователя.

Предотвращение ошибок на этапе выбора товаров

Главное отличие подхода American Express заключается в том, что проверка намерений происходит на более раннем этапе цепочки транзакции, что помогает снизить риски до их возникновения. Ханна Бозиан привела в пример ситуацию, когда пользователь просит купить белые кроссовки Nike девятого размера, а агент ошибочно оформляет заказ у Adidas. В таком случае система заблокирует операцию из-за несоответствия параметров.

В компании отмечают, что хотя многие агенты запрашивают согласие перед покупкой, в будущем они могут действовать более автономно. Например, при заказе повседневных товаров вроде туалетной бумаги или бумажных полотенец, где ключевым фактором является только цена и размер, дополнительный автоматический контроль гарантирует соблюдение инструкций. Кроме того, наличие журнала авторизованных действий помогает бороться с мошенничеством и решать спорные вопросы.

Контекст и планы по внедрению технологии

Выпуск фреймворка опирается на результаты исследования Amex Trendex, согласно которому 66% опрошенных пользователей из США готовы использовать ИИ-агентов для поиска лучших цен. Еще 61% респондентов планируют применять ботов для получения рекомендаций по продуктам и услугам в течение следующих 12 месяцев. Хотя компания пока не фиксирует роста числа споров из-за агентской торговли, технология создается с расчетом на масштабирование этого рынка.

American Express уже ведет переговоры с партнерами по всей платежной экосистеме о внедрении инструментов ACE, включающих платежные учетные данные и токены. Компания намерена и дальше развивать данное направление по мере эволюции экосистемы. Подробную презентацию технологии Ханна Бозиан представит 13 октября 2026 года на сцене TechCrunch Disrupt.

Что это значит для пользователей

• Полезно тем, кто планирует использовать ИИ-агентов для автоматического поиска товаров, сравнения цен и совершения покупок в интернете.
• Доступность и цена: American Express пока не сообщила информацию о стоимости или условиях предоставления фреймворка для конечных пользователей.
• Ограничения и безопасность: технология призвана снизить риск ошибочных покупок, подменяя реальный номер карты защищенным цифровым токеном с жесткими лимитами по бюджету и параметрам товара.
• Что это меняет: система переносит проверку намерений на самый ранний этап до совершения платежа, что отличает подход Amex от стандартных методов подтверждения операций у конкурентов.

Источник: techcrunch.com

• American Express
• ИИ-агенты
• безопасность
• финансы
• API

Обсудить в Telegram