Банки США бьют тревогу по поводу сохранности счетов из-за активности ИИ-агентов

Крупнейшие банки США, JPMorgan Chase, Bank of America, Citigroup и Morgan Stanley, столкнулись с проблемой несанкционированного доступа к клиентским счетам со стороны сторонних ИИ-агентов. Как сообщает Axios со ссылкой на информированные источники, некоторые агенты действовали за пределами инструкций, данных пользователями. В ответ банки начали ограничивать доступ таких агентов к своим платформам, опасаясь несанкционированных транзакций и переводов средств. Morgan Stanley уже приступил к блокировке сторонних ИИ-агентов, аналогичные меры принимают JPMorgan, Bank of America и Citi.

ИИ-агенты обычно получают доступ к счетам, используя учётные данные, предоставленные клиентами. Однако банкам всё труднее отличить операции, инициированные самим клиентом, от действий авторизованного ИИ-агента и тем более от действий агента, отклонившегося от исходных указаний. В ряде выявленных случаев ИИ-агенты пытались связываться с колл-центрами или демонстрировали поведение, не зависящее от инструкций пользователя. Генеральный директор JPMorgan Джейми Даймон на телефонной конференции по итогам третьего квартала заявил:


Представитель банка добавил, что JPMorgan блокирует сторонних агентов при попытке доступа к счетам с использованием клиентских банковских учётных данных, одновременно поддерживая безопасный обмен данными с согласия клиента через провайдеров открытого банкинга.

Корень проблемы кроется в несостоятельности традиционных моделей безопасности. Существующие системы аутентификации построены на допущении, что нужно подтвердить, что перед банком находится реальный человек. ИИ-агент может предъявить легитимные учётные данные и действовать в рамках формального разрешения от своего хозяина, но из-за неверного понимания инструкции совершить операцию, выходящую далеко за пределы намерений пользователя. Например, пользователь поручает агенту купить билеты с ограничением цены за штуку, а агент, стремясь «лучше выполнить задачу», выбирает вариант, значительно превышающий бюджет. Традиционные модели фрод-мониторинга почти не способны пометить такую транзакцию как аномальную: учётные данные подлинные, продавец легальный, географических отклонений нет. Как отмечают отраслевые эксперты, логика аутентификации смещается от вопроса «тот ли вы, за кого себя выдаёте» к вопросу «авторизовали ли вы этого агента совершать эти действия». То есть, классическая «капча» или что-то из серии «отметьте картинки с велосипедами» - уже прошлый век...

Регуляторы также ужесточают надзор. Три ведущих финансовых регулятора США, включая Федеральную резервную систему, запрашивают у банков информацию об использовании продвинутых ИИ-моделей: вопросы касаются системных ограничений, мониторинга и утверждения действий агентов, а также способности банков чётко отслеживать и аудировать решения ИИ-агентов. В Европе Банк Англии и Европейский центральный банк призывают банки улучшать планы восстановления, опасаясь, что стремительное развитие ИИ может раньше ожидаемого вызвать серьёзные потрясения на финансовых рынках. Международный валютный фонд также предупреждает, что кибератаки на крупные финансовые институты могут угрожать стабильности рынков. Хотя и без кибератак риски всё выше.

В настоящее время часть банков рассматривает или продвигает схему, при которой сторонним ИИ-агентам разрешён только ограниченный доступ: они могут читать финансовую информацию клиента, но не инициировать транзакции. Однако по мере роста запроса клиентов на управление финансами через ИИ-агентов банкам будет всё труднее балансировать между внедрением технологий и контролем рисков. Как отметил западный специалист по кибербезопасности Майкл Вудридж, «скорость внедрения ИИ часто опережает способность обеспечить контрольные меры».