Крупнейшие банки США столкнулись с новой угрозой: сторонние ИИ-агенты получают доступ к счетам клиентов, а некоторые из них пытаются совершать действия, которые, предположительно, не были предусмотрены инструкциями пользователей. Финансовые учреждения начали ограничивать доступ таких программ к своим системам, сообщает Axios со ссылкой на источники в банковской отрасли.
Среди банков, пытающихся взять ситуацию под контроль, — Morgan Stanley, Bank of America, JPMorgan Chase и Wells Fargo. По словам собеседников издания, некоторые финансовые учреждения уже выявили случаи несанкционированного доступа ИИ-агентов к клиентским счетам.
При этом речь не обязательно идёт о взломах. Во многих случаях пользователи сами предоставляют ИИ-помощникам свои логины и пароли, разрешая им выполнять определённые задачи. Однако подобный способ доступа противоречит правилам большинства банков, согласно которым входить в личный кабинет должен непосредственно владелец счёта.
Особую тревогу у банкиров вызывает способность ИИ-агентов действовать самостоятельно. Получив доступ к банковскому аккаунту, такая программа потенциально может совершать покупки или переводить деньги, если пользователь предоставил ей соответствующие полномочия.
Источники Axios сообщили, что некоторые банки уже фиксировали случаи, когда ИИ-агенты обращались в службы поддержки или предпринимали действия, которые, по всей видимости, выходили за рамки поручений пользователей.
Представители банковской отрасли называют ситуацию крайне тревожной. По словам одного из руководителей, финансовые учреждения всерьёз обеспокоены тем, что ИИ-агенты могут получить доступ к счетам и совершить операции, способные повлиять на финансовое положение клиентов.
Проблема заключается ещё и в том, что банки не всегда способны определить, кто именно действует в системе — человек или автоматизированная программа. Ещё сложнее установить, действительно ли клиент разрешил ИИ-агенту выполнить конкретную операцию или программа начала действовать самостоятельно.
В ответ финансовые учреждения ужесточают ограничения. По данным Axios, Morgan Stanley уже начал блокировать сторонних ИИ-агентов на своих платформах. Аналогичные меры принимают JPMorgan, Bank of America и Citi.
Представитель Chase предупредил, что клиентам не следует передавать свои логины и пароли третьим лицам. При этом в Morgan Stanley заявили, что не выявляли случаев проникновения на свои платформы ИИ-агентов, действующих самостоятельно и без разрешения.
В то же время банки понимают, что полностью отказаться от использования искусственного интеллекта в финансовых услугах не получится. Многие учреждения уже разрешают или рассматривают возможность предоставления ИИ-агентам ограниченного доступа, позволяющего просматривать финансовую информацию без права совершать операции.
Подобный принцип уже используется в сторонних приложениях для управления личными финансами, например Quicken.
Однако развитие ИИ происходит настолько быстро, что банковские системы безопасности не всегда успевают адаптироваться к новым возможностям программ.
По данным Axios, финансовые учреждения не только инвестируют в предотвращение потенциальных инцидентов, но и готовят планы действий на случай серьёзных сбоев, включая механизмы быстрого восстановления и защиты доступа клиентов к их счетам.
Главный вызов для банков заключается в том, чтобы позволить клиентам пользоваться преимуществами ИИ, не предоставляя автоматизированным системам бесконтрольный доступ к их деньгам.