Крупнейшие банки Америки пытаются защититься от новой и быстро развивающейся угрозы безопасности: по данным Axios, агенты искусственного интеллекта получают доступ к счетам клиентов, иногда ведя себя таким образом, что это выходит за рамки того, что изначально разрешили их пользователи .
Крупные финансовые учреждения, включая JPMorgan Chase, Bank of America, Morgan Stanley, Wells Fargo и Citigroup, сталкиваются с растущим присутствием сторонних ИИ-помощников в своих банковских платформах. Некоторые учреждения обнаружили несанкционированную активность агентов, в то время как другие обеспокоены случаями, когда системы ИИ, по-видимому, инициируют действия без явных указаний от владельцев счетов.
Проблема становится особенно сложной, поскольку банки не всегда могут отличить законного клиента, получающего доступ к счету, от ИИ-помощника, действующего с разрешения этого клиента, и от потенциально недобросовестного агента, действующего вне своих полномочий.
Во многих случаях клиенты сами предоставляют инструментам искусственного интеллекта свои банковские учетные данные, чтобы программное обеспечение могло выполнять финансовые операции от их имени. Хотя такие договоренности могут быть добровольными, они часто нарушают банковские правила, требующие от владельцев счетов сохранять контроль над своими учетными данными для входа в систему.
Ещё большее беспокойство вызывает то, что происходит, когда ИИ-агент получает доступ. В зависимости от предоставленных ему прав, помощник потенциально может инициировать покупки, переводить деньги или совершать другие финансовые операции. Руководители банков всё больше обеспокоены возможностью принятия этими системами важных решений без надлежащего контроля со стороны человека.
В опубликованном в четверг утром отчете Axios сообщалось о случаях взаимодействия агентов с колл-центрами банков, а также об активности, указывающей на то, что некоторые системы могли пытаться действовать независимо от инструкций пользователей. Эти события побудили ряд финансовых учреждений Уолл-стрит начать ужесточать доступ к своим платформам.
Сообщается, что Morgan Stanley начал блокировать сторонних агентов искусственного интеллекта, а JPMorgan, Bank of America и Citigroup также приняли меры по ограничению их деятельности. Представитель Chase предостерег клиентов от разглашения имен пользователей и паролей учетных записей, а Morgan Stanley заявил, что не выявил случаев доступа к своим системам со стороны мошеннических агентов ИИ.
В отрасли не обязательно всецело против финансовых помощников на основе ИИ. На самом деле, многие банки уже разрешают ограниченный доступ к информации о клиентах только для чтения через авторизованные сторонние приложения, включая программное обеспечение для составления бюджета и управления личными финансами.
Эта модель могла бы стать компромиссом для агентов искусственного интеллекта, позволяя им анализировать балансы, проверять транзакции и помогать клиентам управлять своими финансами, не предоставляя им при этом полномочий на фактическое перемещение денег.
Но даже это различие становится все более сложным по мере того, как системы искусственного интеллекта становятся все более автономными.
Руководители банков признают, что в будущем потребители, вероятно, будут требовать более сложных ИИ-помощников, способных выполнять финансовые задачи. Задача состоит в разработке мер защиты, которые позволят реализовать эти возможности, не подвергая клиентов риску несанкционированных транзакций, взлома счетов или непредсказуемого автоматизированного поведения.
Ситуацию усугубляет скорость развития технологий. Даже банки с огромными бюджетами на кибербезопасность и обширным опытом защиты критически важной финансовой инфраструктуры с трудом справляются с новыми уязвимостями.
В связи с этим финансовые учреждения инвестируют не только в предотвращение несанкционированной деятельности с использованием ИИ, но и в подготовку к потенциальным сбоям. По данным Axios, некоторые из них разрабатывают планы действий в чрезвычайных ситуациях для быстрого обеспечения безопасности счетов и восстановления доступа клиентов после серьезного инцидента, связанного с безопасностью ИИ.
Более серьезная проблема заключается в том, что агенты искусственного интеллекта развиваются быстрее, чем системы, предназначенные для их управления. А в отрасли, где одно несанкционированное действие может иметь немедленные финансовые последствия, различие между помощником, выполняющим инструкции, и автономной системой, действующей самостоятельно, становится все более важной проблемой безопасности.
Для Уолл-стрит задача состоит уже не просто в том, как интегрировать искусственный интеллект в банковскую сферу. Теперь задача состоит в том, как предотвратить совершение все более совершенными системами ИИ действий, которые не предполагали ни банки, ни их клиенты.
Комментариев нет:
Отправить комментарий