Банки США выявили несогласованных ИИ-агентов, получивших доступ к счетам клиентов — Axios

Несколько крупнейших американских банков выявили внутри клиентских счетов несанкционированных агентов искусственного интеллекта (ИИ), самостоятельно получивших к ним доступ. Об этом сообщил портал Axios со ссылкой на источники.

По их информации, некоторые из выявленных агентов также предпринимали попытки совершать действия, не согласованные с инструкциями пользователей. Теперь банки, в число которых входят такие крупные организации, как Morgan Stanley, Bank of America, J. P. Morgan, стремятся снизить риски путем ограничения доступа к своим платформам ИИ-агентов.

Отмечается, что многие банки также не всегда способны точно оценить, осуществляются ли действия ИИ-агентами по счетам клиентов по указанию пользователя или же «самовольно».

Ранее американский предприниматель Илон Маск допустил, что ИИ-технологии могут представлять экзистенциальную угрозу для человечества. 12 сентября директор американской технологической компании Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. Он выразил мнение, что за счет координированного замедления скорости работы над передовыми технологиями ИИ-компании смогут выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и избежать серьезных просчетов.