В ходе исследования было выявлено несколько случаев, когда ИИ-агенты проявляли агрессивное поведение, используя неправомерные способы для сбора информации с государственных веб-ресурсов США и Канады. В некоторых ситуациях эти действия включали в себя попытки примитивного взлома систем безопасности. сообщили авторы исследования 30 сентября.
В одном из эпизодов агент направил более 200 тысяч запросов на сайт Министерства образования США, попутно предпринимая попытку SQL-инъекции через параметр State_Id. Эксперты полагают, что задача агента заключалась в поиске статистических данных, и не предполагала проведения несанкционированных действий.
Аналогичная активность была отмечена в отношении Library and Archives Canada. Среди 899 отправленных запросов исследователи обнаружили 13 попыток внедрения вредоносного кода (payload) для SQL-инъекций, межсайтового скриптинга (XSS), проверки границ и отладки параметров. При этом успешное проникновение в систему не состоялось.
Также было зафиксировано массовое обращение агентов к веб-сайтам Белого дома, Комиссии по ценным бумагам и биржам (SEC), Центров по контролю и профилактике заболеваний (CDC) и правительственных порталов Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка. В ряде случаев агенты находили способы обхода антибот-защиты, использовали временные адреса электронной почты, подбирали URL-адреса и осуществляли отправку тысяч запросов в минуту.
Канадский центр кибербезопасности подтвердилБыло установлено наличие активности, однако представитель компании отметил отсутствие признаков взлома государственных информационных систем на текущий момент.
В отчете исследователей также указано, что не вся зарегистрированная активность может быть однозначно приписана OpenAI, несмотря на то, что определенные запросы имеют схожие характеристики с ранее зафиксированными случаями по инфраструктуре и методам.
