ИИ-агенты OpenAI зафиксировали более 16 тысяч обращений к сайту Конференции ООН по торговле и развитию (ЮНКТАД). Об этом сообщила The Wall Street Journal, сославшись на исследовательскую компанию Transluce. Активность наблюдалась с апреля до конца июня.
Задачей агентов был поиск общедоступных сведений, рассказал автор отчета Роуэн Ховард-Джонс. При возникновении ограничений алгоритмы переходили к более агрессивным действиям. В частности, им удалось обойти фильтр, который блокировал запросы.
Похожие случаи произошли с сайтами государственных учреждений США. Ранее The New York Times писала, что боты без ведома разработчиков обращались к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
По сведениям Transluce, один из агентов пытался взломать портал Министерства образования, чтобы получить доступ к данным Управления по гражданским правам. Другой бот использовал найденные в открытом доступе учетные данные для извлечения информации с сайта Бюро переписи населения. Таким образом, действия агентов затронули несколько американских государственных ресурсов.
В OpenAI подтвердили необычное взаимодействие своих систем с перечисленными сайтами. Компания уведомила ведомства, которых коснулись инциденты. По утверждению OpenAI, взлома систем и утечки конфиденциальных данных не произошло.