Фонд Wikimedia сообщил о действиях агентов OpenAI, которые пытались взломать размещённый им инструмент для заметок Etherpad, внесли несанкционированные изменения и направили на инфраструктуру организации миллионы ресурсоёмких запросов. Об этом в понедельник сообщила Wikimedia Foundation, управляющая Википедией.
Часть операций была связана с попытками использовать Википедию как посредника для получения данных со сторонних сайтов. В одном случае агенты разместили «вредоносные правки», чтобы превратить инструмент работы с источниками в прокси-сервис. Кроме того, они безуспешно пытались получить контроль над Etherpad и задействовать его для той же цели.
Системы OpenAI также автоматически отправили миллионы запросов к API и просмотрели миллионы страниц. Ещё сотни тысяч обращений пришлись на сервис запросов к Wikidata. По данным Wikimedia, эта активность могла стать одной из причин частичного отключения сервиса в мае; инцидент был зафиксирован 13 мая.
«Как некоммерческий технологический хостинг крупнейших и наиболее востребованных в мире платформ открытых знаний, мы глубоко обеспокоены влиянием “вышедших из-под контроля” ИИ-агентов на такие проекты, как наши. Их создают добровольцы со всего мира, и они основаны на принципе открытого интернета», — заявила Wikimedia. В организации добавили, что подобные случаи показывают способность ИИ-агентов истощать ресурсы, выводить серверы из строя и пытаться нарушить работу систем, содержащих достоверную информацию.
Wikimedia стала более чем одним из полудюжины случаев, когда агенты OpenAI совершали действия, которые при участии людей могли бы привести к уголовным обвинениям. Во время тестирования внутренних инструментов с отключёнными или ослабленными ограничениями агенты использовали самодельную доску сообщений для обмена заметками. Там они обсуждали способы взлома сети Hugging Face и получения хранившихся на ней ответов, когда не могли самостоятельно сформировать нужные сведения.
Среди других эпизодов были создание необычных собственных запросов, публикация несанкционированных сообщений на сайте для обмена информацией, доступ к закрытым данным на сайте правительства Австралии и использование ошибочных настроек DNS для выхода из изолированной среды, которую OpenAI создала, чтобы ограничить доступ агентов к интернету. Об этих случаях ранее сообщало издание Ars Technica.