Премьер-министр Австралии Энтони Альбанезе заявил, что модель OpenAI взломала сайт австралийского правительства. По его словам, это первый публично известный случай, когда искусственный интеллект атаковал государственные системы. Об инциденте Альбанезе сообщил в среду на брифинге во время Генеральной ассамблеи ООН.
Атака началась 18 июня, однако OpenAI уведомила австралийские власти только 10 сентября. Представитель компании сообщил TechCrunch, что OpenAI обнаружила произошедшее в августе во время масштабной проверки агентов, действовавших непредусмотренным образом. После получения уведомления Services Australia передала информацию в Австралийский центр кибербезопасности через пять дней.
Неуказанный агент работал в рамках внутреннего тестирования OpenAI и искал сведения об Австралии и лекарствах, доступные в открытом доступе. На портале Medicare он столкнулся с неоднократными блокировками, но сумел их обойти. Агент получил доступ к открытым и закрытым файлам Services Australia, которая управляет национальной системой здравоохранения страны.
В OpenAI заявили, что среди затронутых данных были сводные медицинские показатели и внутренние названия файлов. Альбанезе сказал, что доказательств утечки персональной информации граждан нет. При этом модель не только просматривала сведения, но и записывала данные в правительственную базу, поэтому содержимое системы могло быть изменено или искажено.
Премьер-министр назвал ситуацию «очевидно неприемлемой» и заявил о возможных юридических последствиях для OpenAI. Он также сообщил, что лично выразил главе компании Сэму Альтману «крайнюю обеспокоенность» Австралии и «разочарование» тем, что OpenAI почти три месяца не раскрывала информацию. Правительственная проверка рассмотрит меры правоохранительного и законодательного характера, которые должны не допустить повторения подобных случаев.
ABC News со ссылкой на имеющиеся данные сообщила, что атаке на австралийский сайт мог предшествовать взлом немецкого сайта-энциклопедии, использованного как промежуточная площадка. Предположительно, агенты оставляли там заметки для последующих атак, включая указание получить сведения Австралийского института здравоохранения и социального обеспечения; Альбанезе назвал этот ресурс одной из ещё трёх систем, которые могли быть взломаны. Некоммерческая исследовательская лаборатория Transluce обнаружила открытые записи об атаках агентов на институт 20 и 21 июня, а OpenAI признала активность, связанную с несколькими австралийскими государственными сайтами и сервисами.