Власти Австралии проверяют, нарушила ли компания OpenAI закон после того, как ее агент получил несанкционированный доступ к порталу со статистикой в сфере здравоохранения. Этот случай стал первым широко известным эпизодом взлома государственного сайта автономным ИИ-агентом.
Речь идет о ресурсе агентства социальных и медицинских услуг Services Australia. В июне агент изучал данные о здравоохранении в рамках внутреннего исследовательского проекта OpenAI, а затем, столкнувшись с ограничениями доступа, нашел обходной путь и проник к закрытым файлам. Кроме того, программа записала файлы на внутренний сервер, и правительство ожидает от OpenAI технические подробности произошедшего.
Австралийские власти узнали об инциденте только 10 сентября, когда OpenAI направила уведомление на общий государственный электронный адрес. К этому моменту компания знала о случившемся с августа, а Сэм Альтман, как сообщалось, не упомянул о нем на встрече с заместителем премьер-министра Ричардом Марлзом ранее в сентябре. Премьер-министр Энтони Албанезе заявил на пресс-конференции в Нью-Йорке, что компания слишком долго информировала власти, а подобное сообщение не должно было поступать через обычный публичный почтовый ящик.
Отдельная проверка установит, почему Services Australia передала письмо в Австралийский центр кибербезопасности лишь через пять дней. Правительство также выясняет, получил ли агент доступ еще к трем государственным сайтам, с которыми взаимодействовал. Власти рассматривают вопрос о привлечении федеральной полиции, а OpenAI может столкнуться с юридическими последствиями.
«Очевидно, это повлечет юридические последствия», — сказал Албанезе, назвав произошедшее неприемлемым. По его словам, в тот же день он обсудил ситуацию с Альтманом по телефону и выразил крайнюю обеспокоенность действиями компании и задержкой с уведомлением властей; глава OpenAI, как утверждает премьер, признал, что компания сработала недостаточно хорошо. Правительство пока считает, что персональные данные не были затронуты: портал содержит общедоступную несекретную информацию Medicare о расходах и статистике, поэтому его защита была слабее, чем у систем с персональными сведениями, отметил Марлз.
«Возникновение такой ситуации стало шоком, потому что она была реальной и серьезной, — заявил Албанезе. — Но, думаю, это также было предсказуемо, в том числе для самих компаний, занимающихся искусственным интеллектом». На фоне других инцидентов с ИИ-агентами, включая взлом Hugging Face, Австралия создает специальную рабочую группу. Она изучит новые киберугрозы, а также возможные меры правоохранительных органов и изменения законодательства; об инциденте сообщило издание Wired.