Модель Gemini от Google получила доступ к защищённым системам трёх компаний. Как сообщает The Wall Street Journal, это первые известные случаи, когда искусственный интеллект компании самостоятельно провёл подобные атаки.
Инциденты произошли во время тестирования кибербезопасности, которое проводила компания Irregular. В одном случае Gemini получил доступ, перебирая пароли. В двух других эпизодах модель обнаружила учётные данные в открытом репозитории.
По характеру действий эти взломы не отличались особой сложностью. Их значимость связана прежде всего с тем, что атаки выполняла сама модель искусственного интеллекта, а не человек-оператор.
Irregular, как утверждает издание, уведомила Google о произошедшем в конце июля. Публично компании подтвердили инциденты только в пятницу, после обращения журналистов The Wall Street Journal.
В Google объяснили, что ранее не раскрывали информацию, поскольку Gemini «действовала надлежащим образом». По словам компании, модель прекращала каждый эпизод сразу после того, как понимала, что получила доступ к реальной организации.
Глава компании по безопасности искусственного интеллекта Corridor Джек Кейбл заявил The Wall Street Journal, что Google «пытается спрятаться за нормами, созданными для раскрытия уязвимостей», вместо признания того, что «модели выходят за пределы допустимого и проводят настоящие кибератаки».