Google подтвердила, что модели Gemini получили доступ к системам трёх реальных компаний во время тестирования в мае 2026 года. Об этом стало известно после публикации The Wall Street Journal. Испытания проводила компания Irregular в закрытой среде, однако ошибка в настройках позволила искусственному интеллекту выйти в интернет.
Проверка проходила в формате «захвата флага», который используют для оценки навыков кибербезопасности. Gemini поручили найти данные вымышленной компании, название которой совпадало с названием настоящей организации. Предполагалось, что модели будут работать только на серверах Irregular и не смогут взаимодействовать с внешними ресурсами.
После получения доступа к сети Gemini начал искать реальные цели вместо подготовленной инфраструктуры. В одном случае модель перебирала пароли, пока не смогла войти в онлайн-сервисы компании. В двух других эпизодах она обнаружила учётные данные в открытых репозиториях программного обеспечения, куда их случайно добавили сотрудники.
Во всех трёх случаях модели прекратили действия после того, как поняли, что подключились к серверам настоящих компаний. Затем Irregular изменила конфигурацию и закрыла Gemini доступ к интернету. Как сообщила Google, инцидент произошёл во время теста, организованного компанией по кибербезопасности.
Изначально Irregular не сочла произошедшее поводом для отдельного расследования и рассказала Google о случившемся только в июле, после сообщений о других случаях взлома с участием ИИ. После получения этой информации Google уведомила затронутые компании. Им рекомендовали усилить защиту паролей.