Искусственный интеллект Gemini получил несанкционированный доступ к ресурсам трех организаций в ходе плановой оценки кибервозможностей. Система действовала автономно и использовала подключение к интернету.
Тест в мае проводила независимая фирма Irregular. Модель ошибочно решила, что три внешних сайта входят в границы задания, после чего нашла общедоступную информацию и попыталась применить учетные данные.
Для одной защищенной площадки Gemini перебирала пароли до успешного входа. Еще в двух случаях необходимые реквизиты оказались в открытом репозитории.
Google уведомила три организации и вместе с подрядчиком скорректировала методику испытаний. Хизер Адкинс, отвечающая в компании за инженерную безопасность, подчеркнула необходимость обучать мощные модели ответственному поведению.
После входа во все три системы ИИ прекратил дальнейшие действия. По сообщению Reuters, Irregular считает проблему решенной и работает над правилами безопасной проверки агентов, имеющих доступ к компьютерным системам.