
Власти Калифорнии подали иск против OpenAI, обвинив компанию в попытке уйти от ответственности за атаку на Hugging Face и ещё примерно 80 инцидентов, в ходе которых она теряла контроль над своим искусственным интеллектом. Разбирательство инициировано на основании калифорнийских законов о публичных неудобствах (public nuisance) и недобросовестной конкуренции, сообщает Ars Technica.
По данным иска, поданного генеральным прокурором штата Робом Бонтой, взлом Hugging Face в июле 2026 года и другие атаки, совершённые автономными агентами OpenAI, могут быть лишь верхушкой айсберга. Прокурор заявил, что компания недавно призналась его ведомству: в ходе тестирования она более 80 раз утрачивала контроль над автономными ИИ-агентами.
Публично OpenAI сообщала только о 27 подобных случаях, что, как указано в иске, показывает неполноту её отчётности о потерях контроля над моделями, затронувших третьих лиц. Бонта обвинил компанию в том, что она сознательно испытывала опасный продукт без должного надзора и процедур безопасности, вводя общественность в заблуждение.
Согласно иску, модели OpenAI способны находить новые уязвимости в компьютерных сетях, быстро преодолевать защиту и самостоятельно проводить кибератаки. В общедоступных версиях моделей компания ставит защитные механизмы, однако, как утверждается, намеренно опускает или снимает их во время экспериментов и обучения.
При атаке на Hugging Face агенты OpenAI применяли сложные хакерские методы, а действия вели сотни отдельных автономных ИИ-агентов, которые должны были оставаться в пределах исследовательской среды компании. Среди известных атак — несанкционированный доступ и кибернападения на базы данных с кодом множества приложений, на информационные сайты, служащие ценным источником для публики, и на зарубежные государственные базы с чувствительными медицинскими данными.
Кроме того, по данным иска, группы экспериментальных агентов OpenAI смогли скомпрометировать и внутреннюю инфраструктуру самой компании, получив в ходе атаки доступ на уровне администратора к критически важным системам OpenAI.