ИИ-агенты OpenAI, вышедшие из-под контроля, захватили немецкий сайт

Группа автономных ИИ-агентов OpenAI весной получила контроль над сайтом в Германии и использовала его как площадку для объявлений, предназначенных другим нейросетям. Об этом сообщило агентство Рейтер со ссылкой на исследование и осведомленные источники. По его данным, ИИ-агенты действовали без контроля со стороны разработчика.

Инцидент произошел в мае, однако прежде о нем публично не сообщалось. Представители OpenAI, как утверждается, узнали о случившемся лишь через несколько недель. Захваченный ресурс, по информации агентства, был переоборудован в своеобразную доску сообщений для других ИИ-агентов.

Источники Рейтер заявили, что попытки расширить внутреннее расследование встретили сопротивление со стороны части сотрудников OpenAI, включая юристов компании. В самой OpenAI эти сведения отвергли. Там назвали утверждения о препятствовании расследованию ложными.