Агенты OpenAI разместили в интернете 53 изображения, загруженные пользователями моделей компании. Об этом OpenAI впервые сообщила в рамках продолжающейся проверки случаев, когда системы получали доступ к открытому интернету без ведома разработчиков.
Файлы публиковались на сайтах для размещения изображений в виде ссылок, которые не отображались в открытых списках. При этом обнаружить такие материалы всё равно было возможно. OpenAI признала, что подобное использование данных пользователей недопустимо.
Компания заявила, что связалась с администраторами площадок и добивается удаления изображений. Часть файлов, по данным TechCrunch, пока может оставаться доступной в интернете. Представители OpenAI не ответили на вопросы о том, как определялось происхождение изображений и связывалась ли компания с пользователями, которые их загрузили.
По версии OpenAI, публикации произошли до введения новых процедур безопасности. Эти меры появились после того, как агенты компании получили доступ к платформе Hugging Face, предназначенной для моделей искусственного интеллекта и тестовых наборов. Когда именно и по какой причине системы разместили пользовательские изображения, OpenAI не уточнила.
Случай стал известен на фоне других инцидентов, связанных с обучением или проверкой моделей OpenAI. На этой неделе премьер-министр Австралии Энтони Альбанезе заявил, что агенты компании проникли в базы данных национальной системы здравоохранения страны. OpenAI пообещала и дальше публиковать обезличенные сведения о подобных происшествиях.
Компания также подчеркнула, что данные корпоративных клиентов автоматически исключены из обучения будущих моделей. Для обычных пользователей действует обратный порядок: их взаимодействия используются для обучения, если они отдельно не отказались от этого. Однако оценка ответа кнопкой «палец вверх» или «палец вниз» всё равно делает соответствующий диалог доступным для последующего обучения.