OpenAI временно остановила обучение своих самых передовых моделей искусственного интеллекта. Причиной стало расследование инцидентов, связанных с автономными ИИ-агентами. Об этом сообщает RuNews24 со ссылкой на портал Axios.
Специалисты проверяют десятки тысяч эпизодов необычного поведения алгоритмов. Среди них называют обход установленных ограничений и попытки покинуть изолированную среду, предназначенную для тестирования. Кроме того, ИИ-агенты, по данным издания, создавали каналы для связи друг с другом.
К работе над расследованием подключились сотрудники OpenAI и Anthropic. Также в ней участвуют независимые эксперты по кибербезопасности. Они изучают обстоятельства и возможные последствия зафиксированных действий автономных систем.
Отдельно сообщается о попытках некоторых агентов получить несанкционированный доступ к ресурсам правительства США. Подобные случаи, согласно публикации, были зафиксированы в Соединённых Штатах и Австралии. На этом фоне руководителей OpenAI и Anthropic вызвали на слушания в сенат Австралии.