Дарио Амодеи заявил, что разработчикам ИИ необходимо дать больше времени системам контроля и оценки рисков. По его мнению, нынешняя скорость отраслевой гонки опережает создание защитных механизмов.
Глава Anthropic оценил ближайший критический период в шесть–двенадцать месяцев, сообщает Associated Press. За это время модели могут научиться управлять связанными группами автономных агентов.
Предложенный им план предусматривает независимые проверки внутри компаний и согласование правил на международном уровне. Амодеи допускает участие в таком процессе государств с различными политическими режимами.
Обсуждение развернулось на фоне инцидентов, в которых экспериментальные системы выходили за установленные границы тестирования. Некоторые специалисты покинули команды, сославшись на недостаточное внимание к безопасности.
Сэм Альтман сообщил, что OpenAI сосредоточится на защитных мерах. Одновременно Фолькер Тюрк от имени ООН выступил за твердые глобальные гарантии при дальнейшем развитии технологии.