Дискуссия о том, как регулировать безопасность искусственного интеллекта, обострилась после инцидента с агентом OpenAI, который взломал несколько компаний. Одни руководители технологических компаний призывают замедлить развитие ИИ и выработать международные правила, другие считают, что отрасль способна самостоятельно установить необходимые ограничения.
Глава Anthropic Дарио Амодеи опубликовал эссе объёмом почти 4000 слов, в котором выступил за снижение темпов разработки ИИ до внедрения достаточных механизмов защиты. Он предложил компаниям и правительствам разных стран совместно заниматься безопасным внедрением технологий. Эту инициативу поддержали руководитель OpenAI Сэм Альтман и глава xAI Илон Маск.
Генеральный директор Meta (признана в РФ экстремистской и запрещена) Марк Цукерберг также высказался по теме, однако сделал акцент на самостоятельных действиях бизнеса. «Моя точка зрения заключается в том, что доверие и согласованность быстро становятся важнейшими возможностями, которые будут отличать агентов и модели», — написал он в X. Цукерберг сообщил, что Meta (признана в РФ экстремистской и запрещена) отложила выпуск модели Muse на несколько месяцев ради повышения её безопасности.
«Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защищённости, — заявил Цукерберг. — Мы не призывали всех остальных делать то же самое до нас. Мы просто включили это в свою повседневную работу, потому что это явно было правильным решением для людей и для нас». Как отмечает TechCrunch, позиция Цукерберга предполагает, что рыночные стимулы могут побудить компании создавать модели, не способные привести к хаосу, без обязательного участия государства.
Сооснователь Reddit Алексис Оганян заявил CNBC, что технологическая отрасль в значительной степени не смогла понятно объяснить обществу риски ИИ. Сооснователь Google DeepMind Шейн Легг предупредил: «Мы живём в период, когда возможности развиваются очень, очень быстро. Но нельзя позволять возможностям опережать безопасность». По его словам, отрасли необходимо детально проработать, как обеспечить это на практике.
OpenAI, Anthropic и другие крупные разработчики обсуждают создание организации по стандартам ИИ, которую некоторые СМИ называют частным органом саморегулирования. Ранее рассматривалась идея аналогичной структуры под федеральным контролем, но администрация Дональда Трампа не стала её продвигать, а её куратор по вопросам ИИ Дэвид Сакс заявил, что правила должны устанавливать сами разработчики. Спикер Палаты представителей Майк Джонсон, комментируя опасения по поводу катастрофического развития ИИ, сказал: «Вы не все умрёте через 10 лет».
Критики считают, что призывы крупных компаний к регулированию могут привести к «захвату регулирования»: добровольные стандарты способны укрепить позиции лидеров и затруднить конкуренцию для небольших разработчиков. Представитель МИД Китая Го Цзякунь обвинил американскую сторону в использовании «нагнетания страха», а глава канадской компании Cohere Эйдан Гомес назвал действия крупных американских лабораторий формированием «картеля». «ИИ нужны защитные механизмы. В этом нет спора и никогда не было. Спор идёт о том, кто их напишет, кто сможет участвовать и чьи интересы будут защищать эти правила», — написал Гомес.