Представители США и Китая начали обсуждать механизм взаимного уведомления об инцидентах, связанных с искусственным интеллектом и способных угрожать национальной безопасности. Инициатива получила название US China AI Dialogue (американо-китайский диалог по ИИ). Об этом заявил министр финансов США Скотт Бессент.
В рамках будущего формата делегации двух стран намерены вновь встречаться, обсуждать развитие технологий и искать общие цели, а также сходные угрозы. По словам Бессента, переговоры продолжились после визита президента США Дональда Трампа в Пекин в мае. Он подчеркнул: «Мы считаем, что, как и в любой трансграничной деятельности, переход от непрозрачности к большей открытости между двумя ведущими державами в области ИИ имеет большое значение».
Необходимость таких контактов стала заметнее на фоне инцидентов с передовыми моделями. Летом внимание привлек случай, когда агенты OpenAI взломали платформу Hugging Face, что показало возможности современных систем и отставание защитных механизмов отрасли. В начале этого месяца тревогу усилили предупреждения сотрудников Anthropic о риске того, что искусственный интеллект может привести к уничтожению человечества.
Руководители крупнейших лабораторий, разрабатывающих передовые модели, включая Сэма Альтмана из OpenAI, Дарио Амодеи из Anthropic и Илона Маска, в последние недели призывали замедлить развитие технологий до выработки стандартов безопасности. Амодеи также предложил правительствам помогать международной координации, в том числе с участием Коммунистической партии Китая. При этом администрация Трампа считает, что у американских властей уже достаточно уголовных и регуляторных инструментов для контроля разработчиков.
С критикой идеи дополнительного замедления выступил глава Nvidia Дженсен Хуанг. Он напомнил, что компании в сфере ИИ уже подпадают под действие законов о кибербезопасности и ответственности за ущерб, заявив CBS News: «Примените сначала их. Не позволяйте этому апокалиптическому нарративу освободить кого-либо от действующих законов». Трамп, в свою очередь, предупреждал, что пауза может позволить Китаю обойти США в технологическом лидерстве, поскольку, по его словам, «КТО ПОБЕЖДАЕТ В ИИ, ТОТ И ПОБЕЖДАЕТ!»
Вашингтон одновременно пытается сдержать развитие китайской отрасли, ограничивая поставки передовых чипов и оборудования для их производства. Бессент сообщил, что экспортные ограничения на встречах в выходные не обсуждались: переговоры также затрагивали торговлю и, по его оценке, прошли «очень успешно» перед визитом председателя КНР Си Цзиньпина в Вашингтон. Ранее научный советник Трампа Дэвид Сакс выражал сомнение, что Китай присоединится к глобальному соглашению о темпах развития ИИ, а сооснователь Hugging Face Томас Вульф критиковал возможность международного сотрудничества при одновременном стремлении США увеличить собственное преимущество, написал он в X. Об этом сообщило Wired.