Дональд Трамп призвал американские компании, разрабатывающие передовые модели искусственного интеллекта, самостоятельно контролировать отрасль и снижать связанные с ней риски. Это заявление прозвучало на фоне инцидентов с безопасностью ИИ, из-за которых OpenAI приостановила обучение новых моделей и отложила выпуск ряда продуктов.
Во вторник около двух десятков технологических компаний подписали добровольное соглашение с Белым домом. Участники обязались внедрять предложенные администрацией меры, включая независимые проверки систем безопасности. Такие аудиты должны оценивать работу внутренних механизмов контроля, мониторинга и обнаружения угроз.
В число направлений для внешней проверки вошли кибербезопасность, биологические и химические угрозы, а также риск непреднамеренных действий со стороны ИИ-моделей. Компании договорились регулярно обмениваться практиками и совместно разрабатывать стандарты и критерии безопасности. Среди подписантов оказались руководители Anthropic, OpenAI, SpaceXAI, Nvidia, Meta (признана в РФ экстремистской и запрещена) и Alphabet/Google — Дарио Амодеи, Сэм Альтман, Илон Маск, Дженсен Хуанг, Марк Цукерберг и Сундар Пичаи.
Соглашение не вводит для бизнеса новых юридических обязанностей. Как сообщило издание The Information, Anthropic, Google и OpenAI ранее уже согласились на независимые аудиты, а многие компании добровольно участвуют в закрытых государственных проверках безопасности перед выпуском ИИ-продуктов. При этом Трамп назвал договор «морально обязательным», хотя документ не имеет юридической силы, передало Bloomberg.
«Это почти как конституция, в некотором смысле», — заявил Трамп журналистам в Белом доме после встречи с руководителями технологических компаний. «Крупнейшие люди в мире подписали это, и я подписал это как президент, и это действительно форма защиты». В соглашении также сказано, что со временем рекомендации, возможно, потребуется закрепить законодательно, однако пока президент считает саморегулирование отрасли лучшим вариантом для будущего США.
Подробный порядок новых аудитов пока не раскрыт: Трамп опубликовал в Truth Social лишь краткое описание договорённостей. Неясно и то, какие организации будут проверять передовые модели, поскольку выбор аудиторов, по данным Bloomberg, может зависеть от политических решений, а сами разработчики не до конца понимают, какие структуры будут признаны независимой третьей стороной. При этом некоторые потенциальные проверяющие уже встречались с Центром стандартов и инноваций в области искусственного интеллекта, который проводит добровольные государственные испытания безопасности до выхода продуктов.