Компании, работающие над передовыми моделями искусственного интеллекта, должны взять на себя добровольные обязательства по безопасности, считает глава Anthropic Дарио Амодеи. По его мнению, такие стандарты в идеале должны подкрепляться «регулированием, которое охватывает все американские компании, разрабатывающие передовой ИИ» и не соблюдающие правила добровольно, а также аналогичными нормами в других демократических странах.
Однако добиться подобного регулирования при нынешней администрации США может быть непросто. Президент Дональд Трамп написал в социальных сетях в понедельник утром, что «единственный контроль или «ограничители», которые нужны ИИ, — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США он есть, и в избытке!».
Спикер Палаты представителей Майк Джонсон в свою очередь признал в телевизионных интервью в минувшие выходные, что «мы должны поставить некие ограничители, некие меры безопасности, чтобы ИИ не вышел из-под контроля». При этом он добавил, что «не нужно, чтобы все сейчас паниковали», и заявил о желании «сопротивляться тому, чтобы Конгресс врывался и вводил какой-то чрезвычайный мораторий».
Дэвид Сакс, сопредседатель президентского Совета по науке и технологиям, написал в социальных сетях в выходные, призывая разработчиков передовых моделей к саморегулированию вместо ожидания Вашингтона. «Самый простой способ не построить сверхинтеллект — это договориться его не строить», — написал он.
Даже если все демократические страны и все крупные ИИ-компании в них согласятся на некие универсальные стандарты безопасности и темпов развития, остаётся проблема открытых моделей из Китая, возможности которых отстают от крупнейших корпоративных ИИ-гигантов лишь на несколько месяцев. В своём эссе Амодеи предлагает несколько уровней международных соглашений по безопасности ИИ, высшим из которых является «полное замедление или даже «пауза», при которой участвующие правительства договариваются существенно ограничить общий темп развития ИИ».
Амодеи признаёт, что соглашение столь высокого уровня «вряд ли реально будет достигнуто в ближайшее время», особенно из-за слишком высоких ставок. По его рассуждению, «ИИ может быть настолько мощным, что подобный выход из соглашения [со стороны Китая] мог бы привести к их геополитическому доминированию», что делает проблему коллективных действий ещё более острой. Об этом сообщает Ars Technica.