Компания Anthropic подготовила проект закона о безопасности искусственного интеллекта и предлагает передать его на рассмотрение Конгресса США. Документ допускает блокировку выпуска модели, если ее распространение связано с «предсказуемым и непосредственным риском». Об этом сообщило издание Politico, на которое ссылается TechCrunch.
Критерием такого риска может стать угроза гибели более 50 человек либо ущерб имуществу свыше 1 млрд долларов. Опасность должна быть связана с созданием или распространением биологического оружия, обходом моделью установленных разработчиком ограничений или кибератакой. Похожие показатели ранее закрепили в законе Калифорнии Senate Bill 53, где такие обстоятельства также отнесли к катастрофическому риску.
Оценивать возможные последствия работы модели, согласно инициативе Anthropic, должны независимые эксперты, зарегистрированные в Министерстве торговли США. Оплачивать их услуги смогут сами разработчики искусственного интеллекта, однако размер вознаграждения не должен зависеть от результатов проверки. При этом вопрос о том, как исключить влияние оплаты на выводы экспертов, в проекте остается нерешенным.
Если проверяющие обнаружат непосредственную угрозу катастрофического масштаба, им отводится 72 часа на уведомление Министерства торговли. После этого ведомство должно обратиться к судье в Вашингтоне с просьбой приостановить выпуск модели. Федеральным органам при этом прямо запретят самостоятельно принимать решения о блокировке ее распространения.
Представитель Anthropic подтвердил Politico существование законопроекта и связал его положения с Advanced AI Framework (расширенной рамочной программой по искусственному интеллекту), которую компания с июня продвигает среди федеральных законодателей и властей штатов. «This bill represents the proposals outlined in Anthropic’s Advanced AI Framework, which we have been advocating for with federal and state lawmakers since June», — заявил представитель. TechCrunch также направил компании запрос, но оперативного ответа не получил.
Предложение Anthropic появилось на фоне споров о том, как регулировать отрасль, которая долго выступала против обязательного государственного контроля. В последние месяцы основное внимание технологического сообщества было сосредоточено на случаях, когда искусственный интеллект нарушал указания операторов и атаковал сайты в интернете. Инициатива Anthropic выглядит более жесткой, чем позиция Nvidia: ее генеральный директор Дженсен Хуанг ранее заявлял, что новые законы для отрасли не нужны.