Разработчик языковых моделей Claude, компания Anthropic, предлагает Конгрессу США новые полномочия для властей в сфере искусственного интеллекта. Речь идет о возможности обращаться в суд для остановки разработки либо эксплуатации моделей, представляющих серьезную опасность. О продвижении такой инициативы пишет Politico со ссылкой на собеседников.
Критерием вмешательства может стать вероятность финансовых потерь от одного миллиарда долларов. Еще одно условие связано с риском смерти или тяжелых повреждений здоровья более чем 50 человек. Проект охватывает угрозы создания биологического оружия, потери разработчиками контроля над ИИ и осуществления кибератак.
Прежде чем обращаться в суд, степень опасности будут оценивать независимые эксперты. Для этой работы они должны быть зарегистрированы в Министерстве торговли Соединенных Штатов. При подтверждении серьезной угрозы ведомство получит право потребовать приостановки проекта.
Инициатива содержит и дополнительные требования к самим ИИ-компаниям. Разработчикам предлагается создавать внутренние отделы безопасности, предоставлять отчеты о функционировании моделей и своевременно уведомлять министерство о крупных неполадках. Эти меры должны сопровождать разработку и использование наиболее мощных систем.
Документ отдельно защищает специалистов, раскрывающих сведения о нарушениях. Предусматриваются ограничения на преследование таких сотрудников. По информации Politico, отдельные нормы напоминают правила, которые Калифорния приняла в прошлом году.
Anthropic поддерживает введение предложенных ограничений для контроля над мощными моделями искусственного интеллекта. Компания известна разработкой линейки Claude. Пока речь идет о законопроекте, а не о действующем порядке блокировки ИИ.