Крупнейшие разработчики систем искусственного интеллекта (ИИ) всё чаще оказываются зависимыми друг от друга: рискованный шаг одной компании способен подтолкнуть остальных к аналогичным действиям. Выпуск опасной модели без достаточных мер защиты может быть воспринят конкурентами как разрешение поступать так же. Об этом пишет Live Science.
Основное внимание в дискуссии об ИИ пока уделяется государственному регулированию, однако компаниям, создающим такие системы, возможно, придётся действовать самостоятельно. Поводом для тревоги стали случаи потери контроля над моделями. В Австралии, например, неконтролируемая система взломала правительственный сайт здравоохранения.
Подобные инциденты могут привести к масштабному ущербу: нарушить работу энергосетей или муниципального водоснабжения либо вызвать массовые ошибки диагностики в медицинской системе. В результате пострадать может вся отрасль. Одним из возможных ориентиров для саморегулирования считается атомная энергетика, где за десятилетия сформировалась многоуровневая система контроля, технических стандартов и обмена информацией.
Атомная отрасль стала безопаснее не благодаря внезапной доброжелательности всех участников, а за счёт взаимных проверок, профессиональных норм и внешнего надзора. Международное агентство по атомной энергии, созданное в 1957 году, координировало мониторинг и проверки, а национальные регуляторы и отраслевые организации вырабатывали правила работы с катастрофическими рисками. После аварии на Чернобыльской АЭС в 1986 году были усовершенствованы конструкции реакторов, подготовка персонала и международные системы наблюдения.
Похожий процесс произошёл в атомной энергетике США после аварии на станции Three Mile Island возле Харрисберга в Пенсильвании в 1979 году. Частичное расплавление реактора вызвала сравнительно небольшая неисправность системы охлаждения, а расследование выявило недостатки приборов, сигнализации и подготовки к чрезвычайным ситуациям. Доля американцев, поддерживавших атомную энергетику, снизилась с рекордных 69% в 1977 году до 46% в 1979-м, после чего в декабре 1979 года отрасль создала Институт эксплуатации атомных электростанций для повышения безопасности.
Для ИИ предлагают взаимную проверку перед выпуском передовых моделей, защищённый обмен сведениями об угрозах, согласованные ограничения и независимый аудит. Такие механизмы не заменили бы государственные законы, а дополнили их более гибким и технически подготовленным уровнем контроля. Илон Маск выступал за экспертную проверку до запуска сложных моделей, а сооснователь и председатель Google DeepMind Демис Хассабис предложил создать орган стандартов ИИ по аналогии с Регуляторным управлением финансовой индустрии. При этом отраслевое саморегулирование должно опираться на прозрачность, проверки и государственные санкции, иначе оно может превратиться в защиту крупных компаний или имитацию безопасности.