Власти Нью-Йорка изъяли более дюжины сайтов, распространявших откровенные дипфейк-видео (синтезированные изображения) с участием знаменитостей. Офис окружного прокурора Манхэттена объявил об изъятии 12 доменов, которые, по его данным, использовались для незаконного распространения, публикации и продажи таких материалов. На этих ресурсах были представлены около 1200 человек, преимущественно женщин, включая инфлюенсеров, актрис, активисток, спортсменок, музыкантов и политиков.
Прокурор Элвин Брэгг заявил, что подобные нарушения приватности преследуют жертв в карьере и личной жизни и наносят огромный урон эмоциональному и психическому благополучию. Он призвал возможных пострадавших обращаться в бюро по киберпреступлениям его офиса. Расследование в отношении ответственных за сайты и тех, кто загружал компрометирующие видео, продолжается.
Изъятие проводилось в соответствии с уголовно-процессуальным законодательством штата Нью-Йорк и стало одной из самых масштабных акций против сайтов с откровенными дипфейками с момента появления технологии в конце 2017 года. По мере совершенствования искусственного интеллекта сформировалась теневая индустрия сайтов, приложений и ботов, предназначенных для «раздевания» фотографий женщин или создания графических сексуальных видео. Изображения становятся всё реалистичнее и могут генерироваться за секунды.
Хотя дипфейк-технологии широко применяются против обычных женщин и девочек, часто в частных группах соцсетей, знаменитости также публично говорили о вреде такого контента и сложностях с его удалением. Законы против дипфейков появлялись медленно, но американский Take It Down Act (закон «Убери это») всё чаще позволяет удалять изображения, а его часть даёт правоохранителям изымать и блокировать сайты.
Офис окружного прокурора Манхэттена не назвал изъятые сайты публично. Однако до объявления Брэгга WIRED независимо заметил, что на нескольких главных страницах таких ресурсов в конце прошлой недели появились уведомления об изъятии — «THIS DOMAIN HAS BEEN SEIZED». Сейчас сайты сообщают, что были изъяты по ордеру, выданному Верховным судом штата Нью-Йорк.
«Эти блокировки — значительная победа в борьбе с синтетическими неконсенсуальными интимными изображениями (NCII)», — заявила Леони Омиг, исследователь Института стратегического диалога (ISD), изучающая экосистему создания дипфейков. По её словам, правоприменение на уровне штатов показывает, что вредный контент можно остановить, а изъятые сайты, судя по всему, недоступны даже при попытке зайти через VPN из других регионов. «Это доказывает, что скоординированные действия достижимы, даже когда регулирование остаётся раздробленным по юрисдикциям».
Сайты, вероятно, просматривались миллионы раз. Многие использовали в названиях фразы вроде «sex celebrity» или обещали «настоящие дипфейки». На них размещались поддельные видео с участием некоторых самых известных в мире знаменитостей; на одном ресурсе указывалось, что «для дипфейков используются лица различных актрис». Видео могли длиться несколько минут и включали полностью откровенные сцены — часто лица знаменитостей или публичных фигур подставлялись в существующие порнографические ролики. Архивные версии сайтов показывают, что некоторые видео были просмотрены десятки тысяч раз, а один из ресурсов утверждал, что работает с 2018 года.