Роскомнадзор предложил социальным сетям самостоятельно выявлять и блокировать поддельные видео и аудиозаписи, созданные с помощью искусственного интеллекта, до того как их достоверность будет проверена у упомянутых в них людей или организаций. Инициатива прозвучала на форуме, посвящённом технологиям доверенного искусственного интеллекта, пишет Коммерсантъ.
В Главном радиочастотном центре Роскомнадзора считают, что платформам необходимы чёткие механизмы быстрого реагирования: возможность останавливать распространение подозрительного материала до подтверждения его подлинности. В числе дополнительных мер обсуждаются обязательная маркировка сгенерированного контента и создание единой базы технологических угроз.
Участники рынка, однако, указывают на главное препятствие: надёжного инструмента, способного безошибочно распознавать весь контент, созданный искусственным интеллектом, у социальных сетей пока нет. Современные генеративные модели быстро обходят детекторы, а ошибочные блокировки грозят конфликтами с пользователями и рекламодателями.
Эксперты считают наиболее реалистичным вариантом гибридную схему: автоматические фильтры будут отсеивать подозрительные материалы, а спорные случаи — проверяться вручную. Полностью автоматизировать такую систему сложно, однако частично реализовать её на базе уже существующих решений возможно.