Евросоюз намерен запретить чат-ботам имитировать эмоции и межличностные отношения при общении с пользователями младше 18 лет. Брюссель рассчитывает таким образом снизить риск формирования у детей эмоциональной зависимости от технологий. Соответствующие положения вошли в проект EU Kids Act, представленный в четверг.
Проект также предусматривает ограничения для социальных сетей и видеосервисов. Детям до 13 лет запретят пользоваться чат-ботами без контроля родителей или опекунов. Платформы должны будут заранее встраивать в продукты механизмы защиты несовершеннолетних, иначе им может грозить штраф до 6% мирового оборота, следует из документа, с которым ознакомилось WIRED.
Отдельно Еврокомиссия предлагает запретить сохранение чат-ботами сведений о разговорах между разными сессиями. В Брюсселе опасаются, что длительное накопление чувствительных данных о детях способно закреплять вредные модели общения. Новые требования будут распространяться на работающие в ЕС системы, которые сохраняют историю взаимодействия таким образом.
Социальным сетям, видеоплатформам и игровым сервисам также хотят запретить автоматически включать чат-ботов или подталкивать несовершеннолетних к их использованию. В частности, искусственных собеседников нельзя будет закреплять в верхней части списка контактов ребёнка, как это ранее делал Snapchat. При этом проект касается только AI-компаньонов и универсальных разговорных чат-ботов, которые Еврокомиссия считает серьёзной угрозой здоровью, безопасности и благополучию детей.
Политический советник организации European Digital Rights Симеон де Браувер поддержал ограничения, но заявил WIRED, что защищать от подобных систем следует не только несовершеннолетних. «Разве мы все не заслуживаем защиты от ИИ, созданных для формирования зависимости, от ИИ, которые создают эмоциональную зависимость, или от функций ИИ, активируемых и навязываемых пользователям по умолчанию?» Евросоюз ожидает, что представленный позднее в этом году Digital Fairness Act (закон о цифровой справедливости) расширит борьбу с зависимым дизайном.
Еврокомиссия связывает зависимость от чат-ботов с возможным ущербом для развития детей и их отношений с другими людьми. Ведомство также обеспокоено опасными советами по вопросам психического здоровья и личностного развития, которые могут побуждать несовершеннолетних к рискованному поведению. «Платформы слишком легкомысленно относились к психическому здоровью детей», — сказала в четверг глава Еврокомиссии Урсула фон дер Ляйен. По данным опроса Ipsos BVA во Франции, Германии, Швеции и Ирландии, около половины жителей этих стран в возрасте от 11 до 25 лет обсуждали с чат-ботами личные или интимные темы.