Apple ужесточила правила для разработчиков и запретила приложения, которые с помощью искусственного интеллекта создают оскорбительный контент. Ограничения также коснулись программ, выдающих себя при проверке App Store за обычные сервисы, а после одобрения превращающихся в приложения для создания поддельных обнажённых изображений. Под запрет попали и продукты, которые активно продвигают такие функции.
Обновлённые требования отдельно описывают работу с пользовательскими материалами и использованием искусственного интеллекта. Разработчики должны предусматривать достаточные меры для выявления и ограничения неприемлемого или оскорбительного контента. В частности, сервисы с публикациями пользователей обязаны фильтровать запрещённые материалы, давать возможность пожаловаться на них и блокировать агрессивных пользователей.
«Приложения, размещающие пользовательский контент, обязаны фильтровать неприемлемые материалы, предоставлять пользователям возможность сообщать об оскорбительном контенте и позволять блокировать оскорбляющие аккаунты. Приложения со скрытыми или недокументированными функциями также запрещены в App Store, включая программы, которые искажают своё назначение во время проверки и раскрывают вредные возможности — например, “раздевание”, — только после одобрения. Такой приём обычно называют подменой после одобрения», — заявила Apple в блоге.
Компания намерена удалять программы, в которых после прохождения проверки появляются функции, отсутствовавшие в представленной версии. В юридический раздел правил Apple также внесли формулировки, подтверждающие запрет на приложения, продвигающие торговлю людьми и эксплуатацию детей. Обновление требований усиливает ответственность разработчиков за содержание и реальные возможности их продуктов.
Apple сообщала, что за прошлый год её система проверки не допустила к пользователям более 150 тысяч приложений. Кроме того, компания закрыла 193 тысячи аккаунтов разработчиков из-за мошенничества и злоупотреблений. Эти данные Apple привела в контексте работы механизмов контроля App Store.
Поводом для дополнительного внимания к приложениям для создания поддельных обнажённых изображений стали и внешние претензии. В июле власти Сан-Франциско обязали Apple и Google очистить магазины от таких сервисов и удалить их, обвинив компании в заработке на комиссиях. В апреле исследование Tech Transparency Project показало, что в магазинах обеих корпораций находилось несколько подобных приложений, причём некоторые имели рейтинг, допускающий использование несовершеннолетними.