Apple обновила правила для разработчиков и запретила приложения, которые с помощью искусственного интеллекта создают оскорбительный контент. Ограничения также коснулись программ, маскирующихся под обычные сервисы во время проверки в App Store, а после одобрения превращающихся в приложения для «раздевания» людей на изображениях. Под запрет попали и продукты, которые активно продвигают такие функции.
Новые формулировки усиливают требования к приложениям с пользовательским контентом и возможностями искусственного интеллекта. Разработчики должны предусматривать достаточные меры для выявления и ограничения неприемлемых материалов. Кроме того, пользователям необходимо предоставить инструменты для жалоб на оскорбительный контент и блокировки нарушителей.
«Приложения, размещающие пользовательский контент, обязаны фильтровать неприемлемые материалы, предоставлять пользователям возможность сообщать об оскорбительном контенте и блокировать аккаунты, нарушающие правила. Приложения со скрытыми или недокументированными функциями также запрещены в App Store, включая программы, которые искажают своё назначение во время проверки, а после одобрения раскрывают вредные возможности — например, “раздевание”, — что обычно называют подменой назначения», — заявила Apple в записи в блоге.
Компания отдельно подчеркнула, что будет удалять приложения, в которых после прохождения проверки появляются функции, отсутствовавшие в представленной версии. В юридический раздел правил Apple также внесли изменения, подтверждающие запрет на программы, продвигающие торговлю людьми и эксплуатацию детей. Эти положения дополняют требования к содержанию и назначению приложений.
В прошлом году Apple сообщала, что в рамках проверки не допустила к пользователям более 150 тысяч приложений. За мошенничество и злоупотребления компания удалила 193 тысячи аккаунтов разработчиков. Обновление правил стало очередным ужесточением контроля за программами, распространяемыми через App Store.
Как писал TechCrunch, в июле власти Сан-Франциско обязали Apple и Google очистить магазины приложений от сервисов для «раздевания» изображённых людей и удалить их. Городской прокурор Дэвид Чиу обвинил компании в получении дохода от таких программ через комиссионные сборы магазинов. В апреле доклад проекта Tech Transparency Project показал, что в обоих магазинах находилось несколько подобных приложений, причём некоторые из них имели возрастной рейтинг, допускающий использование несовершеннолетними.