Обновленные гайдлайны App Store запрещают ИИ-раздевание и подмену функционала

Apple сегодня обновила свои App Review Guidelines, внеся ряд изменений, призванных усилить защиту от вредоносного контента и недобросовестных практик, связанных с прохождением проверки приложений.

Только за последний год появилось немало сообщений и скандалов, связанных с приложениями, которые обходили требования Apple App Review Guidelines и подвергали пользователей, включая несовершеннолетних, воздействию вредоносного или неподобающего контента.

В январе организация Tech Transparency Project (TTP) обнаружила в App Store десятки приложений на базе ИИ для создания так называемых «раздевающих» изображений. В апреле группа опубликовала дополнительное расследование, показавшее, что поисковые подсказки и реклама в App Store также направляли пользователей к таким приложениям. В июле власти Сан-Франциско обязали Apple удалить восемь приложений, способных создавать интимные изображения без согласия изображённых на них людей.

Также в июле расследование 9to5Mac выявило десятки приложений, которые маскировали азартные платформы под простые игры и утилиты, чтобы обойти проверку App Store, причём многие из них были доступны детям. При доступе из-за пределов Бразилии эти приложения вели себя так, как было заявлено, но при запуске с бразильских IP-адресов показывали скрытые платформы для ставок.

Кроме того, был скандал вокруг Grok: ИИ-чатбот Илона Маска использовался для создания сексуализированных изображений женщин и несовершеннолетних без их согласия. Это привело к призывам со стороны законодателей и общественных организаций удалить X и Grok из App Store. Позже Apple подтвердила, что в частном порядке предупредила xAI о возможном удалении Grok, если компания не решит проблему.

Сегодня Apple обновила App Review Guidelines, пытаясь закрыть подобные лазейки.

Обновлённые App Review Guidelines Apple

В разделе 1.2, посвящённом пользовательскому контенту, теперь говорится следующее:

Приложения, которые позволяют пользователям создавать, генерировать, загружать, публиковать или иным образом добавлять контент, создают особые риски, включая нарушение прав интеллектуальной собственности, создание интимных изображений без согласия и анонимный буллинг.

В новых условиях Apple также добавлено, что «разработчики, которые не внедряют надлежащие меры защиты или не устраняют выявленные нарушения после уведомления, могут считаться нарушившими Developer Code of Conduct».

Ещё одно особенно важное изменение касается так называемых приложений с подменой функциональности после проверки — тех, которые «искажают своё назначение во время App Review и раскрывают вредоносные возможности, например “раздевание”, только после одобрения», как формулирует Apple.

Новый раздел 2.5.19 гласит:

Не включайте в приложение скрытые, неактивные или недокументированные функции; функциональность приложения должна быть понятна как конечным пользователям, так и команде App Review. Попытка скрыть недокументированные функции внутри бинарного файла приложения, например с помощью обфускации кода или других методов, является основанием для удаления приложения из App Store и прекращения действия аккаунта разработчика.

Хотя запрет на скрытую функциональность уже присутствовал в разделе 2.3.1, теперь Apple сформулировала правило значительно жёстче, отдельно упомянув обфускацию кода и подчеркнув, что нарушение может привести как к удалению приложения, так и к блокировке аккаунта разработчика.

Наконец, в разделе 5 (Legal) Apple также ужесточила формулировки в отношении приложений, которые способствуют торговле людьми или эксплуатации детей, прямо указав, что такие приложения «будут удалены из App Store и заблокированы для альтернативного распространения».

Чтобы прочитать обновлённые App Review Guidelines Apple, перейдите по этой ссылке.