Apple расширяет проверку App Store, приложения с нарушениями, использующие глубокую подделку AI, будут удалены

Компания Apple объявила о расширении правил проверки App Store, включая в регулирование непроизвольные интимные изображения, созданные с помощью ИИ. Платформа ранее уже запретила порнографический контент, новые правила требуют от разработчиков активно предотвращать и удалять контент глубоких подделок, созданный ИИ; если действия не будут предприняты эффективно, приложения с таким нарушающим контентом будут принудительно удалены.

Обновленный пункт 1.2 особенно упоминает приложения для создания контента с ИИ и называет такие спорные продукты, как Grok. Ранее пользователи жаловались, что Grok, принадлежащий xAI, использовался для создания откровенных и сексуально намекающих глубоких подделок. В начале этого года Apple предупреждала xAI, что если такие материалы будут распространяться, Grok будет удален из App Store; затем xAI внедрила меры безопасности, и обновленная версия была одобрена.

Новый пункт 2.5.19 касается так называемых "подмен", разработчики, если они скрывают новые функции или модули вне версии, представленной на проверку, особенно если вредоносные функции, такие как "раздевание", активируются только после одобрения, могут быть одновременно удалены из App Store и программы разработчиков Apple. Обновление раздела 5 также расширит запрет на приложения, способствующие торговле людьми или эксплуатации детей, на альтернативные каналы распространения приложений. Apple заявила, что при нарушении этих норм соответствующие приложения будут удалены, а права разработчиков будут прекращены.