애플이 App Store 심사를 확장하며, 위반된 AI 심층 위조 애플리케이션은 하차될 것입니다

애플은 App Store 심사 규칙을 확장하여 AI 생성의 비자발적 친밀한 이미지를 규제에 포함한다고 발표했습니다. 플랫폼은 이전에 성적 콘텐츠를 금지했으며, 새로운 규칙은 개발자가 AI 생성의 심층 위조 콘텐츠를 적극적으로 예방하고 제거할 것을 요구합니다. 만약 효과적으로 조치를 취하지 않을 경우, 이러한 위반 콘텐츠를 포함한 애플리케이션은 강제로 삭제될 것입니다.

업데이트된 1.2 조항은 특히 AI 콘텐츠 생성 애플리케이션을 언급하며, Grok와 같은 논란이 있는 제품을 지목했습니다. 이전에 사용자들은 xAI 소속의 Grok가 노출 및 성적 암시의 심층 위조 이미지를 제작하는 데 사용되었다고 불만을 제기했습니다. 올해 초, 애플은 xAI에 이러한 콘텐츠의 확산을 허용할 경우 Grok가 App Store에서 제거될 것이라고 경고했습니다. 이후 xAI는 보안 조치를 배치하고 업데이트된 버전이 승인되었습니다.

추가된 2.5.19 조항은 이른바 "바꿔치기"에 대해 다루고 있으며, 개발자가 제출한 심사 버전 외에 새로운 기능이나 모듈을 숨길 경우, 특히 승인 후에 "탈의"와 같은 유해 기능을 활성화할 경우 App Store 및 Apple Developer Program에서 동시에 제거될 수 있습니다. 제5절 업데이트는 인신매매 또는 아동 착취 애플리케이션에 대한 금지를 대체 애플리케이션 배포 채널로 확장할 것입니다. 애플은 개발자가 이러한 규칙을 위반할 경우 관련 애플리케이션을 제거하고 개발자 자격을 종료할 것이라고 밝혔습니다.