AppleがAI生成の性的画像悪用対策を強化〜App Store規約改定

Appleは2026年10月16日、App Store審査ガイドラインを改定し、AI生成を含む本人の同意のない性的画像への対策と、審査後に未申告の機能を追加するアプリへの規制を強化することを公表しました。

ポルノグラフィックコンテンツは従来から禁止されていましたが、今回の改定は、AI生成を含む非同意の性的画像を明示的な対象とし、ユーザー生成コンテンツを扱うアプリ側の対応を、より具体的に示したものです。

AI生成でも対象に〜Appleが防止・削除を明文化

改定されたガイドライン1.2では、ユーザー生成コンテンツを扱うアプリに対し、AI生成を含む本人の同意のない性的画像を「積極的に防止・削除する」ことが求められると明記されました。

この対応が不十分な場合、または是正通告後も違反が続く場合は、Developer Code of Conductの違反としてApp Storeからの削除対象になるとAppleは説明しています。

従来ルールと何が違う？3項目で確認

項目	従来	今回の明確化
ポルノグラフィックコンテンツ	禁止対象	引き続き禁止
AI生成を含む非同意の性的画像	UGCアプリには一般的なモデレーション要件	AI生成を含め防止・削除対象として明確化
審査後の未申告機能追加	禁止規定あり	禁止をより明確化

ポルノグラフィックコンテンツはApp Storeで長年禁止されており、実在の人物の性的画像を本人の同意なく生成するアプリもその対象でした。

今回の改定により、ユーザー生成コンテンツの管理要件として、AI生成を含む非同意の性的画像を積極的に防止・削除すべき対象だと明確になりました。

ガイドライン2.5.19では、審査時と異なる機能をリリース後に追加する手口を禁止しています。審査後にnudification機能を有効化するような行為は、App Storeからの削除とApple Developer Programからの除名の対象になるとされています。

「AIアプリ禁止」ではない〜今回の本当の変更点

今回の発表は規約の改定と強化の告知であり、特定のアプリが即座に削除されると確定したものではありません。AI画像生成そのものが禁止されたわけでもなく、ユーザー生成コンテンツを扱うアプリには、AI生成を含む非同意の性的画像を積極的に防止・削除する対応が求められます。

規約が明文化されたからといって、被害がただちに完全になくなると保証されたわけではありません。

使うAIは機能だけで選ばない〜確認したい2点

AIによる画像悪用は、利用者が注意するだけですべて防げるものではありません。個人でできる対策に加え、サービス側が悪用防止や削除・通報にどう対応しているかも重要な判断材料になります。

今日、普段使っているSNSや生成AIサービスを開き、不適切なコンテンツをどこから通報できるか、問題が起きた場合に削除を求める方法があるかを確認してみてください。新しいAIサービスを選ぶ際も、この2点を確認しておくことが、自分と周囲を守る判断材料になります。

Source：Apple Developer、The Verge