2025年06月13日 12時14分ソフトウェア

Metaがヌード化アプリ「CrushAI」を開発するJoy Timelineを香港で提訴、ユーザートラフィックの90％がMetaの広告掲載だったものの広告配信は既に停止

Metaが写真や動画の中の女性をヌードにしてしまう、いわゆる「ヌード化アプリ」のCrushAIを開発するJoy Timelineを訴えると発表しました。CrushAIはMetaのプラットフォーム上で広告を掲載しており、ユーザートラフィックの90％をMeta経由で獲得していたそうです。

Combating Nudify Apps with Lawsuit & New Technology | Meta
https://about.fb.com/news/2025/06/taking-action-against-nudify-apps/

Meta Sues Nudify App That Keeps Advertising on Instagram
https://www.404media.co/meta-sues-nudify-app-that-keeps-advertising-on-instagram/

Meta cracks down on nudify apps after being exposed | The Verge
https://www.theverge.com/news/685985/meta-lawsuit-crushai-nudify-app-ads

インターネット上では、AIを用いて合意のない偽のヌード画像や性的に露骨な画像を作成する、いわゆる「ヌード化」アプリの増加が懸念されています。Metaは長年にわたって、合意のない性的な画像に対するルールを設けており、1年以上前にこれらのポリシーを更新することで、ヌード化アプリや類似サービスの宣伝を一切許可しないことを明確にしました。

Metaはヌード化アプリや類似サービスの宣伝を認識した場合、該当する広告・Facebookページ・Instagramアカウントを削除し、Metaのプラットフォームからアクセスできないように、これらのサービスを宣伝するウェブサイトへのリンクをブロックします。また、FacebookやInstagramで「ヌード化」「脱衣」「衣服削除」などの検索語句を制限し、検索結果が表示されないようにもしているそうです。

しかし、2025年6月6日にCBS Newsが「Metaのプラットフォーム上で数百件の『ヌード化アプリ』の宣伝広告が見つかった」という調査結果を報じました。CBS Newsの報道によると、ヌード化アプリの広告は主にアメリカ、イギリス、欧州連合(EU)加盟国に居住する18～65歳の男性をターゲットとしたものだったそうです。

Meta's platforms showed hundreds of "nudify" deepfake ads, CBS News investigation finds - CBS News
https://www.cbsnews.com/news/meta-instagram-facebook-ads-nudify-deepfake-ai-tools-cbs-news-investigation/

Metaのプラットフォーム上で堂々と広告を掲載していたヌード化アプリの一例が以下。

この報道を受け、Metaが「ヌード化アプリ」のひとつであるCrushAIを運営するJoy Timelineを提訴することを発表しました。CrushAIはAIが個人の同意なしにヌード画像や性的に露骨な画像を生成することができるというもの。MetaはJoy Timelineを同社の拠点である香港で訴える予定で、Metaはすでに自社プラットフォーム上で掲載されていたCrushAIの広告をブロックしています。

Metaによると、Joy TimelineはMetaの広告審査プロセスを回避し、規則違反により繰り返し削除された後も、広告を掲載し続けようと試みていたそうです。

MetaはJoy Timelineに対する法的措置について、「この訴訟は我々がヌード化アプリによる不正行為をいかに深刻に受け止めているか、そしてコミュニティをこのような不正行為から守るために全力を尽くすという我々の決意を改めて示すものです。Metaは今後も、このような形で我々のプラットフォームを悪用する者に対し、法的措置を含む必要な措置を講じていきます」と言及しています。

MetaはCrushAIのようなヌード化アプリを宣伝する「広告」「アカウント」「コンテンツ」を削除する際に、違反アプリやウェブサイトへのURLをはじめとする情報を、Tech CoalitionのLanternプログラムを通じて他のテクノロジー企業と共有し、Meta以外の組織・団体も調査および対策を講じられるように支援します。

Metaはこの情報共有を2025年3月末から開始しており、これまでに3800件以上のURLを共有しているそうです。Metaは「セクストーションを含む児童の安全を侵害する行為に関する警告を他の企業と共有しており、これはその取り組みの重要な継続となります」と報告しました。

また、MetaはCrushAIのような「Metaの利用規約に違反するアプリ」をプラットフォーム上から排除するために、ヌードが含まれていない広告であっても、こうした種類の広告を識別できるよう特別に設計された新しい技術を開発したり、マッチング技術を用いて模倣広告をより迅速に発見・削除できるようにしたりしているそうです。

また、不正な活動を行う組織的なネットワークを阻止するために用いる戦術を適用し、これらの広告を運営するアカウントネットワークを特定・削除しています。2025年初めから、Metaの専門チームは徹底的な調査を実施し、これらのサービスを宣伝する広告を掲載しようとしていた4つのアカウントネットワークを特定・阻止しているそうです。