AIで女性を裸にしてしまうヌード化ツールがXアカウントで宣伝されている

複数のX(旧Twitter)アカウントからなるネットワークが、AIを用いたヌード化サービスが規制を回避し、より多くのユーザーにリーチすることに役立っていると報道されています。

AI Supercharges Deepfake Nudes—Unleashing a New Form of Bullying Among Kids - WSJ
https://www.wsj.com/tech/ai-deepfake-nudes-bullying-school-d242b8d4

A network of X accounts is boosting AI nudify tools, raising hell for victims - Digital Trends
https://www.digitaltrends.com/computing/a-network-of-x-accounts-is-boosting-ai-nudify-tools-raising-hell-for-victims/

オンライン上の偽情報を追跡するソーシャルネットワーク分析会社のGraphikaで上級研究員を務めるマシュー・パタン氏によると、一部のAIヌード化サービスは類似した表現を利用するソーシャルメディアアカウントを使い、サービスを宣伝しているそうです。

あるソーシャルメディアアカウントネットワークには4万5000件ものXアカウントが含まれており、投稿は検閲を避けるために間接的な言い回しや、検閲済みの画像を用いている模様。Xで拡散されているAIヌード化サービスの宣伝投稿の一例が以下。

パタン氏が見つけたアカウントは露骨な説明に頼らずAIヌード化サービスを宣伝していました。砕けた言葉遣いや穏やかな表現を用い、機能のすべてを説明することなく、ユーザーをヌード化ツールへ誘導していたそうです。

Xアカウントのネットワークで宣伝されていたAIヌード化サービスのひとつが、中央アメリカのベリーズを拠点とする「Undress AI」です。Undress AIは59ドル(約9500円)で動画を作成できると宣伝しています。ユーザーは対象の服を脱がせたり、性的なポーズをさせたりすることが可能。また、Undress AIには友人を勧誘するとクレジットが付与される勧誘機能もあるそうです。

この種のヌード化サービスの被害者は、自身の見覚えのないヌード写真が拡散された後に、被害の修復に追われることとなります。報告された事例では、偽造されたヌード画像がSnapchatや学校の廊下、友人同士のネットワークを通じて拡散され、家族が画像を削除するために学校や警察に対応を求めざるを得なくなりました。

他にも、アイオワ州で男子生徒グループに標的にされた女子生徒は、Undress AIで作成されたヌード写真がクラスメイトの間で拡散され、不登校となりオンラインで授業を受けるようになったと報告しています。

AIを用いたヌード化サービスによる問題は近年深刻化しています。

生成AIアプリで男子学生が女子の「ディープヌード」を作成する問題が深刻化している - GIGAZINE

Xは他者を誤解させる行為を広く禁止していますが、「組織的なヌード化サービスの宣伝はより厳しい取り締まりを必要としています。今回の事例のように、明白なキーワードを避けながら、ヌード化サービスのような危険なツールにユーザーを誘導することが依然として可能です」とDigital Trendsは指摘。

さらに、「注目すべきは、プラットフォームがこのようなキャンペーンが拡散される前に検知できるかどうかです。可能な限り個人画像を保護したり、なりすましを速やかに報告したり、投稿が消える前に証拠を保存したりすることが重要です」と記しています。