EUの「チャット規制法」は児童性的虐待コンテンツ対策を隠れみのにメッセージアプリだけでなく幅広いデジタルサービスの暗号化を無効にする危険な法案であるという指摘

EUで提案されている「チャット規制法」の危険性について、フランスを拠点に活動するシステムエンジニアのMetalhearf氏が解説しています。

ChatControl wants to scan all your private messages · Metalhearf's Blog
https://metalhearf.fr/posts/chatcontrol-wants-your-private-messages/

2022年5月に欧州委員会で提案された「児童性的虐待防止及び対策規則(CSAR)」、通称チャット規制法(ChatControl)は、大手テクノロジー企業が導入している監視技術を基盤とするものです。

例えば、MetaはMessengerの全ての会話および暗号化されていないWhatsAppのデータ(プロフィール写真やグループの説明など)を分析しています。Appleは2021年にiCloudコンテンツに対する同様のスキャンを実施すると発表しましたが、これはのちに延期されました。

「iPhone内の児童ポルノ画像を検知する機能」の延期をAppleが発表 - GIGAZINE

この種の企業が独自に導入している監視システムを、法的機関の命令で強制的な監視システムに変えようというのがチャット規制法であるとMetalhearf氏は指摘しています。

EUでは元々、2021年のEU暫定規則で「プラットフォームが3年間コンテンツを自主的にスキャンすることを許可」していましたが、この暫定規則が2024年に失効したため、新しくチャット規制法が提案されることとなりました。なお、暫定規則は「コンテンツのスキャンを許可する」というものでしたが、チャット規制法は「一定の条件下でスキャンを義務付ける」というものであるため、影響はより広範なものになると指摘されています。

チャット規制法はSignal、WhatsApp、Telegramといったメッセージアプリだけでなく、対人コミュニケーションが含まれるサービスのプロバイダー全体に適用されます。そのため、メールプロバイダーや出会い系アプリ、チャット機能を備えたゲーム、ソーシャルメディア、ファイルホスティングサービス、アプリストア、小規模なコミュニティホスティングサービスまで、人々が何かしらのコミュニケーションを取ることができるプラットフォームがすべて含まれるわけです。そのため、Metalhearf氏は「事実上あらゆるデジタルサービスが監視の対象となる」と指摘。

具体的な仕組みとして、チャット規制法はクライアントサイドスキャンを採用しています。これは簡単に言うと、暗号化が行われる前にコンテンツを分析するというものです。

Metalhearf氏は「送信中のメッセージを傍受する従来の監視システムからの根本的な転換を意味します。チャット規制法では、すべてのメッセージが自動的にチェックされ、無実が証明されるまで全員が有罪とみなされるため、事実上、推定無罪主義が覆されます」と指摘しました。

チャット規制法において、監視システムは以下の3つのカテゴリに属するコンテンツを自動でスキャンします。

1：既知の違法コンテンツ
当局によって児童性的虐待コンテンツ(CSAM)としてカタログ化されている画像または動画。デバイスはコンテンツのハッシュフィンガープリントを作成し、既知の違法コンテンツのデータベースと比較します。

2：不明な潜在的コンテンツ
CSAMに該当する可能性があるものの、これまで特定されていない写真や動画。AIアルゴリズムが視覚要素(肌の露出など)を分析し、統計モデルに基づいて潜在的に問題のあるコンテンツにフラグを立てます。

3：グルーミング行動
AIを用いたテキスト分析により、大人が子どもを誘惑する行動の事前定義された指標に一致するコミュニケーションパターンを特定します。これには、プライベートな会話の実際の内容をスキャンすることも含まれます。

フラグが立てられると、自動的に当局に報告されます。毎日数十億件ものメッセージがやり取りされているため、人間が事前に確認することはありません。

チャット規制法の特徴は、暗号化を破るのではなく完全にバイパスするという点です。メッセージは送信中に暗号化されますが、システムは暗号化前にコンテンツを検査します。そのため、Metalhearf氏は「真のエンドツーエンド暗号化は、ユーザーと受信者だけがメッセージを読めるようなものを指します。政府、企業、アルゴリズムが中身をのぞき見ることはできません。これではエンドツーエンド暗号化の意味を成しません」と指摘。

実際、プライバシー関連ソフトウェアを開発するProtonは、チャット規制法のアプローチを「暗号化バックドアよりも悪質」と指摘しています。バックドアは当局がユーザーのメッセージ内容にアクセスできるようにするというものですが、チャット規制法のクライアントサイドスキャンは「共有しているかどうかにかかわらず、デバイス上のすべての情報を検査する」というものです。

そのため、暗号化メッセージアプリであってもユーザーの動向をスパイするスパイウェアへと変貌してしまうとMetalhearf氏は指摘しています。

また、チャット規制法では全ての報告を受け取るための中央集権的な「EU児童性的虐待センター」が設立されますが、EUの規制当局がスキャン技術そのものを管理することはありません。

しかし、サービスプロバイダーはスキャン技術の用意だけでなく、「プラットフォーム上で違法コンテンツが共有される可能性を評価し、最小限に抑えるためのリスク評価」も実施する必要があります。これにはユーザーに関する詳細な情報(年齢層、コンテンツの種類など)の収集が求められるそうです。これに対して、プライバシー重視の多くのサービスでは、この種のデータの収集が意図的に避けられています。

このほか、チャット規制法は、年齢確認システムの実装を義務化しようとしています。これに対してMetalhearf氏は、「プライバシーを尊重しながら、実用的な年齢確認を行うことができる技術は現状存在しません。こうしたシステムはオンライン上の匿名性を排除し、ユーザーがデジタルサービスにアクセスする際に身元の証明を義務付けることになります」と非難しました。

既存のスキャンシステムはほとんどの場合、誤判定を行うとMetalhearf氏は指摘。調査によると、アルゴリズムによる報告の約80％が誤検知、つまりは無害なコンテンツが誤って違法なものと判定されたものであるという結果が出ています。アイルランドの法執行機関もこのデータを裏付けており、自動化された検出システムが違法コンテンツであると報告した4192件のうち、実際に違法コンテンツが含まれていたものはわずか20.3％だったそうです。

加えて、仮に検出システムが99％の精度で違法コンテンツを検出できたとしても、毎日何十億件ものメッセージをスキャンすれば、何百万もの虚偽の告発が生まれることになるだろうとMetalhearf氏は指摘。その結果、警察のリソースは休暇の写真を共有する無実の家族の捜査に圧倒され、本来行うべき業務がおろそかになることは明らかだと指摘しています。

この他、35カ国600人を超える暗号技術者やセキュリティ研究者などが、公開書簡に署名しチャット規制法について「技術的に実行不可能」であり、「民主主義への危険」を生じさせるものであり、EU市民の安全とプライバシーを「完全に危険にさらすことになる」と警鐘を鳴らしています。

‘Danger to Democracy’: 500+ Top Scientists Urge EU Governments to Reject ‘Technically Infeasible’ Chat Control – Patrick Breyer
https://www.patrick-breyer.de/en/danger-to-democracy-500-top-scientists-urge-eu-governments-to-reject-technically-infeasible-chat-control/

また、セキュリティ研究科からは「クライアントサイドスキャンでは暗号化を根本的に破壊してしまい、悪意のある人物が悪用できる脆弱(ぜいじゃく)性を生み出さずに、合法的なコンテンツと違法なコンテンツを区別することはできない」という指摘もあります。

しかし、欧州委員会はチャット規制法が実際の子どもを守る上でどれだけの有効性、信頼性、適切性を持っているかを実証する研究結果などを一切示していないとMetalhearf氏は指摘しました。

Metalhearf氏は「デジタルプライバシーを守るためにEU一般データ保護規則(GDPR)を制定したEUが、それを体系的に解体するためにチャット規制法を設計しているというのはお笑い種です。かつては基本的人権だったものが、強制的な監視に変わる可能性があります。チャット規制法はヨーロッパにとって歴史的な選択であり、我々はプライベートなコミュニケーションの大量監視を標準化する最初の民主主義国になるか、それともヨーロッパを世界的なプライバシーのリーダーたらしめるデジタル権利を守るか、どちらかを選ぶ必要があります」と述べました。

なお、ソーシャル掲示板のHacker News上でもチャット規制法についてはさまざまな意見が上がっており、「ここで社会が直面する課題は、このような試みを単に拒否することではなく、特定の状況下でそれが承認されるまで、何度も繰り返されるのをいかに防ぐかということだと私は考えています」といったコメントや、「政府は透明性を保ち、国民は不透明であるべきだと思います。そうでなければ政府は正統性を失ってしまいます」というコメント、「EUの政治家がチャット規制法から自らを除外している(36ページ、セクション2a)という事実は知っておくべきです」というコメント、「法案を考案したデンマークの司法大臣であるプーター・フンメルガード氏がエンドツーエンド暗号化を理解していないことは明らかです」というコメント、「問題は、チャット規制法の独自仕様部分(違法コンテンツのリストを含む)を管理する者が、例えば政治的反対者を検出するなど、想像し得るあらゆる目的に悪用できるという点です。チャット規制法に対して、正当な反論をしてほしいとお願いしているだけです。政治家にチャット規制法が悪い考えだと納得させるのに役立たない、根拠のない議論をたくさん見てきました。政治家は、なぜそれが悪い考えなのか、本当の理由を理解する必要があります」というコメント、「EU圏外の多くの人は、これをEUだけのこととして無視し、それについてあまり考えていないと思います。しかし、EUの人にテキストメッセージを送ったことがあるなら、あなたもチャット規制法の監視対象となる可能性があります。EUはEUの価値観を推進するために、諸外国に数十億ドル(数千億円)を投入しています。この支援を継続して受けるには、チャット規制法を受け入れる必要があるとEUが主張するようになる可能性もある」というコメントなどが寄せられていました。

・つづき
1人のエンジニアが開発した「議員や関係者に一斉にスパムメールを送信するサイト」がEUのチャットコントロール法を防ぎつつある - GIGAZINE