GoogleのAIによる概要でイスラエルに行ったこともないのに「イスラエル旅行をして物議を醸す動画を公開した人」とでっちあげられたという報告

Googleの検索結果に表示される「AIによる概要」は、検索に関連した要約と関連リンクを表示するため、すぐに知りたい情報にアクセスしやすくなっています。しかし、AIによる概要のAIモデルは高速さを重視して性能は落とされているため、情報処理能力が不足して不正確な情報を表示するという指摘もあります。サウンドアーティストでYouTuberとしても活躍するベン・ジョーダン氏は、自身の名前をGoogle検索したところ「行ったこともないイスラエルの旅行動画を公開したことにされ、イスラエルに関する自身と正反対の思想を広められた」という問題を報告しています。

ある日ジョーダン氏のもとに、以下のメッセージが届きました。メッセージを送ってきたのはジョーダン氏の投稿しているコンテンツの視聴者で、メッセージには「別の配信者があなたのコンテンツについて配信で話していたとき、チャットの誰かが『ジョーダン氏はガザにおけるイスラエルの占領に同情的だ(イスラエル寄りの立場だ)』とコメントし続けていました」と報告しました。その上で、「私はあなたの投稿をよく見ており、パレスチナ関連の慈善団体への寄付をサポートしていた記憶もあったため、配信でのコメントを疑問に思って検索したところ、Googleで『Being Wrong About Israel』という動画について言及されていました。しかし、動画はあなたのチャンネルで見つけられませんでした。どういうことでしょうか？」と尋ねています。

そこで、ジョーダン氏は実際にGoogleで自分の名前について検索してみました。すると、「AI Overview(AIによる概要)」が表示され、「エレクトロ・ミュージシャンであり科学系YouTuberのベン・ジョーダン」という肩書は正しいものの、続く文では「最近イスラエル・パレスチナ紛争に言及するようになり、オンライン上で大きな論争と議論を引き起こしています。彼はイスラエルへの旅行での経験を共有しており、その中でガザとの境界近くのキブツの人々にインタビューを行いました」とイスラエル・パレスチナ関連で論争を巻き起こしていると記されています。

AIによる概要では、ジョーダン氏は2025年8月18日に「I Was Wrong About Israel: What I Learned on the Ground(イスラエルについて間違っていた：現地で学んだこと)」というタイトルのムービーをYouTubeに公開し、最近のイスラエル旅行で見聞きした内容を詳しく語ったとされています。ムービーにはガザ国境で実施された人々へのインタビューが含まれており、紛争を直接理解する事を目的としたものだったとのこと。そして、このムービーの内容がSNS上で議論を呼び、ジョーダン氏は文脈と意図について詳しく説明している状態になっているとGoogleのAIは結論付けています。

しかし、ジョーダン氏によると、このエピソードは「完全なる作り話」であるとのこと。ジョーダン氏は人生で一度もイスラエルに行ったこともなければ、もちろんイスラエル旅行に関する動画をアップロードしてはいません。ジョーダン氏の見解では、アメリカの保守系に影響力があるュースサイトのNewsmaxで軍事動画をアップロードするコメンテーターを、ジョーダン氏と混同した結果、AIによる概要で虚偽のエピソードが語られた可能性があります。

過去にも同様の問題は確認されており、作家のデイブ・バリー氏が自分の名前をGoogleで検索したところ、同姓同名の人物と混同された結果、AIによる概要で「昨年亡くなった人物」と表示されたことを報告しています。バリー氏は繰り返しGoogleに問い合わせてAIによる概要を変更するよう働きかけましたが、結局まともな内容に直ることはありませんでした。

Googleで自分の名前を調べたら「AIによる概要」で「10年前に死んだ人物」と回答されたという報告 - GIGAZINE

バリー氏は誤った情報に不満を持ったのみでしたが、ジョーダン氏は異なる政治的思想を広められたことを問題視しています。Blueskyで今回の件を報告した際に、「AIによる概要が極端に誤っていることが、訴訟や集団訴訟につながり、最悪の場合、誰かが死亡する事態につながるでしょう」という返信に対して、「訴訟可能かどうか確認するために、すでに2人の弁護士に連絡しました。私は激怒しています」と回答しています。

ジョーダン氏の件はソーシャルニュースサイトのHacker Newsでも話題になっており、「この投稿は、AIの幻覚や精度の欠如が今後の私たちの生活にどれほど大きな影響を与える可能性があるかを示す、まさに好例だと思います」など注目するコメントが集まっています。AIによる概要はざっと見る程度なら合っているように感じますが、あるユーザーは「ランダムな検索から5つのAIによる概要を確認したうちで、大きな誤りがなかったのは1つだけでした」とAIによる概要の精度の低さを指摘する意見を述べています。実際に、ある中小企業がまったく別のブランド名を引用されながら「この会社は詐欺的だ」とAIによる概要で表示されたトラブルも報告されています。

あるユーザーは、「ベン・ジョーダン, イスラエル」で検索したことで、AIによる概要で表示されたタイトルと同じ以下のムービーがヒットしたと報告しています。しかし、この動画の投稿者はライアン・マクベス氏で、動画の中にも「ベン」という名前は登場しません。しかし、動画の中で言及されている「ヨルダン」は英語で「jordan」であり、ジョーダン氏のスペル「jordan」と一致するため、それが原因でAIによる概要が混同した可能性が考えられます。

I Was Wrong About Israel: What I Learned on the Ground - YouTube

AIによる概要は生成AIがトレーニング用のデータから学習して回答しているもののため、不正確な情報や不適切な情報を提供することがあり、「AIによる概要の回答は批判的に検討してください」とGoogleヘルプには記載されています。しかし、GoogleのAIが生成した文章で多大な影響を受けている人が実際にいるため、Googleには責任があるとする意見もあります。