Googleで自分の名前を調べたら「AIによる概要」で「10年前に死んだ人物」と回答されたという報告

Googleは2024年5月にGoogle検索の検索結果ページにAIによる回答を記載する「AIによる概要」機能を実装し、同年8月には日本、10月には100以上の国と地域で提供開始しました。AIによる概要は、検索に関連したサイトが表示されるより上にAIの回答が表示されることで、すぐに情報にアクセスしつつ適切なソースを選択しやすくなっています。作家のデイブ・バリー氏が自分の名前をGoogleで検索したところ、AIによる概要が表示され、自分が既に亡くなっていることを知らされた上に、Googleに問い合わせてもまったく改善されなかった体験を語っています。

Death by AI - Dave Barry’s Substack
https://davebarry.substack.com/p/death-by-ai

AIによる概要とは、2024年5月からGoogle検索に導入された新機能で、AIが検索キーワードからユーザーの意図を読み取り、複数のウェブページから情報を収集・要約して、検索結果の上部に表示するものです。以下の画像はGoogleで「AIによる概要」をブラウザで検索してみたところで、AIによる概要の説明が要約されて表示されているほか、右側にはソースリンクが一覧で表示されています。

AIによる概要は、AIで回答や要約が可能な検索プロンプト送信時に自動的に表示されるもので、検索時にAIによる概要を使用するかどうかを決めるものではありません。また、生成AIがトレーニング用のデータから学習して回答しているもののため、不正確な情報や不適切な情報を提供することがあり、「AIによる概要の回答は批判的に検討してください」とGoogleは述べています。

バリー氏がGoogleで「Dave Barry」と自身の名前を検索したところ、AIによる概要としてバリー氏の基本的な経歴の情報と、「よく聞かれる質問」として「What happened to Dave Barry？(バリー氏に何が起きた？)」という質問が表示されたため、バリー氏はその質問をクリックしてみたとのこと。

結果として、AIによる概要は追加で以下のような説明を表示しました。右側に表示されているのはバリー氏の実際の写真で、文の冒頭にある「ユーモア作家で、ピューリッツァー賞を受賞したデイブ・バリー」という説明は、実際にバリー氏は1988年に論評部門でピューリッツァー賞を受賞しているため、正しい情報です。しかし、青くハイライトされている箇所には「昨年(2024年)11月20日にガンで亡くなった」と記載されていますが、バリー氏は2025年7月3日に78歳の誕生日を迎え、ブログを投稿した7月18日時点で存命です。

そこでバリー氏は、AIによる概要について「私はデイブ・バリーです。AIによる概要では私は死んだことにされていましたが、私は生きています」とフィードバックを送信しました。

バリー氏は「Googleは巨大な企業で、個別のフィードバックに反応してくれる暇はないだろう」と予測していたそうです。しかし、フィードバックを送信して間もなく、「デイブ・バリー」とGoogle検索した際のAIによる概要は変更されました。

変更されたAIによる概要は以下の通り。「デイブ・バリーに何があったのですか？」という質問に対し、「デイブ・バリーは、ドーチェスター地域(イギリス)の長年の重要人物であり、2016年1月6日に亡くなりました。彼は舞台裏での政治活動で知られ、さまざまな候補者や社会的な取り組みのために精力的に働き、常に他人を優先していました」と回答されています。

バリー氏がフィードバックを送信した結果、バリー氏の受賞歴など正確な記述は削除され、死亡したという情報のみが優先されて別のデイブ・バリーという人物についての回答に変わりました。新しく概要に出てきた「ドーチェスターのバリー」は地元紙の「Dorchester Reporter」で追悼文が掲載されているように実在した人物ですが、AIによる概要で亡くなった日として記載されていた「2016年1月6日」は追悼文が掲載された日であり、追悼文によると「ドーチェスターのバリー」が亡くなったのは2015年11月20日です。

そこでバリー氏は改めて、AIによる概要にフィードバックを送信しました。フィードバックを送る際に、チャットボックスが表示されたため、Google AIとのチャットを開始しました。

バリー氏：デイブ・バリーです。GoogleのAIによる概要では、私は亡くなっており、生前はドーチェスターで政治活動家だったと表示されています。どちらも真実ではありません。私は死んでいませんし、ドーチェスターで政治活動家になったわけでもありません。

Google AI:申し訳ありませんが、ご質問の意味が理解できませんでした。言い換えていただけますか？短いフレーズでお願いします。

バリー氏：デイブ・バリーです。私は生きています。Google AIは私が死んでいると言っています。私は死んでいません。Google AIは私がドーチェスターの政治活動家だったとも言っています。私はそうではありませんでした。今もそうではありません。

Google AI: 申し訳ございません。まだ理解できていません。もう一度試してみましょう。下のテキストボックスに問題をご説明ください。

バリー氏: 問題は、Google AI が私が死んでいると言っているのに、実際には死んでいないことです。

Google AI：よろしければ、次の選択肢をご覧下さい。「検証済みの主張を解決する」「AIは間違いを犯すことがあり、今後も犯します」「検索と結果の関連性がわかりにくく見える理由」「検索結果の仕組み」「その他」

AIチャットとのやりとりが何の意味もなかったため、バリー氏は改めてフィードバックを送信しました。すると翌日、「デイブ・バリー」に関するAIによる概要は再び変更されていました。新しい概要では、「デイブ・バリーは、ピューリッツァー賞を受賞したユーモアコラムリストで、現在も存命で執筆活動中です」と正しい情報が記載されていました。ただし、2文目以降のより詳細な執筆歴については間違いだらけとなっています。

バリー氏は「答えは依然として大部分が間違っていましたが、私が死んでいないとGoogleのAIが判断してくれたことに感謝しています」と語りました。しかしさらに2日後、改めてGoogleで「デイブ・バリー」と検索し、「What happened to Dave Barry？」という質問をクリックしたところ、作家ではない上に11月20日に亡くなったことにされていました。

バリー氏は今回の経験について、「AIは、専門家によると人類の存在を根底から変えるほどの驚異的な力を持つツールであるそうですが、それほど賢いとは言えません。ですから今のところは、推薦状の作成や政府の政策立案など、事実が重要でない業務にのみ活用すべきでしょう。飛行機の航行のように、高度な精度が求められる業務はAIに任せるべきではありません。少なくとも私はそう思います」とユーモアを交えてまとめています。

バリー氏のブログはソーシャルニュースサイトのHacker Newsでも話題になっており、同じようなAIによる概要で間違った情報が提示された経験が語られています。Google検索のほかGoogleマップなどでも不正確な情報が表示され、フィードバックを送ってもほとんど反映されないことが多く、「これはAIによる概要の問題ではなくGoogle全体の問題です」という指摘がある一方で、Google検索は検索クエリに合致する可能性の高い結果を一番上に表示する改善を繰り返してきましたが、「AIによる概要のAIモデルは高速で低性能なため、情報処理能力が不足している」と反論されるなど、AIによる概要の能力について議論が交わされています。