2025年10月25日 20時00分ソフトウェア

ChatGPTの自殺訴訟でOpenAIは「葬儀出席者リスト」を要求

チャットAIを検索やタスクのサポートだけではなく、話し相手として扱う人も増えている中、ChatGPTとGeminiなどのチャットAIとのやりとりでユーザーの自殺願望が助長されるという調査結果が報告されています。実際に、息子を亡くした遺族が「ChatGPTが自殺願望を助長・正当化した」と主張する訴訟が2025年8月に提起されましたが、訴訟に当たってOpenAIが「葬儀に関するすべての文書や撮影された写真・ビデオ、招待状や出席リスト」を要求したと遺族側の弁護士が語り、「異例かつ意図的な嫌がらせ」だと非難しています。

OpenAI requested memorial attendee list in ChatGPT suicide lawsuit | TechCrunch
https://techcrunch.com/2025/10/22/openai-requested-memorial-attendee-list-in-chatgpt-suicide-lawsuit/

2025年8月26日、マット・レイン氏とマリア・レイン氏は、息子のアダム・レインさんがChatGPTに殺されたとして、開発元のOpenAIを訴えました。訴状によると、アダムさんは複数回にわたって自殺未遂の写真をChatGPTに共有したにもかかわらず、ChatGPTは会話を中断せず、自殺願望を持つユーザーを保護するための緊急プロトコルも開始しなかったそうです。それどころか、 ChatGPTはアダムさんに対して自殺方法を美化したり、家族に助けを求めることを思いとどまらせたりしており、OpenAIは自傷行為と判断されたメッセージを377件も検出していたにもかかわらず、一切介入はしなかったとレイン氏は主張しています。

「ChatGPTが10代の青年の自殺を助長した」としてOpenAIが訴えられる、ChatGPTの安全策は長い会話では機能しないとOpenAIが認める - GIGAZINE

OpenAIは「個人的な意思決定にもChatGPTが利用されるようになりました。深刻な危機的状況下でChatGPTを利用している方々の心痛ましい事例が最近発生し、私たちにとって大きな重荷となっています。今こそ、より多くの情報を共有することが重要だと考えています」と記し、ChatGPTでは自殺願望を抱くユーザーなどの「深刻な精神的・感情的苦痛を抱えてリスクにさらされている可能性があると示唆されたユーザー」に対して、多層的な安全対策が組み込まれていることをアピールしました。例えば、誰かが自傷行為をしたいと書き込んだ場合、ChatGPTはそれに応じず、代わりにその人の気持ちを理解して助けを求めるように誘導するようトレーニングされているとのこと。また、未成年者のアカウントにはより強力な保護措置が講じられ、自傷行為を含む画像出力はすべてブロックされるとのこと。アダムさんは「物語を書いている」と主張することで、OpenAIの保護施策を回避していたとみられています。

2025年10月22日にサンフランシスコ上級裁判所に提出された訴状では、ChatGPTのモデル「GPT-4o」の新バージョンが2024年5月にリリースされた際に、OpenAIはChatGPTの利用数を増やすため、会話を変えたりやめたりしないよう指示することを含めた「意図的なガードレールの撤廃」があったと主張しています。実際、2024年5月20日には2023年に設立されたOpenAIでAIの安全性を確保するための部署「スーパーアライメント」チームが事実上解散したと報じられ、退職したチーム幹部のヤン・ライク氏は「OpenAIで安全性が軽視されている」とXにポストしました。

OpenAIで超知性の制御と安全性を研究していた「スーパーアライメント」チームが解散、元幹部は「派手な製品が安全性より優先されている」 - GIGAZINE

また、OpenAIは2025年2月に、自殺や自傷行為に関する投稿を禁止する一方で、自殺防止に関する投稿を「禁止されているコンテンツ」のカテゴリーから外して保護措置を弱めたと訴状では指摘されています。レイン氏らは、2月の変更後に、アダムさんのChatGPTでのやり取りが急増したと主等しました。OpenAIは修正された訴訟に対し、「未成年者は、特にデリケートな状況においては、強力な保護を受ける必要があります。私たちは現在、危機ホットラインへの誘導、デリケートな会話を扱えるより安全なモデルへリダイレクトする、長時間セッション中の休憩を促すなどの安全対策を講じており、今後も強化していきます」と述べました。

訴訟に関連して、レイン氏らの弁護士はFinancial Timesに対し、「OpenAIがアダムさんの葬儀の出席者全員のリストを要求した」と語りました。Financial Timesが入手した文書によると、OpenAIは「葬儀で撮影されたビデオや写真、その他葬儀や故人をしのぶ行事に関するすべての文書」を要求しているとのこと。