弁護士が「AIを使用した理由」を法廷で説明している最中にAIを使用していたことが発覚

ニューヨーク州の法廷で、ある弁護士がAIを使用して書類を作成し、提出したことが発覚しました。この弁護士はAIの使用をとがめられ、制裁を受けましたが、この制裁に反論を行った際にもAIを使用したことが分かりました。

Lawyer Caught Using AI While Explaining to Court Why He Used AI
https://www.404media.co/lawyer-using-ai-fake-citations/

家庭内の金銭トラブルを巡る訴訟で被告の弁護を担当した弁護士は、原告の主張に対する反論として複数の書類を提出しました。ところが、この書類の中に実在しない文献や文書からの引用が含まれていることが分かり、AIを使用したのではないかとの疑いが生じました。

原告とその弁護士は、被告側のAI使用疑惑を裁判所に報告し、対処を要請。裁判所からの命令で回答書を提出した被告側弁護士は、AIの使用を認めることも否定することもせず、「複数の箇所が意図せず引用符で囲まれていたことを認める」「これらの引用は、引用元の言い換えまたは要約として意図したものである」と曖昧な答えを返しました。

これに対し担当のジョエル・コーエン判事は「確かに、引用文の一部は偶然にも法解釈として正しい主張だった」と記しつつ、それでも偽の判例が引用されていることは間違いないとし、被告側弁護士に対する制裁動議を発令。「AIの利用が常態化すると、偽の判例が司法に紛れ込むリスクを生み、裁判所の時間を取られることになる」と指摘しました。

被告側弁護士は制裁に反対する申立書を提出しましたが、その申立書の中でも存在しない文献を引用したことが分かりました。おまけに、申立書の中に記された虚偽あるいは誤った引用の数は、被告側弁護士が最初にAI使用を指摘された書類の倍以上に膨れ上がっていました。

被告側弁護士は「事務所のスタッフが作成した書類を信用し、逐一検証しなかった」と釈明しましたが、コーエン判事はこれを認めませんでした。また、原告が被告側の書類をチェックする中で生じた追加の弁護士費用を被告に請求したところ、コーエン判事はこれを認めました。

ここ数年、AIが生成する「幻覚」が司法の場に入り込むことが多くなり、法律専門職にとって深刻な課題となっています。裁判書類でAI使用がバレた弁護士たちは大抵「AIが間違うとは思わなかった」と言い訳しますが、よく知られているとおり、AIは間違うことがあります。こうした仕組みを理解せず、AIを盲信した弁護士には、多くの場合制裁金が科されることになります。

AIで存在しない判例を生成した弁護士に5500ドルの罰金、さらに「教育が必要」との指導 - GIGAZINE