ポイント:

🔍 法官は偽のAI生成資料を使用した法律事務所に31,000ドルの罰金を科した。

⚖️ 法官はファイルに存在しない多くの法的例子が含まれており、法律引用が歪められたことを発見した。

🤖 弁護士は法的リサーチにAIツールを使用し、必要な確認と審査を行わなかったことを認めた。

先ごろ、カリフォルニア州の裁判官は、補足的な法律文書で開示されていない人工知能（AI）生成の調査資料を使用したとして、2つの法律事務所の行為に強い不満を表明しました。裁判官のマイケル・ウィルナー氏は、先週の判決で、この文書には大量の虚偽、不正確、または誤導的な法的引用や参照が含まれているため、これらの法律事務所に31,000ドルの罰金を科しました。

法と司法審理

画像出典: この画像はAIによって生成され、画像提供サービス「Midjourney」によるものです。

ウィルナー裁判官は判決文の中で、この法律文書を読み、引用されている法例に興味を持った後、それらの法例がまったく存在していないことに気づいたと述べました。その結果、裁判官は誤ってこれらの虚偽の資料を司法命令に引用するところだったと指摘し、「いかなる適格な弁護士も研究や執筆業務をAIに委ねるべきではない」と強調しました。

裁判所の記録によると、State Farmに対する民事訴訟において、原告側の弁護士がAI生成の補足文書のアウトラインを作成しました。しかし、このアウトラインが別の法律事務所であるK&L Gatesに送付された際、その中に含まれていたAI生成の調査資料は実際には虚偽のものでした。ウィルナー裁判官は、これらの2つの法律事務所の弁護士やスタッフがこれらの調査資料を確認または審査することなく、そのまま文書を提出したことを明らかにしました。

文書の検討中に、ウィルナー裁判官は少なくとも2つの引用された事例が存在しないことを発見しました。K&L Gatesに問い合わせた後、再提出された文書にはさらに多くの架空の引用や参照が含まれていることが判明しました。その後、裁判官は弁護士たちに事情を説明するよう求め、最終的に弁護士たちはGoogle GeminiやWestlaw Precisionに含まれる法的リサーチツールCoCounselなど、いくつかのAIツールを使用していたことを認めました。

このような事態は初めてではありません。過去にも弁護士が法廷で架空の事例を引用して摘発されたことがあります。例えば、元トランプ大統領の弁護士であるマイケル・コーエン氏は、Google Geminiの誤解により虚偽の裁判所事件を法的文書に引用したことがありました。また、ある弁護士はコロンビア航空に対する訴訟において、ChatGPTが生成した大量の虚偽事例を含んでいました。

ウィルナー裁判官は判決の中で、最初にAI製品生成の文書原案を明らかにせず提出することは「絶対に間違いであり」、他の弁護士に対してその疑わしいAI起源を伝えることなくこれらの資料を送付することは、専門家を危険にさらす行為だと述べました。