米ニューヨーク州南部地区の連邦地方裁判所は、先日米人工知能研究所・Open AIが開発したAIチャットボット「ChatGPT」が出力した存在しない判例を引用した裁判資料を提出したとして、話題となっていた弁護士に対して、5,000ドル（約72万円）の罰金の支払いを命じた（pdfが開きます）。ネットでは「現場猫」「AIに代わられるのは、まだ先の話」などと話題となっている。
-
AI生成の判例を引用した弁護士に、約72万円の罰金命令
ことの発端は、とある男性が、米ニューヨーク行きの飛行機内で配膳カートが膝に当たり負傷したとして、アビアンカ航空を訴えた訴訟だ。この訴訟は、もともとニューヨーク州裁判所で提訴されたが、ニューヨーク州南部地区連邦地方裁判所に移されている。当初は、米ニューヨーク州にあるLevidow, Levidow & Oberman法律事務所のSteven Schwartz弁護士が担当していたが、彼は連邦裁判所での弁護士資格を持っていなかったため、移送後は同じ事務所のPeter LoDuca弁護士に担当が変わったという。
この訴訟では航空会社側が、訴訟の却下を求めたが、これにSchwartz弁護士が猛反対。この訴訟に関連する判例を引用する準備書面を作成していた。担当が変わった後も、Schwartz弁護士が引き続き準備書面を作成し、LoDuca弁護士名義で提出していたそうだ。しかし、この提出された書類に記載されていた判例のうち、6件はOpen AIが開発したAIチャットボット「ChatGPT」が出力したもので、実在しないものだったことが判明したのだ。
Schwartz弁護士は「判例が捏造されるとは考えていなかったので、そのような観点から見ていなかった」と証言。LoDuca弁護士は、Schwartz弁護士と25年来の同僚であり、作成した文書が信頼に足るものであると信じて、正確性のチェックを怠っていたのだそうだ。
連邦地裁判事は、弁護士がAIを利用することは「本質的に不適切」なことではないが、「提出書類の正確性を確保するために、弁護士には門番的な役割が課せられている」とコメントした。
ネット上では「過去にAIにとって代わられると危惧されていた職業に弁護士があったと思うけど、まだ先の話でありそうだね。」「現場猫」「その判例の真偽を調べるのもそのうちAI任せになるんだろうなぁ。」「原典を確認しないということが本当にありうるのか」などの声が寄せられた。
