殺人事件でChatGPTがでっち上げた証人を提出した米国弁護士が制裁を受ける
ニューメキシコ州最高裁判所は、スティーブン・アーロンズ弁護士に5,000米ドルの罰金を科し、裁判所軽視罪で有罪とした。
アーロンズは、殺人罪で有罪判決を受けた依頼人のための控訴書類に、複数の証人の証言を引用したが、裁判所によれば、これらの証人は実在せず、中には架空の警察官も含まれていた。
アーロンズ自身の話によると、彼はコンピューターで生成された裁判記録をChatGPTに入力し、信頼できる要約を期待したが、その結果を確認しなかったという。
バコン判事は彼を厳しく批判し、裁判手続きにおけるKIの誤りに関する数多くの報告を彼は追っていなかったのかと問いただした。
アーロンズは、KIシステムがどれほど事実をでっち上げることができるかを知らなかったとし、この出来事を誠実なミスであると説明した。
裁判所はこれまでのすべての書類を手続きから削除し、依頼人に新しい国選弁護人を選任し、アーロンズを弁護士懲戒委員会に送致した。
米国では、KIがでっち上げた裁判書類に関する類似の事例が増加しており、他の法律事務所に対する制裁も以前に行われている。
なぜ重要なのか
この事件は、KIシステムが、重大な結果を伴う専門的な文脈でも、説得力のあるが完全に間違った情報を生成する可能性があることを示しています。
今すぐできること
- KIの回答は常に確認する KIが生成したテキストの重要な名前、数字、発言を、独立した信頼できる情報源と照らし合わせる。KIの出力だけを頼りにしてはいけない。
- KIを補助ツールとしてのみ使用する KIが生成したテキストは、自分で校正しなければならない下書きと考える。特に法律、医療、金融の分野では、KIは専門家の代わりにはならない。
- 重要な書類は専門家に確認を依頼する 契約書や申請書などの重要な書類は、実際の専門家に確認を依頼する。これにより、KIが内容をでっち上げた場合に気づくことができる。
- 完璧な要約に対しては懐疑的でいる KIが生成した要約が非常に滑らかで完全に見える場合でも、それが正しいという証拠にはならない。特にそのような場合には、注意深く再確認する価値がある。