ChatGPTが実在しない証人4人を捏造、米弁護士に罰金5,000ドルの侮辱罪

⏱ 読了約8分3,236 字

📑 目次

ChatGPTが生成した「4人の証人」
「ハルシネーション」とは何か
裁判所の判断—罰金5,000ドルと懲戒委員会への付託
なぜ「知らなかった」では済まないのか
ビジネスパーソンへの教訓—AIの出力は「下書き」でしかない
今後の展望
まとめ
参考・出典

殺人事件の控訴書に、実在しない証人4人分の証言が書き込まれていた。作成したのはニューメキシコ州の刑事弁護士で、原因はChatGPTだった。同州最高裁判所は2026年9月9日付の命令で、この弁護士に罰金5,000ドルの侮辱罪を科し、弁護士懲戒委員会への付託も決定した。Al Jazeeraが報じている。裁判所に提出する公式文書に、AIが作った架空の情報がそのまま載ってしまった今回のケースは、仕事でAIを使うすべての人に関わる問題を映し出している。

ChatGPTが生成した「4人の証人」

事件の当事者は、サンタフェを拠点とする刑事弁護士のスティーブン・アーロンズ氏である。アーロンズ氏は、殺人罪で有罪判決を受けたオスカー・ルネ・サンドバル被告の控訴を担当していた。控訴書を準備する過程で、裁判記録の書き起こしなどをChatGPTに読み込ませ、内容を整理した「確実な要約」が得られると考えていたという。The Vergeによると、実際に出力されたのは、Officer Michelle Amarillo、Officer Sanchez、Manal Al-Jibury、Teresa Marquezという名で識別された4人の人物による証言だった。だが、この4人は誰一人として実際にはそのような証言をしていない。出力には「射手は濃い色のズボンと白いシャツを着ていた」という、裁判記録のどこにも存在しない供述まで含まれていた。

「ハルシネーション」とは何か

ChatGPTのようなAIが引き起こしたこの現象は、業界で「ハルシネーション(幻覚)」と呼ばれる。文章を読んでいかにも本当らしく見えるが、実際には存在しない事実や引用をAIがもっともらしく作り出してしまう現象を指す言葉だ。AIは文章として自然なつながりを優先して言葉をつなげる仕組みで動いており、書いてある内容が事実かどうかを自分で確認する機能を持たない。そのため、実在の裁判記録を要約させたつもりが、実在しない証人の名前や発言を「それらしく」補って出力することが起こり得る。

裁判所の判断—罰金5,000ドルと懲戒委員会への付託

アーロンズ氏は2026年8月21日の審問で、AIが生成した事実主張や法的根拠を自ら検証しないまま署名し、裁判所に提出したことを認めた。Detroit Newsによれば、同氏は「正直な誤りとして捉えてほしい」と述べ、ChatGPTがどの程度ハルシネーションを起こすものか理解していなかったと弁明した。しかし審理を担当したベーコン判事は、「AIのハルシネーション問題は毎日のように報道されている」と指摘し、弁護士の「知らなかった」という説明に懐疑的な姿勢を示した。最終的にニューメキシコ州最高裁は、直接侮辱罪として罰金5,000ドルを科すとともに、この件を弁護士懲戒委員会へ付託することを決定した。アーロンズ氏はサンドバル被告の担当から外れた。ただし今回の制裁は弁護士に対するもので、控訴そのものは続いている。Al Jazeeraによれば、控訴は係属中で、2026年9月2日にニューメキシコ州の公選弁護人キム・チャベス・クック氏へ引き継がれた。

なぜ「知らなかった」では済まないのか

AIが生成した架空の判例や引用によって弁護士が制裁を受けた例は、今回が初めてではない。2023年にも米国の別の訴訟(Mata v. Avianca)で、ChatGPTが実在しない判例を6件でっち上げ、それを裁判所に提出した弁護士が制裁された前例がある。それでもなお同種の問題が繰り返されているのは、AIの出力を「便利な要約」として無条件に信頼してしまう心理が根強いためだろう。裁判所という、事実の正確さが何よりも重視される場でこの種の誤りが起きたことは、AIの検証を怠った代償がいかに大きいかを示している。本サイトでも、AIが記録した内容が法廷でどう扱われるかを巡る動きを別の記事で取り上げているが、AIの出力そのものが裁判の争点になる場面は今後さらに増えていくとみられる。

ビジネスパーソンへの教訓—AIの出力は「下書き」でしかない

この事件が示す教訓は、法律の専門家に限った話ではない。取引先への提案書、社内向けの報告資料、契約条件の要約など、日々の業務でAIに文章の生成や要約を任せている人は多いはずだ。しかしAIが返す固有名詞・数字・引用は、たとえ文体が自信に満ちていても、それだけでは事実である保証にならない。今回のケースでは、実在しない人物の名前まで具体的に生成されており、「もっともらしい詳細」ほど疑ってかかる必要があることを物語っている。

実務での対策はシンプルだ。第一に、AIが出した固有名詞・数字・引用は必ず元の資料と一件ずつ突き合わせる。第二に、元データを直接参照できない内容(架空の会話や存在確認が取れない人物など)は、そのまま採用しない。第三に、重要な文書ほど「AIの下書きを人間が検証してから提出する」という手順を省略しない。裁判所への提出書類でこの手順が抜け落ちたために、担当弁護士は罰金と懲戒処分という重い代償を払うことになった。ビジネスの現場でも、検証を飛ばした資料が取引先や顧客に渡れば、同様に信用を損なうリスクがある。裁判所でのAI利用を巡っては、提出書類にAIへの指示文が紛れ込んでいたケースで制裁が科された別の事例も報じられており、書類作成のどの段階でAIが関与したかを本人が把握しきれていない状況が繰り返し問題になっている。

今後の展望

今回の事件を受けて、法曹界ではAI利用に関するガイドラインの整備が一段と進む可能性がある。すでに一部の裁判所では、AIを使って作成した書面にその旨を明記させる運用が始まっているとされる。一方で、AIを業務に取り入れる動き自体は今後も止まらないだろう。問われているのはAIを使うかどうかではなく、AIが出した内容を人間がどこまで検証してから世に出すか、という運用の設計だ。