HALBo
📑 目次
米軍の分析官がAIチャットボットに作らせた誤った結論が、軍の正式な報告書の形になって上に回り、中国の船に武装した要員が乗り込む準備の段階まで進んだ。CNNが2026年9月18日に独占報道した。作戦は直前に中止された。
この報道で目を引くのは、AIが間違えたことよりも、その間違いが上へ上がっていった経路だ。間違えたAIと同じAIが、報告書の清書までしていた。AIに調べさせ、同じAIに文書を整えさせ、上司に回す。この流れは、軍に限らず会社員の仕事にもある。
動画で見る（4分14秒）
この記事の核心を、ずんだもんが4分14秒で解説しています。起きたことの順番を追いたいときは、こちらのほうが早いかもしれません。
米軍のAIが「核兵器計画の部品」と誤った経緯
CNNの報道によると、2026年春、米特殊作戦軍（Special Operations Command）の分析官が、AIチャットボットを使って中国籍の船の情報をまとめた。船は中東にいた。TechCrunchは、米国とイランの戦争の時期に起きたことだと要約している。FuturismとTechTimesは、この分析官が太平洋特殊作戦軍（SOCPAC、ハワイ）に所属すると伝えた。
チャットボットは、船の積荷が核兵器計画の部品だと結論づけた。この報告は軍内に出回り、武装した要員が乗り込みの準備をした。軍用機はすでに飛んでいた。作戦は直前に中止された。
ある情報源は、報告の中身を「entirely false（完全な誤り）」と評し、「It almost started a war（戦争を起こしかけた）」と語った。
ここで、どこまで確かかを書いておく。CNNの情報源はすべて匿名で、国防総省とSOCPACは取材のコメント要請に応じていない。使われたチャットボットの製品名は公表されていない。分析官の名前と船の詳細も分からない。一部の報道は、作戦の直前になって報告書をより詳しく調べる判断が下され、AIが使われていたことと、チャットボットが積荷を取り違えていたことが分かったと伝えている。ただ、誰がどう見つけたのかは、報道では明確でない。この記事は、匿名の情報源が語った内容を複数の媒体が伝えた、その範囲で書く。
二度目のAI利用が、間違いに「公式書類」の見た目を与えた
軍には、集めた情報を決まった書式にまとめ、判断する立場の人へ届ける文書がある。情報報告書と呼ばれる。会社で言えば、調べた結果を社内の様式にそろえて上司に出すレポートにあたる。
報じられている流れは次のとおりだ。まず分析官が、公開されている情報と、機密の通信傍受情報（電話や無線などの通信を傍受して集めた情報）を、チャットボットに合成させた。次にチャットボットが、積荷は核兵器計画の部品だという誤った結論を出した。すると分析官は、同じチャットボットを使って、その結論を軍の標準的な情報報告書の体裁に整えた。最後に、体裁の整ったその文書が、評価として指揮系統に回った。指揮系統とは、判断や命令が上官から上官へ伝わっていく経路のことだ。
一見すると「AIが間違えた話」に見える。しかし報道が描いているのは、それだけではない。間違いを出した張本人が、その間違いに公式書類の見た目まで与えている。二度目のAI利用が、一度目の間違いを、正式な評価として扱われる形に変えた。
途中で人が原資料と結論を突き合わせたのか、報告書を受け取った側が中身を確かめたのかは、報道から分からない。分かっているのは、誤りが作戦の準備が進むところまで残ったという結果だ。分析官個人の一回のミスとして片づけるより、確認する段がどこにあったのかを問うほうが、この件の芯に近い。
AIのハルシネーション（幻覚）はなぜ起きるのか
AIがもっともらしい誤りを、確かな事実のように答えることを、ハルシネーション（幻覚）と呼ぶ。今回のチャットボットが、船の積荷を核兵器計画の部品と結論づけたのは、この現象にあたる。
OpenAIは2025年9月の研究で、言語モデルが幻覚を起こす理由を、評価の作りから説明した。分からないと答えるより、何か答えたほうが評価で得をする。そのため、モデルは分からない場面でも答えるようになる、という説明だ。言語モデル（LLM、大規模言語モデル）とは、チャットボットの中で文章を作っている仕組みのことだ。なお、この説明は一般論だ。今回の製品名は公表されていないため、同じ作りかどうかは分からない。
幻覚の例は、すでに法律の世界で報じられている。存在しない証人を裁判で使った件はChatGPT架空証人4人、弁護士に罰金5000ドルとして、ニセの判例で弁護士が制裁された件はChatGPTがでっち上げたニセ判例として、当サイトでも取り上げた。いずれもAIの出力が、正式な書類の形で外に出た例だ。
GovAI（AIガバナンス研究センター）の研究者で、元陸軍将校のジェイク・ステックラー氏は、軍人がLLMに内在する不確実性を理解することが重要だと述べた。とくに、武力行使につながりうる判断で重要だという。CNNによれば、匿名の情報源は「AI allows you to get to a bad idea faster（AIは悪い考えにより速く到達させる）」とも語った。
国防総省の「AI加速戦略」と、指針の不在
報道は、背景となる文脈にも触れている。2026年1月12日、ヘグセス国防長官が「AI加速戦略」を出し、国防総省を「AIファーストの戦争遂行組織」にする方針を示した。
この記事は、方針が今回の誤りの原因だと言うものではない。導入を速く進める方針と、その使い方を決める指針は、別のものとして並べて見る必要がある。
軍でのAI利用をめぐっては、アメリカ政府と軍のAI利用をめぐる別の動きについても、当サイトで書いている。
会社員の仕事にもある、同じ形
軍と会社では、間違いで失うものが違う。ただ、流れの形は同じだ。AIに市場や競合を調べさせる。同じAIに、その結果をスライドやレポートの体裁に整えさせる。それを上司に回す。
体裁の整った資料は、受け取る側には正式に作られた資料に見える。ところが、その中身を人がどこまで確かめたのかは、資料の見た目からは分からない。清書までAIに頼めば、確かめる機会は、調べる段と清書の段のあいだにしか残らない。
自分の仕事に引きつけるなら、確認したい点は3つある。AIの答えを、AIとは別の資料で確かめたか。確かめる前に清書を頼んでいないか。上司に回すとき、どの部分をAIが作ったかが伝わるか。
見ている側もAIだった話は、AIの暴走事故の点数を付けているのもAIだったという記事でも書いた。作る段と確かめる段が同じAIに寄る形は、今回の軍の件とも共通している。
まとめ
匿名の情報源によれば、米軍では、チャットボットの誤った結論を、同じチャットボットが情報報告書に整え、それが指揮系統を上って作戦準備が進み、直前で止まった。AIに答えを出させる段と、その答えを確かめる段を、別の段として置けているか。この報道が私たちに残すのは、その問いだ。
参考・出典
📰 関連ニュース
-
2026-09-30
-
2026-09-27
-
2026-09-26
