OpenAIとAnthropicの安全装置、安全業務を止める

📑 目次

1. OpenAIとAnthropicの安全対策で何が起きているのか
2. 航空宇宙・ロボット・セキュリティ開発者が挙げた具体例
3. Claude Codeの課題報告 #84821：誤判定を報告すると、次の警告を招く
4. OpenAIとAnthropicはどう説明しているか
5. So What：安全装置が止める相手を、導入側は確かめておく
6. まとめ
7. 参考・出典

AIの安全装置が、安全に取り組む開発者の仕事を止めている。VentureBeatは2026年9月30日、OpenAIとAnthropicの安全対策が、航空宇宙・ロボット・セキュリティ分野の開発者の日常業務を危険な依頼と誤って判定していると報じた（VentureBeat）。GitHub上のClaude Codeの課題管理ページにも、同種の報告が複数ある。安全装置は悪意のある人を止めるものだと考えがちだが、現場では安全や防御の仕事をする人ほど引っかかりやすい。AIを業務に入れる企業にとって、無視できない話だ。

OpenAIとAnthropicの安全対策で何が起きているのか

AIの安全装置とは、利用者の依頼を事前に読み取り、悪用されそうな内容なら応答を止める仕組みを指す。依頼文を「危険」か「無害」かに振り分けるプログラムが中心で、専門的には分類器と呼ばれる。止められた側から見ると、依頼が拒否されるか、別のモデルに自動で切り替えられる。

VentureBeatによると、OpenAIの開発者向けイベント「Dev Day」の発表後、航空宇宙・ロボット・セキュリティの分野で「ふつうの作業が危険と判定される」という報告が相次いだ。背景にはAIコーディングエージェント、つまりプログラムの作成や修正を自分で進めるAIの普及がある。同記事はJetBrainsの調査を引き、プロ開発者の90%が週に1回以上これを使っていると伝えている。使う人の数が多いほど、誤判定の影響を受ける人も増える。

航空宇宙・ロボット・セキュリティ開発者が挙げた具体例

同記事に登場する開発者の証言は、分野ごとに引っかかる場所が違う。

MIT大学院生のアレハンドロ・カラスコ氏は、シミュレーション上の衛星でLLM（大規模言語モデル）を使ったエージェントを試験している。「宇宙部門で作業しているので、モデルが軍事関連と誤解する」と語り、Claudeのほうが「より厳しい」と述べた。

マーティン・ケムカ氏は、ロボットアーム用の操作画面づくりやSSH接続といった、ごく単純な作業でも多くの拒否を受けると話す。SSHは、離れた機械に安全につなぐための標準的な方法だ。物理的な機械へのアクセスを求める依頼で制限が強まる傾向があるという。

ローハン・バルコンデカル氏は「サイバーという単語を言うと、即座に『ノー』と返される」と語った。特に、オープンソースのプログラムに弱点がないかを読んで確かめる作業が引っかかるという。この作業は、攻撃を防ぐ側が日々行う仕事である。

Prompt Engineering Guideの著者エルビス・サラビア氏は「本当にイライラする」と述べ、Anthropicの制限への不満を理由に購読を解約してGPT-6 Astraに移った。開発者の対策としては、Moonshot AIのKimiやアリババのQwenといったオープンソースモデルへの移行も挙がっている。

Claude Codeの課題報告 #84821：誤判定を報告すると、次の警告を招く

匿名の利用者の体験談ではなく、手順が追える記録もある。AnthropicのClaude Codeの公開リポジトリに2026年8月7日に投稿されたIssue #84821は、「not planned」（対応予定なし）としてクローズされている。

投稿者は、手元のC++プログラムとllama.cppの作業中に最初の誤判定を受けた。llama.cppは、AIモデルを自分のパソコンで動かすためのオープンソースのプログラムだ。問題はその後に起きた。同じ作業画面で、その誤判定を報告して原因を調べようとすると、その会話自体が次の警告の最も強い引き金になったという。

記録では、8月5日の21時01分から21時26分までに4回、8月7日の13時12分から13時16分までに5回拒否され、作業画面全体が使えなくなった。新しい作業画面で同じ記録を分析させると、拒否は0回だった。投稿者は「A conversation ABOUT a false positive is not cyber-offensive content.」（誤判定についての会話は、サイバー攻撃の内容ではない）と書いている。

警告の文面は、要旨として次の内容だった。Fable 5の安全装置がこのメッセージを検知した。意図的に広く設定しており、より多くの機能を早く届けられる一方、正当なコーディング、サイバーセキュリティ、生物学の作業を検知することがある。Opus 5に切り替えた。文面はフィードバックの送信を促す。しかし、誤判定の内容を書くこと自体が新しい警告を呼ぶ。直すための報告の入り口が、止まる場所と重なっている。

同種のIssueは#89087、#97719、#97599、#99123にもある。本稿はこれらの中身を確認していないため、件数以上のことは言えない。

OpenAIとAnthropicはどう説明しているか

両社とも、問題があること自体は認めている。OpenAIはGPT-6 AstraとGPT-6.1 Solで、無害な依頼の拒否が減ったと主張する。一方で、追加の安全チェックが正当な作業を遅らせる可能性も認めた。そのうえで、信頼された利用者に絞って制限を緩める「Daybreak Access」というプログラムを用意している。

Anthropicは、Fable 5.1でサイバーセキュリティ保護が改善され、Claude Codeの1回の作業画面あたりの介入が約60%減ると発表した。介入とは、拒否や別モデルへの切り替えを指す。ただし、この60%はAnthropicの発表であり、第三者による検証は今回の材料に含まれない。同社は、侵入を模擬して弱点を探すペネトレーションテストなどが、引き続き別経路に振り分けられることも認めている。Fable 5.1の位置づけはClaude Fable 5.1の発表を扱った記事で整理している。

OpenAIは、防御目的のサイバー作業を含む正当な作業が止まることがあると認めている。2社とも、止まる場合があること自体は否定していない。

So What：安全装置が止める相手を、導入側は確かめておく

今回の話の要点は、安全装置が悪い人を止める道具として設計されながら、実際には「専門性が高い人」を止めている点にある。防御側の開発者は、攻撃の手口を知っていなければ守れない。ロボットや衛星の開発者は、物理的な機械や軍事に近い言葉を日常的に使う。安全の仕事に近い人ほど、危険な言葉に近づく。装置は言葉の近さで判定するため、この組み合わせで誤判定が起きやすい。

導入する企業の側で、確かめておくことが3つある。1つ目は、自社の業務が止まりやすい分野に当たらないか、本番の前に実際の作業で試すことだ。2つ目は、止まったときの逃げ道を決めておくことだ。OpenAIのDaybreak Accessのように、信頼された利用者向けの枠が用意されている。3つ目は、誤判定を報告する手段が使えるかを確認することだ。#84821の例では、報告しようとするほど止まった。

乗り換えの動きも出ている。開発者の一部はKimiやQwenなどのオープンソースモデルに移った。ただし、安全装置が弱いほうを選ぶという判断は、自社の情報管理や責任の問題にもつながる。止まる時間と、止めない場合のリスクを、同じ単位で比べて決めたい。

競合の動向も見ておく価値がある。OpenAIは専門タスク向けのOpenAI「GPT-5.6-Cyber」を出している。AIがサイバー分野で実際にどこまで動くかは、Geminiが3社に侵入し、止めたのはAI自身だったテストでも伝えた。安全装置を強める理由は実在する。その強さの副作用が、守る側の仕事に及んでいる。

まとめ

VentureBeatの取材とGitHub上の利用者報告から見えるのは、安全装置が安全に取り組む人の仕事を止めている現場だ。両社は誤判定を認めて改善を進めているが、改善の幅を示す数字は自社の発表にとどまる。AIを業務に入れるなら、自分たちの仕事が止まる側に入るかを先に試しておきたい。

参考・出典

• VentureBeat：Developers say OpenAI and Anthropic safeguards are flagging routine work and costing them time（2026年9月30日）
• GitHub anthropics/claude-code Issue #84821
• aigeek.biz：Claude Fable 5.1 キャッシュ料金75%減
• aigeek.biz：OpenAI「GPT-5.6-Cyber」

---