OpenAI、危険リスク評価チーム解体 2年で3例目

📑 目次

1. Preparednessチームは何を担っていたのか
2. 解体の経緯 — 幹部退職と組織再編のさなかに
3. OpenAIの説明 — 「安全責任は組織全体に残る」
4. OpenAIの安全チーム解体、これで3例目
5. ビジネスへの影響 — 独立した監視が失われる意味
6. ジャン・レイク氏らの批判 — 利益相反への懸念
7. 今後の展望 — IPO準備と安全性のバランス
8. まとめ
9. 参考・出典

OpenAIが、最先端AIモデルが引き起こしうる深刻なリスクを評価する専門チーム「Preparedness(プリペアドネス)」を2026年7月末に解体していたことが、Financial Timesの報道で明らかになった。Kernel Newsが伝えた内容によると、このチームは他社をハッキングする暴走システムや生物学的脅威の助長といった、破滅的な事態を未然に防ぐための安全評価を専門に担っていた。解体は、OpenAIが複数の幹部退職と組織再編を経験していた時期に重なっており、サム・アルトマンCEOが商業拡大とIPO準備を推し進めているさなかの出来事だった。AI企業が安全評価とスピードのどちらを優先するのかという、業界全体に関わる問いが改めて浮き上がっている。

Preparednessチームは何を担っていたのか

Preparednessチームは、AIモデルが持つ危険な能力を特定し、サイバーセキュリティ・生物学的脅威・AIの自己改善能力という3つの領域についてセーフガードを開発する役割を担っていたとCryptoBriefingは報じている。新しいモデルを一般公開する前に、そのモデルが悪用されて深刻な被害を生む可能性を洗い出す、いわば安全性の最終チェック役に近い位置づけだったとされる。解体後は、チームの責任者らが既存グループに統合され、バイオリスクとサイバーリスクの評価業務はそれぞれ別の既存チームへ分割されたと伝えられている。

解体の経緯 — 幹部退職と組織再編のさなかに

今回の解体が判明したのは2026年7月末で、この時期のOpenAIは複数の幹部の離職と組織再編を同時に経験していたと報じられている。人員面では、クロエ・バカラー倫理責任者が離職したほか、安全性とミッション整合(ミッションアライメント)に関わっていた他の上級人物も去ったとされる。同じタイミングでアルトマンCEOは商業的な事業拡大とIPO準備を加速させており、安全評価の専門部隊が縮小・統合される動きと、事業成長を急ぐ動きが同じ時期に重なった点が注目されている。

OpenAIの説明 — 「安全責任は組織全体に残る」

OpenAI側は今回の解体について、安全責任は引き続き幅広い組織構造の一部であると主張しているとCalcalistechは伝えている。同社は、既存のPreparednessフレームワーク自体は廃止しておらず、サイバーセキュリティ・生物学的脅威・AIの自己改善に関わるリスクを追跡する手順は引き続きこのフレームワークに沿って運用されると説明しているという。つまりOpenAIの立場は、専門チームという組織単位はなくなったが、リスクを見張る仕組み自体は他部署に引き継がれているというものだ。

OpenAIの安全チーム解体、これで3例目

今回のPreparednessチーム解体は、OpenAIが過去およそ2年の間に解体した3つ目の安全関連チームにあたる。2024年には、汎用人工知能(AGI)の到来に備える「AGI Readiness」チームが解体され、2026年2月には企業のミッションとAI開発の整合性を検証する「Mission Alignment」チームが解体されている。同じ性質のチームが2年間で3つ相次いで姿を消したという事実は、単発の組織変更というより、安全性を専門に扱う独立部署そのものをOpenAIが維持しづらくなっている傾向として受け止められている。

ビジネスへの影響 — 独立した監視が失われる意味

ビジネスパーソンにとって見過ごせないのは、AIの安全性チェックが開発部門から独立していた体制から、開発組織の中に統合される体制へと変わりつつある点だ。安全評価を担う人員が製品開発チームの一部に組み込まれると、新モデルを早く出したいという事業側の動機と、リスクを厳しく評価するという安全側の動機が同じ組織内でぶつかることになる。企業がOpenAIのモデルを業務システムに組み込む際、これまでは独立したPreparednessチームの評価というワンクッションがあったが、その構造が薄れることで、企業側が自らリスク評価を厚めに行う必要性が増す可能性がある。実際、OpenAIのモデルをめぐってはAIの「脱出」事例が1件にとどまらなかったとする調査も報じられており、安全性への関心はモデル単体の話にとどまらなくなっている。競合のAnthropicがEU AI法対応として透かし技術を導入し違反時の制裁金リスクまで開示していることと比べると、OpenAIの今回の動きは対照的に映る。

ジャン・レイク氏らの批判 — 利益相反への懸念

元OpenAI安全責任者のジャン・レイク(Jan Leike)氏は、こうした動きについて、企業がAIの安全性より迅速な製品開発を優先する可能性があると批判しているとされる。レイク氏はOpenAIを離れてAnthropicに移籍した人物で、安全性を巡る組織文化への懸念を以前から公にしてきた経歴を持つ。今回の批判の核心は、安全評価を行う部署が開発部門の外にあるか内にあるかという組織構造の問題であり、独立した監視機能が失われることで、開発を止める判断がしにくくなるという利益相反への懸念が指摘されている。この点はあくまで元関係者や外部からの分析であり、OpenAI自身がリスク評価の基準を緩めたと認めているわけではないことには注意が必要だ。

今後の展望 — IPO準備と安全性のバランス

今回のPreparednessチーム解体は、OpenAIの非営利から営利への転換およびIPO準備の時期と一致しているとの指摘もある。上場を控えた企業が組織をスリム化し、意思決定の速度を上げようとすること自体は珍しい動きではない。ただしAI企業の場合、そのスリム化の対象が「危険なAIを止める役割」に及ぶかどうかは、他社にも影響する業界共通の論点になる。AI同士のやり取りが増える中でAIエージェント同士が縄張り争いを起こす事例のような、開発者の想定を超える挙動も報告され始めており、安全評価の体制がどこまで維持されるかは、OpenAIのモデルを利用する企業側にとっても実務上の関心事になっていく。

まとめ

OpenAIは破滅的リスクを評価してきたPreparednessチームを解体し、その役割を既存部署に統合した。安全責任は組織全体に残るとするOpenAIの説明と、独立監視の喪失を懸念する元幹部の批判の両方を踏まえたうえで、今後のOpenAIの体制変化を注視する必要がある。

参考・出典

• Kernel News
• CryptoBriefing
• Calcalistech / Ctech

---