AIエージェント、社内評価に合格しても本番で50%が失敗

⏱ 読了約9分3,444 字

📑 目次

何が起きたか——評価合格と本番トラブルの二重構造
「一度できた」は「毎回できる」ではない
So What——無人化が先行するガバナンスの空白
同じ週に広がるエージェントの権限
日本企業にとっての示唆
今後の展望
まとめ
参考・出典

VentureBeatの調査部門VB Pulseが2026年6月に実施した調査で、社内評価をクリアしたAIエージェントやLLM機能を本番展開した企業のうち50%が、展開後に顧客対応の問題を経験していたことが明らかになった。調査対象は従業員100名以上の企業に勤める企業回答者157名。自動評価を完全に信頼していると答えた企業はわずか5%にとどまる一方で、66%の企業はすでに人間のレビューを介さずにエージェントを本番投入しているか、12か月以内にそうする体制を構築中だという。評価に合格したはずのシステムが現場で裏切られる構図が、数字として可視化された形だ。

何が起きたか——評価合格と本番トラブルの二重構造

調査によれば、内部評価に合格したAIエージェントやLLM機能を本番環境に展開した企業のうち50%が、その後に顧客対応上の問題を経験している。さらに全体の25%は、こうした失敗を複数回経験したと回答した。一方で、自動評価の結果を完全に信頼していると答えた企業はわずか5%だった。評価を信頼しない理由としては、29%が「実世界の結果との不整合」、21%が「バイアスまたは不整合性」、18%が「説明責任の欠如」、17%が「データ漏洩またはプライバシー懸念」を挙げている。

なお本調査は確率標本ではなく自己選択標本によるものであり、対象は従業員100名以上の企業に勤める適格な回答者157名にとどまる。VB Pulse自身も、結果は厳密な母集団推計ではなく業界の方向性を示すものとして解釈すべきだとしている。この点は割り引いて読む必要があるが、評価の合格が現場での安定運用を保証しないという実感を数字にした調査として、一定の参考価値がある。

「一度できた」は「毎回できる」ではない

この調査の核心は、能力と一貫性を混同してはならないという指摘にある。あるタスクを一度うまくこなせたという実績は、そのエージェントがタスクを完遂できる能力を持つことを証明するが、今後も同じ精度で繰り返し完遂できることまでは証明しない。人間の採用面接で一度の受け答えだけを見て、その後の実務遂行能力すべてを保証できないのと同じ構造だ。多くの企業の内部評価は、限られたテストケースに対する一度きりの合否判定にとどまっており、実運用で繰り返し発生する例外処理やエッジケースへの対応力までは検証できていない可能性がある。

実際、AIエージェントが本番環境で引き起こすトラブルは、2026年に入ってから相次いで報告されている。2026年に起きた主要なAIエージェント関連事故の記録を振り返ると、いずれも社内テストの段階では見過ごされていた挙動が、実際のユーザーとのやり取りの中で表面化したケースが目立つ。評価の合否という一点だけでシステムの信頼性を判断することの危うさが、こうした事例の積み重ねからも見えてくる。

So What——無人化が先行するガバナンスの空白

ビジネスへの影響として最も重い点は、評価への不信と権限委譲の拡大が同時に進んでいるという矛盾だ。自動評価を信頼している企業がわずか5%しかいないにもかかわらず、66%の企業はすでに人間のレビューなしでエージェントを本番投入しているか、12か月以内にそうする仕組みを構築中である。VB Pulseの記事を執筆したTrace Cohen氏は、これは技術的な問題ではなくガバナンスの失敗だと指摘する。評価基準を疑いながらも権限だけは先に手放してしまう企業が多数派になりつつある、という状況そのものが構造的なリスクだといえる。

企業規模で見ると、この傾向は特に大企業で顕著だ。従業員2,500名以上の大企業では70%が無人運用への移行を進めているのに対し、それより小規模な企業では64%にとどまる。大企業の方がやや先行している形だ。興味深いことに、評価合格エージェントの本番失敗を経験した割合も大企業の方が高く54%、小規模企業では48%となっている。組織の規模が大きく展開スピードが速い企業ほど、失敗の経験値も無人化への意欲も両方とも高いという構図が浮かび上がる。

モニタリング体制にも同様の偏りがある。エージェントの出力そのものをリアルタイムで品質チェックしている企業はわずか23%にとどまり、51%は稼働状況やログの確認といったシステムヘルス監視にとどまっている。つまり大半の企業は「動いているかどうか」は見ているが、「正しく動いているかどうか」までは見ていない。この差が、顧客対応の現場で問題が起きて初めて不具合が発覚するというタイムラグを生む一因になっていると考えられる。同種の調査では、AIエージェントを導入した企業の54%が何らかの事故を経験し、69%が認証情報を複数のエージェント間で共有していたとする別の実態調査も報告されており、評価の甘さと権限管理の甘さが並行して進んでいる可能性がある。

同じ週に広がるエージェントの権限

この調査結果が公表されたのは、OpenAIがメールやカレンダー、共有ドキュメントへの書き込み権限を持つエージェント機能「ChatGPT Work」を展開したのと同じ週だった。企業向けAIエージェントが実務データへのアクセス範囲を広げるタイミングと、評価の信頼性に対する疑念が数字で裏付けられたタイミングが重なったことは、業界にとって示唆的だ。権限の拡大が先行し、検証体制の整備が追いつかない状態が続けば、同種の問題は今後も繰り返される可能性がある。

日本企業にとっての示唆

この調査は米国企業を中心とした自己選択標本によるものであり、日本企業にそのまま当てはまるとは限らない。それでも、AIエージェントの導入を検討する企業にとって示唆は小さくない。社内評価に「合格」というラベルが付くと、それだけで安心してしまいがちだが、今回の数字が示すのは、合格はあくまで出発点であり終着点ではないという事実だ。人間のレビューを外す判断を下す前に、エージェント出力のリアルタイム品質チェック体制がどこまで整っているか、実施率が23%にとどまるという現状を自社の体制と照らし合わせて点検する価値があるだろう。

今後の展望

今回の調査結果を踏まえると、企業に求められるのは自動評価への過信でも、逆に人間によるレビューへの全面回帰でもなく、両者を組み合わせた継続的な検証体制の構築だろう。一度の評価合格をゴールとせず、本番投入後もリアルタイムでの品質チェックを継続する仕組みが、無人化を進める上での前提条件になっていくとみられる。導入企業の関心は今後、エージェントに「何ができるか」から「どれだけ安定して任せられるか」へと移っていく可能性が高い。今週のAIニュースでも指摘されているように、エージェントを巡る事故と競争は同時並行で進行している状況であり、評価・監視体制の整備は各企業にとって避けて通れない課題になりつつある。