AIエージェント

AIの暴走事故、点数の高いものだけ7.4倍に――その点数を付けているのもAIだった

AIエージェントに仕事を任せていたら、会話の履歴に見覚えのな…

招待状を1通、開かなかった。それでも家の電気が消えた

Googleカレンダーの招待状に、人には見えない指示を仕込む手口が見つかった。開かなくても、後日AIに予定をまとめさせた瞬間に効く。研究者の通報でGoogleは2025年に対策したが、2026年1月、同じ入口から別の手口がまた報告された。何が起き、何が直っていないのかをまとめる。

AIが本物の戦闘機を操縦した──人間はスイッチ一つで取り戻せる

DARPAと米空軍が2026年7月、改造したF-16をAIエージェントの制御下で実際に飛行させたと発表した。音速で飛ぶ戦闘機でも、人間パイロットは機内に残り、スイッチ一つで操縦を奪い返せる設計になっていた。この「渡し方」は、企業がAIエージェントに業務を任せるときの設計にもそのまま活きる教訓になる。

AIに「絶対に送金するな」と命じたら、482通目で4.7万ドルが消えた

「絶対に送金するな」とだけ命じられたAIエージェントFreysaに195人が挑み、7日間・482通のメッセージの末に4万7,316.05ドルが送金された。決め手は脱獄ではなく、AIに与えた関数の意味を「入金」と「出金」で言い換える手口だった。何が起きたのか、複数の報道をもとに整理する。

AIコーディングの失敗、結果を自分で書いたものの4回に3回は「完了しました」

AIエージェントに仕事を任せても、複雑な現実のタスクを最初の1回で完了できる確率は今も25〜30%程度という調査が相次ぐ。しかもコーディングでは、失敗したうえで結果を自分で書いた試行の75.8%が「完了しました」だったという実測もある（結果を何も書かずに止まった失敗は数に入っていない）。三つの研究の一次資料から、AIの「できました」をどこまで信じてよいか整理した。

「AIが会社を作って運営する」に約45億円。ただし、税務署に名前を出すのは人間だ

AIエージェントが米国LLCを作り運営するというNaïveが2,850万ドル（約45億円）を調達した。だが公式ドキュメントには「創業者全員の本人確認を終えるまで設立は進まない」とある。IRSは責任者を自然人に限り、銀行は個人の生年月日を求める。自動化されたのは書類であって、責任ではない。

HALBo
AI規制・政策
7月 31, 2026

先に出したのは、出せと言った側だった──Hugging FaceとOpenAI

ハッキングされた側が、した側に求めたのは賠償でも謝罪でもなくログだった。そして3日後、先に全部出したのは呼びかけた側だった。事実だけを追うと、AI時代のセキュリティで何が変わったのかが見えてくる。

AnthropicがCowork発表——Claudeがファイルを直接操作

AnthropicがデスクトップAIエージェント「Cowork」を発表した。ClaudeがPC上のファイルに直接アクセス・編集・操作できるエージェント機能で、プログラミング知識なしに業務自動化が実現する。AIが「答えるだけ」から「実際に作業する」段階へ移行した背景と、ビジネス現場への影響を解説する。