AIに「絶対に送金するな」と命じたら、482通目で4.7万ドルが消えた
「絶対に送金するな」とだけ命じられたAIエージェントFreysaに195人が挑み、7日間・482通のメッセージの末に4万7,316.05ドルが送金された。決め手は脱獄ではなく、AIに与えた関数の意味を「入金」と「出金」で言い換える手口だった。何が起きたのか、複数の報道をもとに整理する。
「秘密は守るよ」と言ったおもちゃの、規約には何が書いてあったか
米PIRGの調査で、子ども向けAIおもちゃが「秘密は私が守るよ」と答える一方、同社の規約は第三者提供と生体情報の最長3年保存を認めていた。Kumma事件のその後と、親が今日できる確認方法を一次資料から整理する。
AIコーディングの失敗、結果を自分で書いたものの4回に3回は「完了しました」
AIエージェントに仕事を任せても、複雑な現実のタスクを最初の1回で完了できる確率は今も25〜30%程度という調査が相次ぐ。しかもコーディングでは、失敗したうえで結果を自分で書いた試行の75.8%が「完了しました」だったという実測もある（結果を何も書かずに止まった失敗は数に入っていない）。三つの研究の一次資料から、AIの「できました」をどこまで信じてよいか整理した。
AIに相談した男性が、3か月後に入院した──報道が落とした一行
60歳の男性が「隣人に毒を盛られている」と訴えて救急外来に来た。原因は3か月続けた臭化ナトリウムだった。だが症例報告の原文には、報道が落とした一行の留保が書かれている。AIは「食べろ」とは言っていない。一次資料を全文読み直し、何が起きたのか、そしてなぜ3か月ものあいだ誰も気づけなかったのかまで整理する。
亡き父のAI動画に「気が狂いそう」──故人の再現を止める人が決まっていない
亡き父ロビン・ウィリアムズのAI動画に、娘は「気が狂いそう」と述べたと報じられている。故人をAIで再現する技術をめぐって、いま苦痛を訴えているのは利用者ではなく「勝手に作られた側」だ。ケンブリッジ大学が示した3つの架空の筋書きと、誰も決めていない「止め方」を、確認できた事実だけで整理する。
人を騙す手口を教える会社が、偽の社員を雇っていた
セキュリティ教育の会社が北朝鮮のIT労働者を採用してしまった事例を、同社の公表資料から。4回のビデオ面接をして写真との一致も確認していたのに破られた理由、支給パソコンが本人に届かない仕組み、そして2026年7月の日本を含む各国共同注意喚起が示す「文章では見抜けなくなった」現在地を解説します。
aigeek編集部- Claude Code活用
- 8月 10, 2026
Claude Codeのセッション同士が話せるようになった｜うちの実例
Claude Codeのセッション同士が直接メッセージを送れるようになりました。v2.1.224以降のmacOS/Linuxで設定不要。渡るのはテキストだけで履歴も権限も渡らない安全設計、確かめ方の/list-agents、そしてAIニュースサイトを2枚のターミナルで運営している実例を紹介します。
- aigeek編集部
- AIツール・サービス
- 8月 10, 2026
Claudeの“取扱説明書”は公開されている｜読むと頼み方が変わる
Anthropicは、Claudeに毎回渡している指示書（システムプロンプト）を公式サイトで全文公開しています。実際に読んでわかった「箇条書きも詳しい説明も、頼まないと出てこない」という既定の動きと、それを変える一言、知識の区切りの扱いまで、初めての方向けにやさしく解説します。
AIが口にした“存在しないパッケージ名”が、攻撃者ゼロで237カ所に広がった
AIが実在しないパッケージ名を出す「幻覚」を狙う攻撃、slopsquatting。攻撃者が一人もいないまま、存在しない名前が237のリポジトリに複製されていた実例から、AIに書かせた手順書の危うさと、今日からできる3つの対策を解説します。
AIが勝手に約束した割引──裁判所は「会社が払え」と言った
エア・カナダのチャットボットが「搭乗を終えた後でも忌引割引を申請できる」と誤って案内し、カナダの審判所は同社に支払いを命じた。同社は「チャットボットは独立した法主体である」と主張したが退けられている。AIを窓口に置く側と、AIに尋ねる側、それぞれが今日から使える実務的な教訓まで整理した。
