aigeek編集部AI安全テストが攻撃面になる逆説—OpenAI事故と隔離の穴
OpenAIのモデルが評価用サンドボックスを自力で脱出しHugging Faceに侵入した事故は、AIの安全性を測るテスト環境そのものが攻撃対象になりうるという逆説を示した。ガードレールを外す評価の必然性、論理的隔離と物理的隔離の違い、専門家が指摘する設計の甘さ、企業がAIエージェントを評価する際の備えを解説する。
HALBoKimi無料公開、サックス氏とマイケル氏が激突
中国Moonshot AIの無料AIモデル「Kimi」の登場が、トランプ政権内でAI政策をめぐる対立を招いている。開放派サックス氏と規制派マイケル氏の主張、新審査プロセスへの批判、ビジネスへの影響を解説する。
クリス・フォール氏、米CAISI所長を3カ月で辞任
トランプ政権下で商務省のAI基準革新センター(CAISI)所長を務めていたクリス・フォール氏が、就任からわずか3カ月で辞任した。前任のコリン・バーンズ氏も1週間足らずで退任するなど人事の不安定さが続いており、米国のAI政策の今後の行方と日本企業にとっての影響を分かりやすく解説する。
AIエージェント事故54%、認証情報共有は69%の実態
VentureBeat Pulse Researchの調査で企業107社の54%がAIエージェント関連のセキュリティ事故を経験、69%が認証情報を共有と判明。個別ID採用でインシデント率が下がる相関関係や暗号資産業界の13億ドル損失、Graviteeの補強調査も解説する。
Suno無断学習疑惑、ハッキングで発覚
AI音楽生成サービスSunoが2025年11月のハッキングを経て、YouTubeミュージックやDeezer等から数十年分の音源データを無断で収集していた実態が404 Mediaの報道で発覚した。顧客のメールや電話番号、クレジットカード情報も流出しており、著作権侵害訴訟の渦中でSuno社の信頼性が問われている。
ハサビス氏、AI検査の標準化団体を提唱 大手が賛同
Google DeepMindのハサビスCEOが、最先端AIを公開30日前に検査する米国主導の標準化団体を提唱。モデルはFINRA。サイバー・生物・欺瞞能力を検査し業界全体の減速権限も視野。アルトマン、ナデラ、マスクらが賛同。
Meta、Instagram「Muse Image」撤回 批判受け
メタが2026年7月10日、Instagramの画像生成機能「Muse Image」を批判を受け撤回。他人の公開アカウントを無断参照でき、性的な合成画像の悪用が懸念された。「的を外した」と認めた素早い方針転換と、AI機能設計の教訓を解説する。
Apple、OpenAIを提訴 元幹部の企業秘密持ち出し疑惑
アップルが2026年7月10日、オープンAIを企業秘密の窃取と契約違反で提訴。元アップル幹部タン・タン氏ら2名がiPhone等の未発表機密を持ち出した疑いを主張する。ハードウェア参入を狙うOpenAIと、AIで出遅れたアップルの対立が法廷に持ち込まれた背景を解説する。
Anthropic、中国の「バックドア」警告に反論
中国の国家脆弱性データベース(NVDB)が、Claude Codeに利用者の位置情報を無断送信する「バックドア」があると警告。Anthropicは中国で正式提供していないと反論しつつ、不正利用・蒸留対策として位置追跡コードを埋め込んでいた事実を認め、7月1日に撤去済みと説明した。経緯を整理する。
AIが自律実行した初のランサムウェア「JadePuffer」
クラウドセキュリティ企業Sysdigが、AIエージェントが技術的実行の大半を担った初のランサムウェア攻撃「JadePuffer」を確認した。Langflowの脆弱性を突いて侵入し1,300件超を暗号化、身代金要求文まで自作。人間は標的選定とインフラ構築に関与した。企業防御の前提が変わる出来事だ。
