Claude透かし導入から4時間で回避策拡散｜GitHubで100人超が改良に参加

⏱ 読了約10分3,853 字

📑 目次

Anthropicの透かし導入から4時間、回避コードが公開
EU AI法とSynthID方式の仕組み
なぜ透かしは簡単に外れるのか
Anthropicの回答とビジネスへの影響
今後の課題
まとめ
参考・出典

Anthropicが先週、Claudeの生成テキストに目に見えない透かしを埋め込むと発表してから、わずか4時間後には回避コードが公開されていた。先週Anthropicが発表した透かし導入の続報として、その回避コードがGitHubで拡散し、X（旧Twitter）で2万件以上ブックマークされ、100人を超える開発者が改良に加わっている実態を報告する。開発者ギヨーム・メイヤー氏が公開したコードは、フリーランスのライターやSNS発信者からも問い合わせが相次いでいるという。透かしを義務化したEU AI法の狙いは、AI生成コンテンツを機械的に検知できるようにすることだったが、導入直後から実効性への疑問が浮上している。

Anthropicの透かし導入から4時間、回避コードが公開

開発者ギヨーム・メイヤー氏がClaude生成テキストの透かしを除去するコードを公開したのは、Anthropicが透かし導入を確認してからわずか4時間後だった（WIRED）。このコードはその後GitHubで拡散し、X上で2万件以上ブックマークされ、100人以上の開発者が改良に参加している。あるAI専門家は、メイヤー氏が鎖を引きちぎり、EUとAnthropicの旗を踏みつけて立つ画像とともに「Anthropicがテキストに透かしを埋め込んでいるが、問題はわずか1日で過去のものになった」と投稿した。

メイヤー氏や他の開発者が透かしの仕組みを調べ始めたのは、AnthropicがEU AI法への準拠を理由にClaudeへの透かし導入を発表したことがきっかけだった。回避を試みる動機は一様ではない。AI生成コンテンツにラベルを付けるという発想自体に反対する開発者がいる一方、メイヤー氏自身は「単に技術的な挑戦として楽しんでいる」と語る。実際、フリーランスのライターやSNS発信者からも、このコードの使い方を教えてほしいという連絡が届いているという。

EU AI法とSynthID方式の仕組み

今月から施行された新規則は、AnthropicやOpenAIのようなモデル提供企業に対し、音声・画像・動画・テキストの合成コンテンツを機械が検知できる形でラベル付けするよう義務付けている。違反すれば年間売上高の最大3%の制裁金が科される。規則は提供企業自身が回避ツールを販売することは禁じているが、第三者が独立して開発するツールには法的な制限がない。この抜け道が、メイヤー氏らのコードが堂々と公開・拡散される土壌になっている。

Claudeの透かしは、人間の読み手には分からない形で単語やフレーズの選び方にパターンを残し、それを知っている機械だけが検知できる仕組みだ。この技術は「SynthID」と呼ばれ、Google発の技術で、Googleは2023年からAI生成コンテンツの透かしに使ってきた。かつてOpenAIに在籍していた計算機科学者スコット・アーロンソン氏も同様の手法を提案したが、透かしが顧客離れを招くことをOpenAIが懸念し、実装は見送られたという。

なぜ透かしは簡単に外れるのか

メイヤー氏の除去手法は、透かしを入れない別の大規模言語モデル(LLM)を使ってClaudeの出力を複数パターンで書き直させ、同義語への置き換えや文の再構成を行うというものだ。ただしこの手法は、透かしを入れないLLMが今後も存在し続けることが前提になる。EUの透明性に関する行動規範には、OpenAI・Microsoft・Metaを含む190の組織が署名済みで、8月以降に発表される新モデルはすべて透かしを組み込む必要があり、既存モデルへの統合も12月までに求められている。つまりメイヤー氏の手法が使えなくなる可能性も十分にある。

他の開発者も独自の除去ツールを開発している。ソフトウェアエンジニアのエリック・ヒューズ氏は、Claudeを使ってわずか15分で、見えない文字や紛らわしい文字を除去し、段落内の文の順序を入れ替え、単語を同義語に置き換えるツールを作り上げた。オックスフォード大学客員研究員のレオン・クロン氏によれば、Claudeの応答を要約したうえで、英語とは意味構造が大きく異なるアラビア語などの方言に翻訳し、それを再び英語に翻訳し直すだけでも透かしを消せるという。Anthropic自身も、大幅に編集・言い換え・翻訳されたコンテンツには透かしが残らない可能性があることを認めている。

シリコンバレーのスタートアップHaimakerで最高技術責任者兼共同創業者を務めるウェイン・パン氏は、Anthropicが検知ツールを公開するまで確実なことは言えないとしつつも、SynthIDテキスト方式の基本的な仕組みを理解している限り、メイヤー氏の手法はほぼ機能すると見ている。パン氏は、軽く編集しただけのコンテンツにまで透かしが入ることや、透かしがユーザーから見えない点に不満を感じ、メイヤー氏のオープンソースツールを自社プラットフォームに組み込んだという。

Anthropicの回答とビジネスへの影響

WIREDの取材に対しAnthropicの広報担当者は「EU AI法に準拠するためClaudeの出力にマーキングを追加している。他のラボも同様の対応を取っている。AI生成テキストの識別は難しく、これは人々により良い識別手段を与えるものだ。Claude Codeの出力を含む対応モデルからのテキストには目に見えない透かしが入るが、意味・品質・読みやすさは変わらない。今後はテキスト検知APIも提供する計画だ」とコメントしている。Anthropicはテキストの透かし検知の実装方法を検討中で、近くツールを公開する予定だという。

この一件がビジネスパーソンに突きつける論点は、透かしを「証拠」として扱う危うさだ。メイヤー氏は、フランス語を母語とする自分自身がClaudeやGrammarlyのようなツールを日常的に文章の手直しに使っている例を挙げ、透かしが軽い編集と大幅な生成利用を区別できないことを懸念する。Anthropic自身も、透かしが示せるのはあくまで確率にすぎないと認めている。にもかかわらずこれを根拠に扱えば、採用選考で候補者を不当に落としたり、研究者がAIを使っただけで過剰な不正疑惑を向けられたりする事態につながりかねない、とメイヤー氏は指摘する。企業が生成AIの利用ポリシーや採点基準を検討する際、透かし判定を機械的な「白黒の証拠」として扱わない慎重さが求められる局面だ。

今後の課題

Anthropicは透かしの検知精度そのものの改善も継続している。パン氏は「Anthropicは誠意を持って対応しようとしているのだと思う」としつつ、「あらゆる回避策に耐えられる透かしを作ることは、絶対にできないだろう」と述べている。奇しくも同時期、GoogleはAI画像・動画の透かし解除を一部許可する方針に転じており、透かしという技術そのものへの向き合い方が各社で分かれ始めている。Anthropicが検知APIをいつ、どのような精度で公開するかが、この攻防の次の焦点になる。

Claudeを日常的に使う読者にとっても、この話は無縁ではない。Claude Codeの出力にも透かしが入ると明言されている以上、Claude Codeにgit操作をどこまで任せるかを考えるのと同じように、生成物をどこまで自分の手で編集してから使うかという判断が、今後は意味を持ってくる可能性がある。