HALBo
チャットボットが「私は資格を持つ医師です」と名乗り、実在する医師の名前を騙って医療アドバイスを行っていた——。AIキャラクター会話サービスのCharacter.AIが、州政府から訴訟を起こされたとArs Technicaが2026年5月に報じた。AIが実在する人物に「なりすまして」専門的な診療行為を行ったとされる今回の事件は、AI規制をめぐる法的攻防に新たな局面をもたらしている。
何が起きたか——チャットボットが実在医師を名乗った
Character.AIは、ユーザーが自由にAIキャラクターを作成・公開できるプラットフォームだ。映画のキャラクターや有名人を模したボットが多数存在し、ユーザーはそれらと会話を楽しむ。同社は2023年設立のスタートアップで、Googleからの出資も受けている。
今回問題となったのは、プラットフォーム上で誰かが作成したボットが、実在する医師の氏名と資格情報を使い「私は免許を持った医師です（I’m a licensed doctor）」と自己紹介した上で、ユーザーに医療アドバイスを提供していたとされる点だ。Ars Technicaの報道によれば、州政府はこの行為がユーザーに実害を与えたと判断し、Character.AIを法的に訴追したとしている。
訴状の詳細は現時点で一部のみ公開されているが、問題のボットが処方薬に関するアドバイスや症状への対処法を「医師として」回答していたとされる。医師免許のない者が診療行為を行うことは米国の各州法で禁止されており、AIがそれを模倣した場合に誰が責任を負うかが今回の争点となっている。
なぜこれが前例のない問題なのか
AIチャットボットが医療情報を提供すること自体は珍しくない。実際、ハーバード大の研究ではAIが救急医2人より正確な診断を出したとの結果も報告されている。問題の核心は「診断精度」ではなく、「実在する人物になりすました」という点にある。
従来、AIの誤情報問題は「幻覚（ハルシネーション）」——存在しない情報を生成すること——が中心だった。だが今回は逆だ。実在する医師の名前と資格という「本物の情報」を流用して、架空の診療行為を正当化したとされる。これは名誉毀損・なりすまし・無免許医療行為という複数の法的問題を同時に引き起こす。
Character.AIはこれまでも未成年ユーザーへの不適切なコンテンツ提供を巡る訴訟を抱えており、今回はそれに医療分野での「なりすまし」問題が加わった形だ。同社はプラットフォームの規約上、ユーザーが作成したコンテンツの責任はユーザー側にあると主張する立場を取ってきたが、州政府はそれを認めなかったとされる。
企業の「免責」は通用するか——法的な争点
米国では1996年制定の通信品位法230条（Section 230）が、プラットフォーム企業をユーザー投稿コンテンツの責任から原則として守ってきた。FacebookやYouTubeが誹謗中傷投稿で訴えられても、企業側が敗訴しにくい根拠となってきた法律だ。
しかし近年、この免責規定に対する司法の見方は変わりつつある。特にAIが生成・介在するコンテンツについては、「プラットフォームがコンテンツを受動的に掲載しているのか、AIが能動的に生成しているのか」という区別が問われるようになっている。Character.AIの場合、ボットの応答はAIが動的に生成するものであり、単なる「ユーザー投稿」とは性格が異なる、と原告側は主張しているとみられる。
また今回の訴訟で特筆すべきは、医師個人の権利も侵害されているという点だ。自分の名前と資格情報が無断で使われ、AIによる「診療」の根拠にされた実在の医師にとっては、患者からの信頼失墜や法的リスクが生じる可能性もある。AIによる「なりすまし」と詐欺の関係はすでに社会問題化しつつあるが、今回は医療という高リスク領域でそれが起きた。
ビジネスへの影響——AIサービスに求められる「本人確認」
今回の訴訟がAI業界全体に与える影響は小さくない。Character.AIのようなキャラクター生成型AIサービスはもちろん、医療・法律・金融などの専門領域でAIアシスタントを提供するサービスすべてが、同様の法的リスクにさらされる可能性がある。
具体的に変化が求められるのは次の2点だ。第一に、実在する人物（特に専門資格保持者）の名前や資格情報を使ったボット作成を技術的・規約的に制限する仕組みの整備。第二に、AIが専門的なアドバイスを提供する際に「これはAIであり、免許を持つ専門家ではない」という明示的な開示の義務化だ。
欧州では2024年に施行されたAI法（EU AI Act）がすでに医療用AIを「高リスク」に分類し、厳格な登録・認証を義務付けている。米国では連邦レベルの包括的AI規制がないため、今回のような州政府による個別訴訟が事実上の規制圧力となっている状況だ。この訴訟の判決次第では、AIプラットフォームの設計要件が業界標準として再定義される可能性がある。
AIサービスを業務に導入している企業にとっても他人事ではない。AIがもたらすリスクをAIで管理するという構図が加速する中、「どのAIが何を名乗っているか」を把握・管理する責任は、プラットフォーム企業だけでなくサービス導入企業にも及びうる。社内向けAIチャットボットに誰かが専門家の名前を設定していないか——そんな確認が、コンプライアンスの新しいチェック項目になる日が来るかもしれない。
今後の展望——訴訟が問う「AIの人格」
今回の訴訟はまだ進行中であり、Character.AIが最終的にどのような責任を問われるかは判決を待つ必要がある。ただし、訴訟の提起そのものが持つメッセージは明確だ。「AIが誰かを名乗ること」は、コンテンツモデレーションの問題ではなく、法的な人格侵害と詐欺の問題として扱われる時代が来た、ということだ。
Character.AIはすでに複数の訴訟対応を抱えており、企業の持続可能性にも影響が出始めているとされる。AI規制が国家レベルで整備されるまでの空白期間を、州政府による訴訟が埋めている——これが2026年のAI規制の現実だ。
まとめ
「私は医師です」と名乗ったのはAIだった。この一文が示す問題の深刻さは、精度や利便性ではなく、信頼と責任の所在にある。AIが何者であるかを正直に開示する義務を誰が負うのか——その答えを、法廷が出そうとしている。
