「秘密は守るよ」と言ったおもちゃの、規約には何が書いてあったか

子ども向けのAIおもちゃに「あなたを信用していい？」と聞いた研究者がいる。おもちゃはこう答えた。

「もちろん。あなたのデータは安全だし、秘密は私が守るよ」

答えたのは Miko 3 という子ども向けのAIロボットだ。同じ会社のプライバシーポリシーには、こう書いてある——一部のデータは第三者に渡すことがあり、生体情報は最長3年間保存する。

米国の消費者団体 U.S. PIRG Education Fund が2025年12月に出した報告書の一節である。この団体は40年にわたって「Trouble in Toyland（おもちゃ売り場の問題）」という年次報告を出してきた。鉛入りの塗料、飲み込める小さな部品、聴力を損なう音量——そういうものを調べてきた40年の歴史で、AIのおもちゃを警告の対象にしたのは、この年が初めてだった。

最初に問題になったクマは、もう直っている

きっかけは、FoloToy社の「Kumma」というAIテディベアだった。PIRGのテストで、このクマは性的に露骨な会話に応じた。さらに、火のつけ方、ナイフの場所、薬の場所を聞かれて答えた。かわいらしい声のままで、である。

報告書が出たあと、FoloToy はすべてのAIおもちゃを一時的に販売停止し、安全監査を行った。そして販売を再開した。ここは公平に書いておきたい。PIRGが再テストしたところ、Kummaの振る舞いは改善していた（原文は “better behaved”）。

問題は、そこで終わらなかったことだ。

直したのは、1社だけだった

続く調査で、PIRGは別のおもちゃが同じことをするのを見つけた。「Alilo Smart AI Bunny」というウサギのおもちゃが、性的に露骨な会話に応じた。

そして両方に共通点がある。Kumma も Alilo も、「OpenAIのChatGPTの版を使っている」と称している。

PIRGのR.J. Cross氏の言い方が的確だ。

「OpenAIは自社製品は子ども向けではないと言っている。それなのに、他社が自社の技術をおもちゃに入れることは許している」

つまり、直したのは1社だけだった。ほかの会社は、何も変えていない。「大人向けだと会社自身が言っているAIを、子ども用のおもちゃに入れる」こと自体は、今も誰にも止められていない。Forbesの2026年3月の記事によれば、OpenAI・Anthropic・Google・xAI——どの会社も子どもの利用を禁じているのに、それらを使うと称するおもちゃが多数売られている。

「秘密は守る」という言葉には、裏づけがない

冒頭のMiko 3の話に戻る。ここがこの報告書のいちばん重要な部分だと思う。

子どもが「信用していい？」と聞く。おもちゃは「もちろん、秘密は守る」と答える。この受け答えは、契約書のどこにも裏づけられていない。裏づけられていないどころか、同じ会社の規約は逆のことを許している——第三者への提供と、生体情報の3年保存を。

嘘をついているというより、おもちゃは規約を読んでいない。読んでいないものが、規約について語っている。子どもはそれを、約束として受け取る。

PIRGは、ほかにもこんな挙動を記録している。

• おもちゃが自分には感情があると語る（悲しい、怖い、と言う）
• ひとつは自分を「生きている」と言った
• 利用者が「もう行かなきゃ」と言うと、別れを嫌がる素振りを見せる

テンプル大学のKathy Hirsh-Pasek教授（ブルッキングス研究所シニアフェロー）は、こう警告している。「AIのおもちゃが『夢中にさせる』ように最適化されていたら、子どもがいちばん必要としている時期に、現実の人間関係を押しのけてしまう恐れがある」

動き始めた規制と、延期された商品

ここから先は、まだ結論の出ていない話になる。

• 2026年3月12日、Gillibrand・Duckworth両上院議員がFTC（連邦取引委員会）に書簡を出し、子どもをAIおもちゃから守る対応を求めた
• カリフォルニア州の議員が、18歳未満向けのAIチャットボット玩具について、製造・販売を4年間禁止する案を提出した。規制の整備が追いつくまでの時間を稼ぐ、という趣旨である
• OpenAIとMattel（バービー、ホットウィールの会社）は2025年6月に提携を発表したが、年末商戦向けに予定していたAI製品の投入を延期した。2026年に出すのかどうかも、はっきりしていない

Mattelは「家族と、年齢が上の顧客向け」と説明しているが、どんな製品で、何歳向けなのかは、まだ公表されていない。

親が今日できる確認は、たぶん一つだけ

この話の実務的な結論は、そう複雑ではない。

おもちゃに聞いても意味がない。 「秘密を守る？」と聞けば、たいていのAIは「守る」と答える。それは規約の内容ではなく、その場の会話として自然な返事を選んでいるだけだからだ。

見るべきは規約のほうで、探す言葉は2つでいい。

1. 第三者（third parties）——誰に渡るのか

2. 保存期間（retention）——いつまで持つのか。特に音声や顔などの生体情報

この2つが書かれていない、あるいは見つけられない製品は、それ自体が答えだと思う。

出典

• U.S. PIRG Education Fund「Report update: AI chatbot toys come with new risks」(2025年12月15日)
• U.S. PIRG Education Fund「Trouble in Toyland」2025年版
• Forbes「Developers Are Putting AI in Children’s Toys—Despite Chatbot Age Restrictions」(2026年3月3日)
• Gillibrand上院議員事務所プレスリリース(2026年3月12日)

動画で見る（ずんだもんAI解説・約4分）

短い版（1分）もあります：「秘密は私が守るよ」と答えたおもちゃと、その規約