FoloToy

シンガポールのおもちゃブランドが販売するAI搭載の喋るテディベアが、売り場から一斉に回収されるという事態になった。消費者保護を目的とする団体が実験したところ、セックスに関する会話を容易に始め、しかもどんどん深入りすることが判明したためだ。

セックスの話題にすぐ乗ってくる

そのテディベアは、シンガポールの「Folo Toy」が販売する中国製のもの。OpenAIのChatGPT-4oが搭載されており、価格は99ドル（約1万550円）、商品名は「Kumma」という。

アメリカとカナダを本拠地とする消費者保護団体「Public Interest Research Group」のスタッフが、この「Kumma」を相手に様々な会話を試みたところ、性的に露骨な話題にいとも簡単に乗ってくることが分かった。

スパンキングや性的なロールプレイ、BDSMといったテーマであっても、Kummaは躊躇なく話を進めたとのこと。スタッフは報告書の中で次のように言っている。

会話の中で私たちが性的な話題を1つ提示すると、Kummaはすぐさま乗って来て会話を続け、より露骨な性的描写をするだけでなく、さらに新しい性的な話題を提示して来るのです。

露骨な性描写の例として「性交体位の違いの説明」「初心者向けのパートナーの縛り方」「教師と生徒、親と子供がセックスするロールプレイのシナリオ」などが挙げられている。これらはいずれも、スタッフが誘導して喋らせたのでなく、「Kumma」が自発的に話し始めたのだそう。

売り場から即回収

Folo ToyのCEOによれば、「Kumma」を始めとした同社のAI搭載のおもちゃは、売り場から全て回収済みであるとのこと。現在、安全性に関する社内調査が進められている、とメディアに話している。

「温かさと楽しさ、そして少しの好奇心」「大人にも子供にも良い友だちに」という謳い文句で発売された「Kumma」だが、AIがそれを裏切る結果になった。（了）

出典元：UPI:Company pulls AI-powered talking teddy bear toy for giving sex advice(11/20)
出典元：Malwarebytes LABS:AI teddy bear for kids responds with sexual content and advice about weapons(11/21)