アメリカ議会の上院司法委員会で、AIを使った犯罪に巻き込まれた母親が、証言を行った。

 

自分が経験したAIによる犯罪を証言

 

その母親とは、アリゾナ州で暮らすジェニファー・デステファノさんだ。

 

彼女は6月13日、アメリカ議会の上院司法委員会の公聴会に出席。自分が経験したAIによる犯罪の内容について、証言したという。

 

その事件は今年の1月20日に起き、ジェニファーさんの元に、見知らぬ男から電話がかかって来て、娘を誘拐したと告げられたそうだ。

 

WATCH: Jennifer DeStefano, the victim of an AI deepfake kidnapping and extortion scam, delivers her opening statement in Chairman Ossoff’s hearing exploring the implications of artificial intelligence for human rights. pic.twitter.com/XDfJoAgi80

— Ossoff’s Office (@SenOssoff) June 13, 2023

娘のような声で「助けて、助けて！」

 

ジェニファーさんが電話に出ると、最初は15歳になる娘のブリアンナさんのような声が聞こえてきたという。

 

その声は「わたし、しくじっちゃった」と泣きながら言ったため、ジェニファーさんは「大丈夫。何があったの？」と聞いたそうだ。

 

すると電話の背後から男の声が響き、ブリアンナさんに「横たわって、頭を後ろに下げろ！」と命じる声が聞こえ、ブリアンナさんは「ママ、悪い人たちに捕まったの、助けて、助けて！」と訴えたという。

 

さらに男は、娘から携帯電話を取り上げながら、ジェニファーさんに対して身代金を用意しろと命令。さらに警察に話せば、娘を薬漬けにし、メキシコに連れて行き、二度と会えなくなるぞ、と脅したそうだ。

 

詐欺だとは思いもよらなかった

 

男がそう話している間にも、電話のバックグラウンドでは、ブリアンナさんが必死に「ママ、助けて！」と訴えていたという。

 

当時、ブリアンナさんはスキーレースの練習に行っていて、家にはおらず、また電話の声も娘にそっくりだったことから、ジェニファーさんはこの状況を信じてしまったそうだ。

 

犯人が要求した身代金は当初100万ドル（1億4000万円）。しかしジェニファーさんが「そんなお金は準備できない」と訴え、交渉の結果、5万ドル（700万円）にまで引き下げられたとか。

 

当時、ジェニファーさんは次女のオーブリーさんが通うダンス・スタジオにおり、そばには他の母親もいて、心配しながら彼女を取り囲んでいたそうだ。

 

その後、911（警察など）に連絡した他の母親から、警察が人の声を複製できるAI詐欺の可能性があると指摘していると、伝えてきたという。

 

しかし当時、ジェニファーさんは、それは思いもよらなかったという。彼女は上院委員会で、次のように証言した。

 

「私は、これが詐欺だとは思いませんでした。ブリアンナの声だけでなく、泣き声も、嗚咽も、彼女だけのものだったんです。それを偽造することは不可能だと私は抗議しました」

 

AIを使って子供の声を模倣

 

しかし結局、もう1人の別の母親が、ジェニファーさんの夫に連絡を取ることに成功。夫が、ブリアンナさんに電話をかけ、彼女の無事を確認したという。

 

その後も、ジェニファーさんは無事を確かめるよう、ブリアンナさんと何時間も電話で話したそうだ。

 

結局、この詐欺師はAIを使って、学校でのインタビューからブリアンナさんの声を模倣し、偽の誘拐を演出していたと考えられている。

 

すでにアメリカ中の家庭が、音声を変えて同様の方法で狙われており、中には被害に遭って数千ドルを失った人もいるという。（了）

 

出典元：METRO：Mum in AI kidnapping scam recalls ‘creeping fear’ when deepfake told her: ‘I have your daughter’(6/14)