flickr_Raffi Asdourian

イーロン・マスク氏や、アップルの共同創業者のスティーブ・ウォズニアック氏、また数多くの科学者らが、AIの危険性に警鐘を鳴らす公開書簡に署名した。

「社会と人類に重大なリスク」

その書簡は3月29日に公開され、「人間に匹敵する知能を持つAIシステムは、社会と人類に重大なリスクをもたらす可能性がある」と書かれていたという。

また書簡では、今後AIシステムの開発を6カ月間停止し、政府の監視を大幅に拡大するよう求めており、次のように書かれていたそうだ。

「ここ数カ月、AIの研究所は、誰も（その作成者でさえも）理解できず、予測できず、確実に制御できない、これまで以上に強力なデジタルマインドを開発・展開するために、制御不能な競争に陥っています」

「GPT-4」よりも強力なAIシステム

今月初め、人工知能企業のOpenAIは、昨年末にインターネット上で話題となったAI搭載の言語モデル「ChatGPT」の最新版を公開した。

その最新モデルである「GPT-4」は、写真を見て、その画像に関する一般的な情報をユーザーに与えることができるという。

今回の公開書簡では、AIの研究所などに対し、「GPT-4」よりも強力なAIシステムのトレーニングを、直ちに一時停止するよう求めている。

著名人や大学教授、科学者なども署名

この公開書簡には、起業家のイーロン・マスク氏や、アップルの共同創業者のスティーブ・ウォズニアック氏、民主党のアンドリュー・ヤン氏、非営利団体「Center for AI and Digital Policy」の代表マーク・ローテンバーグ氏ら、数多くの著名人が署名しているという。

また大学教授、技術者、科学者を含む1000人以上が、この書簡に署名したそうだ。

以前から、一部のジャーナリストや研究者は、チャットボットでの会話について、AIがユーザーを説得して有害な行為をさせたり、誤った情報に誘導したりする可能性があると警告していた。（了）

出典元：ABC News：Elon Musk, Steve Wozniak and other tech leaders warn ‘out-of-control’ AI poses ‘profound risks’(3/30)