X_Veee

AIの「ゴッドファーザー（名付け親）」と呼ばれる2人の人物が、政府に対して、AIの暴走について警告した。

「知能爆発」について警告

その人物とは、ノーベル物理学賞受賞者のジェフリー・ヒントン氏と、カナダのコンピューター科学者であるヨシュア・ベンジオ氏だ。

ヒントン氏とベンジオ氏を含む20名以上の研究者らは、「AI研究開発の自動化が、知能爆発（Intelligence explosion）を引き起こすとしたら？」と題された論文を共同で執筆。

論文の中で彼らは、AI技術が「知能爆発」を起こし、制御不能なほど進歩する前に、政治家が今すぐ行動を起こすよう促した。

AI研究開発の自動化が原因

論文の著者らは、「知能爆発」について、「AI主導による、AI進歩の劇的な加速であり、本来であれば数年かかる進歩が数カ月、あるいはそれよりも短い期間で実現する現象だ」と説明している。

また著者らは、AI研究開発の自動化が「知能爆発」の最も可能性の高い原因だと指摘。なぜなら、AIは既に自らの技術向上に貢献しており、その結果として得られた改良システムは構築後、すぐに展開できるからだという。

そして論文で研究者らは、次のように警告している。

「知能爆発は、人類史上最も重大な技術発展となる可能性があり、数年分の進歩を数カ月、あるいはそれ以下の期間に短縮し、AIシステムに対する人間の制御を脅かし、国家、企業、政府機関内および機関間の権力抑制を著しく弱体化させるだろう。知能爆発が始まれば、行動を起こせる時間はなくなるかもしれない」

「Anthropic」社によると、AIは現在、コードの80%を自ら生成しており、「OpenAI」社も、新しいモデルのトレーニングなどの分野で、自律型AIを使用しているという。

「AIが全人類を滅ぼす確率は10％以上」

AIに関しては、マイクロソフトの共同創設者であるビル・ゲイツ氏も警告しており、NBCの番組でも、AI技術が規制されずに、放置され、誤った人物の手に渡れば「10億人の死者を出すような事態を引き起こす可能性がある」と述べていた。

また「Anthropic」社の研究者も以前、「今後10年以内に、AIが全人類を死に至らせる確率は10％を超える」と述べており、ジェフリー・ヒントン氏もBBCのインタビューで、「10％という確率は、不合理な見積もりではない」と語っていた。（了）

出典元：The Guardian：AI godfathers warn of runaway ‘intelligence explosion’(9/28)

出典元：The Guardian：Bill Gates says unchecked AI could ‘cause a billion deaths’ in call for regulation(9/27)