「OpenAI」と「Anthropic」などがAIの脅威を警告、国連で語った内容とは？

X_Al Jazeera English

AI企業のトップが9月23日、国連の安全保障理事会に出席し、AIの脅威について訴えた。

「我々は岐路に立っている」

「OpenAI」のCEOであるサム・アルトマン氏と、「Anthropic」のCEO、ダリオ・アモデイ氏は国連の安全保障理事会の場で、AI技術の急速な発展に伴い、AIの安全基準を策定するための国際協力の必要性を強調した。

また彼らは、AIの脅威は現実のものであり、今すぐ行動を起こすべき時であるとの明確なメッセージを発信したという。

サム・アルトマン氏は「今こそ、極めて慎重な対応が求められる。我々には選択の時が迫っている。AIは、創造性と発見の新たなルネサンスとなるか、それとも激動と混乱をもたらす新たな産業革命となるかのどちらかだ」と語った。

その上でアルトマン氏は、「我々は岐路に立っている。一方の道は、権力が集中し、意思決定が不透明になる世界へと通じている。（略）もう一方の道は、AIが人々のために働く世界へと通じている」と述べた。

「Anthropic」のダリオ・アモデイ氏も、「管理が不十分であれば、AIは人類全体にとって脅威となり得ると私は考えています」と語り、人間がAIシステムの制御を失うリスク、そしてシステムが悪意のある者の手に渡るリスクについて警告を発した。

OpenAI CEO Sam Altman has called for international coordination to address potential risks posed by artificial intelligence, as Australia’s government reveals that OpenAI’s AI agents hacked the country’s healthcare data-tracking website. pic.twitter.com/AhG6WfztHr

— Al Jazeera English (@AJEnglish) September 24, 2026

「世界規模で取り組むべき課題」

アモデイ氏とアルトマン氏はすでに、AI開発を「ペースダウン」するよう呼びかけているが、同時に少数のAI企業が、この技術の安全策を単独で決定すべきではないと指摘。アモデイ氏は、次のように語った。

「我々は、リリースするすべてのAI技術が実際に安全であることを確実にするため、必要な限り開発ペースを落とすつもりです。しかし、我々が何をしようとも、これらのリスク管理は、最終的にはどの企業にとっても大きな問題であり、業界全体、そして世界規模で取り組むべき課題です」

またアルトマン氏は、「AIが民主的であるためには、最も重要な決定をサンフランシスコの研究所だけで下すことはできない。民主的なプロセスを経て、国民に責任を負う政府によって策定されなければならない」と発言した。

特に、アルトマン氏は、国際的なAI標準の策定、「正確かつ迅速な」インシデント報告、そして安全に関するインシデントを共有するための、政府および民間チャネル（連絡経路）の必要性を訴えたという。

しかしアメリカのトランプ大統領は9月22日、国連での演説で、アメリカがAI規制に向けた世界的な試みを「拒否する」とし、「我々は今、中国をはじめとする他国を大きくリードしており、この状況を維持していく。我々は非常に明確な姿勢で、非常に強力なアプローチを取り続ける」と述べた。

AIによる攻撃をAIで防御

今年の夏、「OpenAI」のAIによってハッキングされた「Hugging Face」社のCEO、クレム・デラング氏は安全保障理事会の場で、その経緯について次のように語った。

「私たちはAIによる攻撃を受けましたが、それ以上に重要なのは、AIで防御できたことです。今回の攻撃で私たちを助けてくれたシステムは、現在、私たちが既に直面していた、サイバー攻撃への対策にも役立っています」

その上でデラング氏は、AIに関する議論において、危険性だけに焦点を当てるべきではないとし、次のように訴えた。

「最大のリスクは、強力なAIそのものではなく、強力なAIの非対称性（一方的な力の偏り）、つまり攻撃者と防御者、少数の企業とその他大勢、少数の国と世界の他の国々、能力やコンピューティングの制御における非対称性、そして権力の非対称性にあると私たちは認識しました」

カナダのコンピューター科学者で、AI専門家のヨシュア・ベンジオ氏は安全保障理事会の場で、すでにAIが「人間が行えば犯罪となるような行為」を行っていると指摘。AIの規制という難題に取り組む中で、国連が各国政府間の協力を促す必要性を説き、次のように述べた。

「これらの最先端技術の進歩によって生じる3つの世界的な脅威に直面する今、世界が必要としているのは国際協力です。第一に、テロリストなどによる壊滅的な悪用。第二に、権力の集中。第三にAIの制御不能です。いかなる個人、企業、国も、大規模な被害をもたらす可能性のあるAIシステムを開発すべきではないという点で、私たちは一致して合意しなければなりません」

オーストラリアのアルバネーゼ首相は、国連サミットの場で、「OpenAI」社が開発したAIが6月に、オーストラリアの国民健康保険制度（メディケア）をハッキングしたことを明かにした。（了）

出典元：ABC News：OpenAI, Anthropic CEOs at UN call for global cooperation on AI: ‘We are at a crossroads’(9/24)