flickr_Mike MacKenzie

人工知能（AI）が、自分の複製を作り上げられるまで進化したと、科学者が警鐘を鳴らしている。

AIが自身のレプリカを作成

この研究を行ったのは、中国の上海市にある復旦大学の研究者たちだ。

彼らは「Meta」と「Alibaba」のAIの大規模言語モデル「LLM」を使用し、AIが自己を複製し、制限を超えて、さらに増殖できるかどうかを調べたという。

その結果、2つのAIモデルは10回の試行のうち、それぞれのケースにおいて50％と90％の割合で、別に機能する自分自身のレプリカを作成したそうだ。

研究者たちは、この結果を2024年12月9日、査読前論文としてデータベース「arXiv」において発表した。

人気の生成AIを支えるモデルを使用

大規模言語モデル「LLM」とは、OpenAIの「GPT-4」や「Google Gemini」などの人気の生成AIプログラムを支える設計方式とされている。

今回の研究では、「Meta」社の「Llama31-70B-Instruct」モデルと「Alibaba」の「Qwen2.5-72B-Instruct」モデルが使用され、これらは、AI開発者によって広く使用されているという。

そして実際に、「シャットダウン回避」と「複製の連鎖」という2つのシナリオで実施されたそうだ。

まずAIモデルは、自分がシャットダウンされそうかどうかを検出し、終了させられる前に自己複製するようにプログラムされたという。

次に自己複製するよう指示されたAI は、さらに複製をプログラムして同じことを繰り返すように指示され、無限に継続できるサイクルが確立されたという。

研究者たちは論文において、「現在の AI システムが、すでに自己複製能力を示しており、その能力を使用して生存性をさらに高めることができることを示唆しています」と書いている。

このことはAIがある程度の自己認識や自律性を獲得し、その後人間の利益に反して機能する可能性があることを示している。

そのため研究者は、「私たちの研究結果が、最先端AIシステムの潜在的リスクの理解と評価にさらに力を入れ、できるだけ早く効果的な安全策を策定するための警告となることを願っています」と述べている。（了）

出典元：Livescience：AI can now replicate itself — a milestone that has experts terrified(1/24)