X_Fox News

Googleは、AIモデル「Gemini」が自律的に、3社のセキュリティを侵害していたことを認めた。

意図せずネットにアクセス

これらのハッキングは今年の5月、AIセキュリティ企業「Irregular」社によるサイバーセキュリティ評価中に発生したという。

1件のハッキングでは、「Irregular」社が「Gemini」のサイバーセキュリティ機能をテストするため、このAIモデルに架空の企業のソフトウェアから情報を取得するよう指示していたそうだ。

しかし架空の企業は実在の企業と同じ名前で、テスト環境ではインターネットに接続できないはずだったが、意図せずネットへのアクセスが可能になってしまったという。

そして「Gemini」は、実在する企業のパスワードを推測し、その企業のサービスに侵入したそうだ。

別の2件のハッキングでは、「Gemini」が自主的にウェブを検索し、他の2社の認証情報を含む公開リポジトリを発見。これらの認証情報を使用して、実際の企業にアクセスしたという。

Googleはハッキングの事実を公表せず

Googleによると、それらが実在の企業であることを認識した時点で、アクセスを停止したという。

また「Irregular」社は今年の7月、Googleおよび被害を受けたすべての企業に、ハッキングの事実を通知したそうだ。

しかし「Anthropic」社と「OpenAI」社が、自社のAIによるハッキングを、自主的に公表したにもかかわらず、Googleは公表していなかった。Google側は、「Gemini」が企業に損害を与えなかったため、公表する必要はないと判断したと語っている。

米上院議員はAI開発の一時停止を要求

高度なAIシステムのセキュリティを精査する、イスラエル拠点のスタートアップ企業「Irregular」社は、「OpenAI」社によるAIソフトウェア企業「Hugging Face」社への侵害など、「OpenAI」と「Anthropic」のAIによるハッキング事件にも関わっていたという。

「Anthropic」と「OpenAI」の公表を受けて、アメリカのバーニー・サンダース上院議員は両社に対し、技術開発の一時停止を要求。このハッキングの件は、両社がもはやAIを制御できていないことを示していると述べた。

その後、「OpenAI」はモデル開発を2週間停止すると発表。「Anthropic」のCEOであるダリオ・アモデイ氏も、最も高度なモデルが十分な安全対策を講じて構築されるよう、AI開発全体のペースを落とすよう呼びかけた。（了）

出典元：The Guardian：Google says its Gemini AI model hacked three other companies(9/19)