X_Cerfia

アメリカのAI企業「Anthropic」社は、自社の技術が生物兵器開発に使われそうになり、それを阻止したと明らかにした。

「Claude」の悪用を阻止したと発表

「Anthropic」社は報告書において、2025年12月以降、同社のAIモデル「Claude」の悪用が疑われる事例を数十件阻止した、と明らかにした。

しかもその報告書では、「生物兵器開発を支援する可能性のある」方法で使用された、5つの事例が詳細に紹介されているという。

その中の1つの事例では、アメリカ以外の研究者が、サポートされていない地域から「Claude」にアクセスし、高病原性鳥インフルエンザの研究に、このAIモデルを使用したそうだ。

その研究では、ウイルスが哺乳類に適応する過程に焦点を当てていたようだが、「Anthropic」社は「この研究が、二重用途の性質を持つ」と指摘。報告書で、次のように述べた。

「ウイルスの適応メカニズムを理解することで、科学者はパンデミックを引き起こす変異株を特定できる一方で、ウイルスをより危険なものにするための情報も得られる可能性がある」

その上で「Anthropic」社は、「彼らが危害を加える意図があったことは不明だ」としつつも、この研究者のアカウントを停止し、研究開発の試みを阻止したと明らかにした。

「AIが深刻な混乱を引き起こす可能性」

「Anthropic」社が、AIの悪用の可能性を詳述した報告書を発表したのは、今回が初めてではない。同社は過去にも、AIの悪用を詳述した脅威評価報告書を3件発表している。

また今回の報告書が発表される数日前には、「Anthropic」社と「OpenAI」社の元研究者であるJacob Coxon氏が、ますます強力化するAIシステムへの懸念を公に表明し、CNNに対しても次のように述べていた。

「将来を見据えると、これらのAIの能力レベルは、例えば重要インフラへのハッキングや、絶滅レベルの生物兵器の開発など、極めて深刻な混乱を引き起こす可能性があります」

またCoxon氏は、自身の「X」にも、「（AI企業は）私たちの命を賭け事にしている」や「AIを構築している人々は、それが今後10年以内に我々全員を殺す可能性があると、本気で信じています」と投稿し、警鐘を鳴らしている。

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

アメリカの連邦議会では、AI開発に対する政府の監視強化と、新たな安全規制を求める議員が増えているという。（了）

出典元：GMA：Anthropic says it blocked potential AI bioweapon misuse(9/11)