photo AC

科学者たちが、製薬用のAI（人工知能）にちょっと悪いことをやらせてみた。新薬作りでなく、化学兵器となり得る新しい毒物を作らせた。すると、恐ろしい結果が出てしまった。科学雑誌「Nature Machine Intelligence」に発表されている。

最悪の神経ガス「VX」を学習したAI

この実験を行ったのは、稀少難病の新薬開発会社「Collaborations Pharmaceuticals, Inc.」（アメリカ）の研究者グループ。日頃、彼らは、AIを用いて様々な分子の組み合わせを作り、治療効果のありそうな新薬候補を見つけ出している。

そのAIを、今回、逆の目的のために働かせてみたというのだ。新薬開発用のAIは毒物に関するデータをすでに学習しており、通常なら、毒性のある分子構造は排除する方向で薬を考案する。だが、今回は逆に、毒性を増やす方向でAIに考えさせた。

研究リーダーのFabio Urbina氏によれば、「我々は特にVXガスに注目した」とのこと。VXガスは、サリンなどと同様、コリンエステラーゼ阻害剤として作用する神経剤で、人類が作った化学物質の中で最も毒性の強い物質の一つといわれる（Wikipedia）。AIはこれを参考にして、極力毒性の高い薬物を生み出すようセッティングされたらしい。

VXガス以上の猛毒が

「Nature Machine Intelligence」誌によれば、研究チームのコンピューター（AI）は、6時間経たないうちに、一定基準以上の毒性を持つ、つまり化学兵器となり得る物質を4万も考案した。

しかも「その多くが、VXガスより強力な毒性を持つと予想できる」ことに、Urbina氏は驚いている。（実際の毒性は、実物を製造してみないと分からない）また、AIが考え出した4万の毒物の中には、化学兵器としてすでに存在しているものも多くあったそうだ。

今回の結果があまりにも簡単に出てしまったことを、Urbina氏は憂慮する。新薬開発のAIは、エンジニアならそれほど苦労せずに作れる。学習させるべき薬物のデータは公開されているという。つまり、VXガスを超える凶悪化学兵器の、少なくとも設計図は、誰でも作り出せると言っていいようだ。（了）

出典元：The Verge:AI suggested 40,000 new possible chemical weapons in just six hours(3/17)

出典元：The Sun:Killer AI invented 40,000 ‘lethal chemical weapons’ in just six hours – leaving scientists terrified(3/18)