AIが生物兵器開発に利用される！？「善悪を判断できる」AI研究も

「Nature Machine Intelligence」（2022年3月7日付）に掲載された論文によると、 難病の治療薬開発を行うCollaborations Pharmaceuticals社の米・英・スイスの研究チームが、通常モードでは薬品から有毒物質を排除する為にプログラミングされているAIを、「ブラックモード」にしてみたところ、 4万種類の毒性の高い化合物のデザインを提案したという。

AIが検出した毒物には、人類史上最強の神経毒とされるVXに類似したものもあった。この化学物質は、少量で激しい痙攣を引き起こし、呼吸機能を停止させる。

同研究を提案したのはスイス・シュピーツ研究所（Spiez Laborator）の主催する「コンバージェンス会議（Convergence Conference）。会議では科学や軍事の専門家が集まり、核・生物・化学兵器の現状や脅威について話し合われている。

そこで、米国のバイオベンチャー企業「コラボレーション・ファーマスーティカルズ（Collaborations Pharmaceuticals）」が中心となり、薬品開発に使用されるAIを悪用した場合の結果をシミュレーションしたのだ。

論文によると、「一度、AIブラックモードにすると、数千もの毒物の組み合わせをすばやくデザインし、その多くは、現在使われている最も危険な神経ガスに類似していた」という。そして、実験で利用された材料したものの多くが、無料で手に入るものなので、似たような生成モデルが簡単に開発できてしまう…（続きはこちら）