AIが見つける｢誰も気づかなかった欠陥｣､アンソロピックの新プロジェクトが示すサイバー攻撃のハードル低下

アンソロピックはこのモデルを一般に公開しないと明言した。同社がモデルの一般公開を見送るのは初めてのことだ。

理由は明快で、攻撃に転用されるリスクが大きすぎるためだ。弱点を見つけて修正する能力は、そのまま弱点を見つけて悪用する能力でもある。犯罪組織や敵対的な国家がこの水準のAIを手に入れれば、銀行システムへの侵入、電力網の制御システムへの攻撃、政府機関の機密情報の窃取が、従来よりはるかに容易になりうる。

代わりに、防御目的に限定してパートナー企業に提供する。アンソロピックは最大1億ドル（約145億円）の利用クレジットを拠出し、さらにオープンソースソフトウェア（公開されている基盤的なプログラム群）のセキュリティ団体に400万ドル（約5.8億円）を寄付する。

パートナーに名を連ねるのは、クラウド基盤を担うAWSやグーグル、OSを提供するアップルやマイクロソフト、半導体のエヌビディアやブロードコム、ネットワーク機器大手のシスコシステムズやセキュリティ大手、そして金融大手のJPモルガン・チェースだ。オープンソースの普及を支えるLinux Foundationも参加している。

JPモルガン・チェースのPatrick Opet最高情報セキュリティ責任者は「金融システムのサイバーセキュリティと強靱性の確保は当社の使命の中核にある」と述べ、業界を横断した防御体制に期待を示した。

なぜこの能力が突然現れたのか

アンソロピックによると、セキュリティの能力は意図的に訓練したものではない。プログラムを読み解く力や、論理的な推論の能力を高めた結果、副産物として現れたという。FreeBSDの攻撃コードもFirefoxのエクスプロイトも、セキュリティ専用の学習なしに生み出された。