CNNが9月18日、衝撃的なニュースを報じた。
今春、アメリカ軍は、中東海域を航行する中国船が核兵器の関連部品をひそかに運んでいるとの情報を入手。これを受けて、武装兵士を乗せた軍用機が離陸。同船を阻止し、不法な積み荷を押収するための乗船作戦に向かった。
ところが作戦開始のわずか数分前、追加の裏付けを進めていた当局者が、その情報は生成AIの幻覚だと突き止めた。
米特殊作戦軍の分析官が使ったモデルは、積み荷を核物質と誤認していた。このLLMは、アメリカの機密信号情報（SIGINT）とインターネット上の情報を組み合わせ、虚偽の内容を生成したとみられる。CNNは、その情報が「完全な虚偽」だったと報じた。関係者の一人は「中国との戦争を引き起こしかねないところだった」と述べた。
救いは、アメリカ軍の「ヒューマン・イン・ザ・ループ」が機能したことだ。最終的な攻撃判断は人間の指揮官が握り、当局者は行動前に情報を再検証した。だが同時に、LLMが生成した不正確で誤解を招く情報を基に、人間が重大な決定を下しかねないという深刻な脆弱性も露呈した。
イスラエルは10年以上前、情報分析と目標選定へのAI活用に先鞭をつけた。この技術的突破により、同国軍は極めて高い作戦テンポを維持できるようになった。今やロシア、中国、アメリカなど各国軍もAIによる目標選定を急ぎ、標的の特定から武力攻撃までの「キルチェーン」を短縮している。
とはいえ攻撃判断には、人間による統制とガバナンスを維持することは不可欠である。しかし、ある国が先んじて攻撃判断そのものにAIを組み込んでしまえば、他国はあえて追随するか、もしくは敗北する危険を受け入れるかの選択を迫られる。
さらに厄介なのは、AIを駆使するハッカーが、最も厳重な政府・軍ネットワークを含むシステムに侵入してしまった場合にどのような危険があるか、である。
「デジタル核兵器」
リスクについて、多くの警告が発せられている。
オーストラリア、カナダ、ニュージーランド、イギリス、アメリカの情報機関から成る「ファイブ・アイズ」は6月22日、AIモデルが企業や政府に「壊滅的な損害をもたらすまで、あと数カ月しかない」と警告した。各国の指導者に脅威への「迅速な行動」を求め、民間企業には、セキュリティ業務へAIツールを組み込んで防御力を高めるよう促した。
ジョン・ラトクリフCIA長官は6月30日の講演で、最先端AIモデルの能力を核兵器になぞらえて「デジタル核兵器」と呼んだ。衝撃的な比喩といえるだろう。
この記事は有料会員限定です
残り 2682文字
