｢AI暴走｣で起きた損害は誰が払うのか？ サイバー保険の落とし穴と対策《勝手にAI課金→あわや1日約700万円の損失…》

AIが自ら判断し、外部システムを操作する「AIエージェント」が普及すれば、企業には新たな問題が生まれる。

AIの自己判断で引き起こした損害を、誰が引き受けるのか

AIの想定外の行動が懸念される中、すでに保険業界は動き始めている。ロイターが26年8月に報じたところによると、AIエージェントの普及を受け、三井住友海上などを傘下に持つMS&ADグループのアメリカの保険会社やオーストラリア保険大手のQBE、イギリス保険大手のBeazleyなどが、サイバー保険の契約内容や補償範囲を見直しているという。

従来のサイバー保険が想定してきた事例は、比較的わかりやすい。代表的なものとして、犯罪者がパスワードを盗んで外部からサーバーへ侵入したり、ランサムウェアでシステムを停止させたりする事例が挙げられる。

サイバー保険は、こうした被害からシステムを復旧する費用や、事業停止による損失、調査や訴訟費用などを補償するものである。

ところがAIエージェントの場合、最初から「不正な侵入者」がいるとは限らない。例えば企業がAIに、社内ネットワークの脆弱性を探して修正するよう指示し、そのためにアクセス権を与えたとしよう。その結果、AIが自分で判断したことで、機密情報が露出する、あるいは重要なシステムが停止する可能性がある。

この場合、企業に損害は生じているが、それは企業自身が権限を与えたAIによるものである。ロイターの取材に応えたAI向け保険会社のCEOは、こう語った。