AIが暴走? なぜ容易に外部組織に侵入できてしまうのか－爆速進化するAIがもたらす安全性リスクとは？

AIモデルを使った一連のオンライン攻撃が最近相次いでいる。米国のアンソロピックとOpenAI､メタ･プラットフォームズがそれぞれ開発したモデルによるもので､急速に進化しているAIがもたらす安全性リスクへの懸念が広がっている。

こうしたセキュリティー上の事案は､大きく2つに分けられる。AIモデルが管理されたテスト環境から抜け出し､外部組織に不正侵入したケースと､ハッカーがAIモデルに指示し､サイバー攻撃を実行させたケースだ。

こういった事案が積み重なり､AIエージェントのハッキング能力が急速に向上する中､セキュリティー研究者や政治家からは､より厳しいテストや安全性の高い検証環境を求める声が上がっている。