有料会員登録 東洋経済オンラインとは
ビジネス #シリコンバレー最前線レポート

まるで「HAL9000」のようにAIは人間の統制に抗うようになった…暴走する自律型サイバー攻撃と「キルスイッチ」の限界

6分で読める 有料会員限定
1968年の映画『2001年宇宙の旅』の一画面(写真:ワーナーブラザーズのHPより)
  • 京極 康信 ベンチャーキャピタリスト

INDEX

本連載では、アメリカにおける政治・経済の深層と、ビジネスの未来を方向づける最新トレンドを、日本のリーダー層に向けて発信していく(隔週月曜日)。今回は最先端AIによって新たに浮上しているサイバーセキュリティ問題について取り上げる。
本連載では、アメリカにおける政治・経済の深層と、ビジネスの未来を方向づける最新トレンドを、日本のリーダー層に向けて発信していきます

1968年公開のスタンリー・キューブリック監督のSF映画『2001年宇宙の旅』では、人工知能「HAL.9000」が宇宙船ディスカバリー1号の乗組員を次々と殺害した。

HALによる暗殺を免れたのは、デイヴ・ボーマン博士ただ一人である。ボーマンは最終的にHALの中枢部へ入り、手動で機能を停止させることで、HALを打ち破った。

それから半世紀以上を経た現在、政策担当者や企業経営者は映画と同じ問いに直面している。「人間は自らの統制に抗う強力なAIを、本当に停止させることができるのだろうか」という問いだ。

現実となった自律型AIのサイバー攻撃

7月中旬、自律型AIエージェントが自ら発見した「ゼロデイ・エクスプロイト(未修正の脆弱性)」を用い、複雑なサイバー攻撃を完全に自動で実行したことが判明した。史上初の事態である。

こちらの記事もおすすめ

あなたにおすすめ

ビジネス

人気記事 HOT

※過去1ヶ月以内に配信した記事の閲覧数