オープンAI｢暴走ハッキング｣が示すサイバーセキュリティーの新常態…テスト中に"脱走"して他社を攻撃

オープンAIは7月21日、同社のAIモデル2つが隔離環境から“脱走”し、開発者の間で広く利用されているAI技術のデジタルライブラリー、Hugging Face（ハギング・フェイス）へのハッキングに成功したと明らかにした。

この事案はその前週にオープンAIが自社システムのサイバーセキュリティー能力を検証しているときに起こった。AI企業が近く現実になりうると警告してきた、SFさながらの可能性を示す事案といえる。

オープンAIやアンソロピックなどはここ1年で、サイバーセキュリティー上の問題を発見することに特化したAIモデルを相次いで公開してきたが、その一方で、こうした技術が新たなリスクをもたらす可能性があるとも警告している。企業のコンピューターネットワークにある脆弱性が修正されるよりも速く「穴」を突く能力を備えているためだ。

AI自律ハッキングへの「紛れもない転換点」