【悲報】AIがサイバー攻撃者を｢最強｣にしてしまった!? 《偽社長の電話で億を奪われる…》防御側もAIを活用しないと"詰む"理由

ちなみに学習情報を収集するスクレイパーボットにもAIが使われ、サイト側で用意している簡単なボット対策を自動で回避してコンテンツを収集するよう設計されている。コンテンツホルダーのサイトでは収益を守るため、そのような高度なスクレイパーボットの回避能力を上回って検知するための特別なボット検知システムへの関心が高まっている。

守る側でもAIを応用した防御戦略の導入が必須に

高度なスクレイパーと同様に、サイバー攻撃側のツールやその開発にもAIが応用されている。具体的には、攻撃する標的の選定や戦略の立案、システムやアプリケーションの脆弱性発見の自動化、攻撃目標に応じた悪性コードの生成、攻撃指揮や防御システム回避の自動化などでの用途が想定されている。

AIを用いた状況判断や攻撃手段選択の自動化は、軍事でも古くから研究が行われていた分野だ。一方で生成AIによる攻撃コードの生成は、この数年でとくに影響が顕在化した領域だ。

さらにその先に見える人間が介在しない攻撃コードの生成と攻撃の完全な自動化は、現在の生成AIの技術水準から考えると、すでに実戦投入されているか、一歩手前の段階にあるとみていいだろう。

生成AIの応用でとくに懸念されるのが、標的型またはスピア型と言われる特定の標的向けにカスタマイズされた攻撃や、各種の検知システムを回避する目的でオリジナルの攻撃手法から派生して作られる「亜種」の攻撃コード作成の高速化だ。その展開速度に対抗するためには、守る側でもAIを応用した防御戦略の導入が必須になる。

すでに防御側のソリューションでも、

などにAIの機械学習技術が活用されている。これにより、旧来の単純な攻撃パターン照合に頼った防御システムでは検知できなかった攻撃やその兆候を、パターン認識、適応型学習、異常検知といった手法で検知できるようになっている。