画面に映るあの上司は、本物か──。
2024年初頭、イギリスに本社を置く多国籍エンジニアリング企業の香港拠点で、経理担当者が15回にわたって計約38億円を送金した。指示を出していたのは、ビデオ会議に映るCFOと幹部たち。だが、その幹部たちはみな、AIで生成された偽物だった。
ここ数年、こうしたAIが可能にした攻撃が立て続けに表面化している。
例えば、国内では24年5月に、生成AIを悪用してマルウェアを作成した人物が逮捕された。作成したのは、ファイルを暗号化して身代金を要求するランサムウェアのようなものだったとされる。
専門家の目から見れば粗い作りだったが、コンピューターの専門知識が乏しくても「それらしいもの」が形になってしまった点が注目を集めた。
翌25年には、AIを悪用した攻撃や犯罪が世界各地で次々と報じられ、AIが作ったフィッシングメールが人間が作ったものを初めて上回ったとする実験報告まで現れた。
また国内では、生成AIを使った不正アクセスで中高生が摘発。26年に入ると、攻撃者がほぼ1人で商用の生成AIを使って防御の甘い機器を洗い出し、約5週間で55カ国超・600台超のファイアウォールに侵入した。
どれも個別の事案に見えるが、背景には同じ流れがある。AIがサイバー攻撃のあり方そのものを変えつつある、その表れだ。
「Mythos」冷静に評価すべきという声も
他方で、26年4月にAnthropicが自社の最新モデル「Claude Mythos（クロード・ミュトス）」のサイバー攻撃能力を公表。ただし悪用リスクを理由に一般には非公開とし、世界でわずか数十の組織にのみ利用を認める姿勢を取った。
間もなくイギリス政府系の評価機関も独自に検証を行い、Mythosが企業ネットワークへの侵入を模した演習をAIとして初めて完走したと報告した。メディアでは、この「Mythos」の登場が大きく取り上げられ、世間の反応も過熱気味だ。
だが、AIの能力は短期間で次々と塗り替わる。4月末には、Mythosほど騒がれていないがOpenAIの「GPT-5.5」も同じ演習を完走し、専門課題ではMythosをしのぐ結果も出たと公表された。
騒動の後には、話題の発端となった脆弱性発見の一部について、既存の公開モデルや小型で安価なAIでも同様の発見を再現できたとする検証報告が相次いでいる。
Mythosについては一定の技術的進歩は認められるものの、Anthropicの発表には一部で宣伝的な側面も指摘されており、セキュリティ業界では冷静に評価すべきという声も少なくない。
次ページが続きます：
【AIは攻撃を「大衆化」させた】
