豪首相が謝罪｢AIの不祥事｣に学ぶリスク管理 迫るEU法規制､日本企業も制裁の対象になる

AIを使っているうちに「他人の権利を侵害してでも自社の利益を追求している」と自社の評判や社会的な信用を落としてしまうリスクもあり、AIの使用に関わるリスクは経営者がきちんと認識しておくべきです。

生成AIによる詐欺は、生成AIで制す

――生成AIに関して、今後警戒すべき脅威とその対策について教えてください。

これまではセキュリティ対策として日本語表現のおかしい「怪しいメールに気を付けて」と言われてきましたが、最近の生成AIは日本語として違和感のない文章が作れるようになっています。サイバー攻撃者はこれを悪用して、正しい日本語で攻撃メールを送れるようになりました。

これにより、従来は日本語の壁が阻んでいた攻撃者からのメールを、人間が読んでも怪しいと気付けない状況が生まれています。しかも人間とは異なり生成AIは疲れませんから、大量にメールを作成することができます。こうなると「怪しいメールに気を付けて」といった個人のリテラシーに頼ったサイバー攻撃対策は難しくなります。

――では、どのようにすれば見破れるのでしょうか。

実は、生成AIに対しては生成AIで対抗するのが有効で、日本語の違和感がない攻撃メールでも検出してくれます。

昨年、ハーバード大学の学生が生成AIを使った詐欺メールを複数の生成AIを使ってどれくらい検知するかを検証した研究があり、だいたい7割、場合によってはほぼ100%検出できました。

今後のサイバー攻撃対策は生成AIを使った装置を使い、攻撃メールのようなものは読ませない、という方向に進むのではないかと思います。

最近のウイルス対策ソフトもAIを使って検出する製品が増え始めていて、さらにはセキュリティに詳しくない人でもAIとの対話形式で対処方法を相談し、アドバイスを受けられるものが出てきています。あたかも専門人材の手を借りられるような解決策が生まれつつあるので、そういったAI製品をうまく活用することも検討するとよいと思います。

東洋経済Tech×サイバーセキュリティでは、サイバー攻撃、セキュリティーの最新動向、事業継続を可能にするために必要な情報をお届けしています。

著者フォローすると、宮内 健さんの最新記事をメールでお知らせします。