セキュリティソリューション導入 /
運用支援 / 監視サービス
コラム
2025.1.29
サイバー攻撃対策
サイバーセキュリティにおけるAIの光と影
AIが変革するサイバーセキュリティの現在地と今後の課題
#サイバーセキュリティとAI
はじめに
近年、人工知能（AI）は目覚ましい発展を遂げ、私たちの生活に深く浸透し、なくてはならないものになりました。一方で、ディープフェイクによる詐欺事件など、AIならではの犯罪も増加しており、AIには光と影があることが世間の常識になりつつあります。
サイバーセキュリティの分野においても、AIは攻撃者と防御者の双方に大きな影響を与えています。AIは膨大なデータを高速に処理し、複雑なパターンを認識する能力に優れており、サイバー攻撃の自動化や高度化を可能にするだけでなく、高度な防御システムの構築にも貢献しています。
本稿では、AIがサイバーセキュリティの攻撃と防御に与える影響について、具体的な事例を交えながら深掘りしていきます。
目次
AIによる攻撃手法の進化
生成AIによるマルウェアの作成
一般的な生成AIは、報告書や資料の作成、プログラムコードを生成する能力を有しているだけでなく、倫理的な制約が設けられており、マルウェア開発のような有害コンテンツの生成を抑制する仕組みが組み込まれています。この特徴を利用し、サイバー攻撃を目的とする生成AIプラットフォームが登場しました。代表的な例では、WormGPTやFraudGPTが挙げられます。
WormGPT：マルウェア開発やソーシャルエンジニアリング攻撃を支援し、フィッシングメールや悪意のあるスクリプトを生成。
FraudGPT：詐欺行為を目的としたコンテンツ生成に特化しており、偽のオンラインストアや金融サービスを構築。
これらの生成AIは、月額100～200ドル程度の費用で利用することができ、より少ない費用で高度な攻撃を仕掛けることができるため、サイバーセキュリティの脅威を深刻化させています。
高度な標的型攻撃
AIにより個人の行動パターンや組織の内部情報を分析し、より効果的な標的型攻撃を仕掛けることができるようになりました。攻撃者は、標的となる人物のソーシャルメディアの投稿やメール履歴を分析し、その人物の興味関心や職務に合わせた内容のメールを作成します。これにより、添付ファイルのダウンロード確率があがり、結果的にマルウェア感染のリスクが高まります。
ディープフェイク技術の進化
ディープフェイク技術は、AIを用いて本物と見分けがつかない偽の画像や動画を作成する技術です。この技術は今や情報操作や社会不安をあおる目的で悪用される可能性があるばかりでなく、特定の企業の株価を操作し、企業業績や社会的な地位を脅かすことが簡単にできるため、直接的なサイバー攻撃とは異なりますが、広義的に捉えれば十分に警戒すべき技術と考えています。
もし、ディープフェイク技術を応用したサイバー攻撃手法などに発展すれば、ディープフェイクを疑えるまでの非常に高度なITリテラシーまでが各個人に求められる将来も遠くないかもしれません。
AIによる防御の強化
前章で述べたように、AIの活用はサイバー攻撃を仕掛ける側に多くのアドバンテージをもたらしましたが、同時にサイバー攻撃に対する防御面においてもその力を発揮しています。
機械学習によるSOCの進化
AIの一つである機械学習の活用により、セキュリティ・オペレーションセンター（SOC）の運用に革新をもたらしています。SOCの中核をなすSIEM（Security Information and Event Management）が従来型のルールベースのものから更に高度化することで、膨大なイベント情報を効率的に分析し、新たな脅威を迅速に検出することができるようになり、組織のセキュリティレベルを大幅に向上させています。
-
1異常検知の高度化
従来のルールベースのSIEMでは見つけられなかった、ネットワークトラフィックの異常な増加や、ユーザーの行動パターンからの逸脱など、より詳細な異常パターンを検出できるようになりました。また、不正プログラムの発見でも効果を発揮するため、エンドポイントセキュリティソリューションでも活用されています。
-
2インシデント対応の自動化
脅威の優先順位付けやインシデント対応手順を自動化することにより、人的ミスを減らし、対応時間を短縮することができるようになりました。（このように自動化されたセキュリティ運用のことをSOAR（Security Orchestration, Automation and Response）と呼びます。）
-
3脅威インテリジェンスの強化
過去の攻撃データや最新の脅威情報を学習することで、より精度の高い脅威インテリジェンスの提供が可能となりました。この技術を活用することで、新たなマルウェアの変種を瞬時に特定し、対策を講じることができます。
-
4誤検知の削減
大量のデータを学習することで、従来型のルールベースの検知よりも誤検知が少ないため、セキュリティアナリストの負担を軽減することが可能です。
生成AIによるSOCの進化
機械学習だけでなく、生成AIもSOCの進化に貢献しています。
SOCのオペレーターやアナリストが、業務上しなければならないコメント記述を、生成AIで支援することにより業務負担を削減することができるようになりました。生成AIが対応履歴を学習しコメントを自動生成するため、生成されたコメントを確認するだけでよく、文章作成の負担を大幅に軽減します。
サイバーセキュリティにおけるAI活用の課題
AIによるサイバーセキュリティの攻撃・防御が今後も進化し続けるということは間違いありません。その上で克服すべき課題として、「AI活用の倫理的な側面」が挙げられます。
前述の通り、AIは大量のデータを学習することで高度な機能を実現しますが、その学習データに悪意のある情報が含まれている場合、AI自身が攻撃の道具として利用される可能性があります。例えば、AIに不正なコードを生成させたり、誤った情報を拡散させたりすることが可能になります。
また、AIの判断は学習データに大きく依存するため、偏ったデータで学習した場合は、誤った判断を下してしまう可能性があります。例えば、特定のグループや地域に対して差別的な判断をするなど、倫理的な問題が発生することも考えられます。
これらの倫理的な課題を克服するためには、政治家、法律家等を含め、社会全体でセキュリティ技術について考える必要があるのではないでしょうか。
まとめ
サイバーセキュリティの分野において、AIが攻撃と防御の双方に大きな影響を与えていることがご理解いただけたでしょうか。
AIの進化に伴い、サイバー攻撃はより高度化し、巧妙になっていくことが今後予想されます。弊社では、このようなサイバーセキュリティの今後を見据えて、早くからAI機能を搭載した次世代SIEMであるExabeamを取り扱っております。ExabeamはSIEM機能の他、ユーザーの振る舞いをAIで分析し不正な行動を検知するUEBA（User and Entity Behavior Analytics）を搭載している画期的なソリューションです。
AI技術や自社のセキュリティ対策状況について、課題や疑問などございましたらお気軽にご相談ください。
