Microsoftはこのほど、同社の提供するAIサービスを悪用して不正なサイバー活動を行う脅威アクターに関する調査レポートを公開した。MicrosoftはOpenAIの研究チームと共同で、サイバー攻撃にAIを悪用しようとした脅威アクターの行動を追跡し、特定の国家が関与している可能性が高い5つの脅威アクターによる攻撃の妨害に成功したという。その上で、少なくとも現時点では、AIを利用した斬新な攻撃や悪用手法は確認されていないと結論づけている。

Microsoftによるレポートは次のページで公開されている。

また、OpenAIによるレポートは次のページで公開されている。

  • Staying ahead of threat actors in the age of AI｜Microsoft Security Blog

    Staying ahead of threat actors in the age of AI｜Microsoft Security Blog

MicrosoftとOpenAIがブロックした5つの脅威アクターの活動

レポートでは、両社の研究チームが特定し、活動を妨害した5つの事例が紹介されている。AIを悪用した攻撃の概要は以下の通り。

  • ロシア政府が関与する脅威アクターのForest Blizzard(STRONTIUM)は、衛星通信プロトコルとレーダー画像技術に関する研究や、技術的な操作の自動化や最適化といったスクリプト タスクにLLMサービスを悪用した
  • 北朝鮮の脅威アクターであるEmerald Sleet (THALLIUM)は、北朝鮮に関するシンクタンクや専門家の調査、およびスピア フィッシング キャンペーンに使用するコンテンツの生成などにLLMを悪用した
  • イスラム革命防衛隊(IRGC)と関係があるとされているCrimson Sandstorm(CURIUM)は、アプリやWebの開発、攻撃に使用するスクリプトの実行、スピア フィッシング キャンペーンに使用するコンテンツの生成、マルウェアの検出を回避する手法の調査などにLLMを悪用した
  • 中国が関与する脅威アクターのCharcoal Typhoon(CHROMIUM)は、さまざまな企業やサイバーセキュリティツールの調査や分析、スクリプトの生成、フィッシング キャンペーンに使用するコンテンツの作成などにLLMを悪用した
  • 中国が関与する脅威アクターのSalmon Typhoon(SODIUM)は、複数の情報機関や地域の脅威アクターに関する公開情報の取得や、技術論文の翻訳、潜在的にデリケートなトピックに関する情報収集、コーディングの支援、OS内における特定のファイルタイプやプロセスの隠蔽技術の研究などにLLMを悪用した

これらの事例は、いずれも兼ねてより想定されていたAIの活用方法の範囲を出ていない。この調査結果は、少なくとも現時点では、MicrosoftおよびOpenAIのAIモデルは悪意のあるサイバー攻撃者に対して限定された効果しか提供していないことを示している。ただし、今後も脅威アクターは進化するAI技術の研究を続け、攻撃活動への利用の幅は一層拡がることは想像に難くない。

脅威アクターを検出してブロックするための多角的なアプローチ

MicrosoftとOpenAIでは、悪意のあるサイバー活動を行う脅威アクターを検出し、その活動を妨害するために、次に挙げる原則に基づいて多角的なアプローチを実施している説明する。

  • 悪意のある国家に関連した攻撃者を特定し、監視・妨害する
  • 脅威アクターによる他社のAIサービスの悪用を検出した場合には、直ちに該当するサービスプロバイダーに通知する
  • 他の関係者と協力し、攻撃者によるAIの悪用に関する情報を定期的に共有する
  • システム内で検出された脅威アクターによるAI悪用の性質や範囲、対策などを一般の人々や関係者に公開し、透明性を確保する

Microsoftでは、「人権と倫理基準を尊重しながらテクノロジーの安全性と完全性を優先し、責任あるAIイノベーションに引き続き取り組んでいく」と表明している。