ChatGPTなどのAIを保護するためのサイバーセキュリティ技術

昨今、ChatGPTでAIの活用に注目が集まっています。サイバーセキュリティ分野においても、AIを活用したソリューションが登場しています。例えば、ネットワークなどの定常状態を監視し、異常が発生した際にアラートする「アノマリ検知」や、マルウェアや攻撃に似た動きを検知する「振る舞い検知」です。その一方で、イスラエルではAIを保護するサイバーセキュリティ技術の強化も図っています。

今回は、イスラエルにおけるAI活用状況と、AIを保護するサイバーセキュリティ技術の研究を紹介します。

マルウェア検知やプロセス自動化にもAIを活用

AI研究会議であるICML 2020(International Conference on Machine Learning)とNeurIPS 2020(Neural Information Processing Systems)において採択された論文調査によれば、世界的なAI関連技術の発展度のランキングは、1位アメリカ、2位中国、3位イギリス、4位カナダ、5位フランス…、イスラエルは10位となっています。

イスラエルはトップランナーではありませんが、イスラエル発の企業はマーケットを求めて本社をアメリカやイギリスなどに立ち上げることが多々あります。そのため、上記のようなランキングでは隠れているものの、実際のAI関連技術の発展度合いは、さらに上位だと筆者は考えます。

例えば、サイバーセキュリティ製品では、「検知」以外にもAIが活用されています。イスラエルのテルアビブに本社を置くDeep Instinct(グローバル本部は米ニューヨーク)は、ディープラーニングによりマルウェアの特徴を学習し、そこから推定する不審な動作を検知し、攻撃のブロックまで行います。

また、米カリフォルニアのResolve Systemsが提供するIT運用自動化(ITPA)ツールは、イスラエルにおける技術力を源泉としており(イスラエルのAyehu社を買収)、単にプロセスを自動化するだけでなく、自動化のためのフローをAIが提案します。繰り返し処理の自動化が得意であるRPAとは異なり、複雑な判断や他ツールとの処理が必要であるITPAにAIが加わったIntelligent IT Automationといった領域まで、AI活用が進んでいます。同ツールは、複雑な判断や処理を要するサイバーセキュリティ対応においても有効であり、日本含めたグローバルでもニーズがあります。

AIのセキュリティ、保護対象は学習用データとAIエンジン

AIの活用が急速に広まっています。しかし、「AIがなぜその結果を出したのか」という理由を明確にすることは、現在のところできません。AIが出力した結果には、AIエンジンの構成や判断のしきい値、学習量、分析の対象といったさまざまな要因が影響しているからです。

現在のAIは基本的に、事前に学習した情報を基に人間に近い情報処理や判断などを行います。事前学習のためにはさまざまなデータと分析用のAIエンジンが必要になりますが、サイバー攻撃によって、データやAIエンジンを改ざんされてしまうと、出力される結果(判断)を狂わせることができてしまいます。そのため、AIの活用にあたっては学習用データとAIエンジンの保護が重要です。

実際に、AIに誤作動を起こさせる情報を学習させ、AIを活用したチャットボットが差別的な発言を行うなどの事例が起きています。現時点では、対策として学習データをチェックするようなソリューションが台頭してきています。ですが、今後は学習済みのデータが改ざんされたり、AIエンジン自体が攻撃されたり、といった事件も起きる可能性があります。

これらの危険性に対し、すでにイスラエルの大学や研究機関ではAIセキュリティの、特に改ざんによってどのような影響が出るのかという研究が行われています。

私がイスラエルに訪問した際、起業家を輩出する大学として知られるベングリオン大学で見た研究では、事前の学習データを改ざんすることで、自動運転に利用されるAIが、赤信号を青信号と判定して走行を続けてしまうというデモが行われていました。

• ベングリオン大学のTLO(技術移転機関)が入っているビル

このAIは、映像を基に周囲の情報を判定し、走行・停止を判断しますが、「赤信号は進行」と学習してしまうだけで、大きな事故を引き起こしてしまいます。

現状、AIを守るためのサイバーセキュリティ技術を実用化した企業は現れていません。しかし、技術発展の速度と毎年生まれるセキュリティスタートアップの数を考えると、そう遠くない日にイスラエルでAI向けサイバーセキュリティソリューションが実現するかもしれません。