Malwarebytesは1月29日(米国時間)、「In conversation: Bruce Schneier on AI-powered mass spying｜Malwarebytes」において、AI（Artificial Intelligence：人工知能）がスパイ活動の限界を変えようとしていると伝えた。

  • In conversation: Bruce Schneier on AI-powered mass spying｜Malwarebytes

    In conversation: Bruce Schneier on AI-powered mass spying｜Malwarebytes

従来のスパイ活動

インターネットが普及するより前、政府や企業は一般市民の会話や行動を人海戦術で監視していた。インターネットが普及すると、検索エンジンの検索ワード、デバイス情報、スマートフォンから位置情報、ソーシャルネットワーキングサービス(SNS: Social networking service)から会話を収集するように変化。西側諸国の政府は企業からこれら情報を購入し、それ以外の国々は直接国民を監視して収集するようになった。

このようにして収集された大規模な情報は、これまで人的資源が不足していたため、解析は困難だった。しかしながら、MalwarebytesはAIの普及がこの状況を変えるだろうと指摘。これら大規模な情報をAIが処理して結論を得られるようになると予測している。

AIが実現する大規模スパイ活動

シニア・プライバシー・アドボケイトのDavid Rulz氏は、暗号・セキュリティ研究者のBruce Schneier氏との対談において、AIが実現するであろう大規模なスパイ活動について、その影響、一般市民の反応、その先に未来はあるのかについて議論している(参考：「Bruce Schneier predicts a future of AI-powered mass spying: Lock and Code S05E03 | Malwarebytes」)。その概要は次のとおり。

  • 顔の見えないデータブローカー(大規模にデータを収集する企業または組織)がインターネットの向こう側で毎日何を収集しているかはわからない。しかし、それはインターネットの方向性を決めるために使われている
  • スパイ活動を議論するとき、必ず通信内容が議題に上がるが、AppleやGoogleはその内容に基づいた広告を出すことはないとして、内容の収集には消極的な姿勢を見せている。しかし、実際は経済的利益が影響している。GoogleはGmailの内容を盗聴してもあまり意味がないことに気づいていたので、やらなかった。利益が出るとわかれば変わるだろう
  • AIモデルの開発において、学習データに会話の内容が使える。これまで盗聴しても価値のなかった通信内容の価値が高まっている。今後、プライバシーを悪用しないという企業の善意に頼るような社会にはならないだろう
  • Googleは今のところ利用規約でミーティングを監視しないとしている。しかし、いつまで現状が続くかわからない。変化は、反発、抗議を経て新しい普通になる。テクノロジーの世界ではこのような変化が可能で、実際、現実になろうとしている
  • スパイ活動を権力という側面から考えると、権力者がその権力の拡大のためにスパイ活動を行う
  • 企業や権力者(政府)がスパイ活動を行うことはわかる。では、一般市民は自分たちをスパイするだろうか。答えは「すでにしている」だ。恋人や知人を監視するためにスパイ活動を行う者がいる
  • 一般的に力のない人がスパイ活動を行うことはできない。だからこそ、力のない人々はテクノロジーに頼る。だが、テクノロジーは力のない人よりも力のある人に恩恵をもたらす
  • 人々は監視されていると感じると行動を変える。他人に合わせて行動するようになり、目立つことを避ける。そして、人々が新しいことに挑戦しなくなり、世界は停滞する
  • 現在は毎日多くの監視が行われている。今の人類は監視社会に敗れたようにみえるが、まだ手遅れではない。歴史的に人類は社会を道徳的、倫理的、平等にしてきた。その流れはゆっくりとだが、改善している
  • 大規模なスパイ活動の規制は政治的な問題にすることで状況は変わる。この問題に対して議論が行われ変化が起こる。欧州連合(EU: European Union)では変化が起ころうとしている。米国の政策には金銭が絡むので、米国ではなく外に目を向けてほしい

AIが普及するまでは、人的資源の限界によりスパイ活動から人々のプライバシーはある程度保護されてきた。しかしながら、AIの進化に伴いその限界が突破されようとしている。完全な監視社会の実現を望む権力者や企業と、望まない一般市民との間で対立する可能性がある。Malwarebytesはこのような問題に対して法的な規制強化を実現し、人々を権力者から保護する必要があると訴えている。