The Cyber Expressは2024年6月2日(米国時間)、「Copilot Recall Is ‘Dumbest Cybersecurity Move In A Decade’」において、Microsoftが「Copilot+ PC」に導入予定の新機能「Recall」を、この10年間のサイバーセキュリティにとって最も愚かな行為として非難した。

  • Copilot Recall Is ‘Dumbest Cybersecurity Move In A Decade’

    Copilot Recall Is ‘Dumbest Cybersecurity Move In A Decade’

「Recall」とは何か

Microsoftは今年5月、AI(Artificial Intelligence)のために設計された新しいPCカテゴリーとして「Copilot+ PC」を発表。標準搭載のWindows11にはパワフルなAI体験として新機能「Recall」が導入される予定となっている(参考：「Copilot+ PC の紹介 - News Center Japan」)。

MicrosoftはRecallについて、次のように説明している。

Recallにより、まるで完璧な記憶を持っているかのような感覚で、PC 上で見たことや行ったことにアクセスできる。Copilot+ PCは、私たちと同じように個人の経験に固有の関係性や連想に基づいて情報を整理する。これにより、忘れていたことを思い出す手助けになり、覚えている手がかりを使って、探しているものを素早く直感的に見つけることができる。

RecallはユーザーがPC上で行ったすべての操作や表示された情報(スクリーンショットを含む)をデータベースとして保存し、過去に自分が何をしたか確認できる機能とされる。データはローカルPC上に保存され、プライバシーは自分で管理できるとうたわれている。

  • Recallの設定画面 - 引用：Microsoft

    Recallの設定画面　引用：Microsoft

Recallがはらんでいるセキュリティリスクとは

Microsoftは、Recallに関連したプライバシーおよび制御方法について「Privacy and control over your Recall experience - Microsoft Support」にて解説している。ここにはRecallの注意点が記載されており、その中に次の一文が存在する。

Recallはコンテンツのモデレーションを実行しない。そのため、パスワードや金融口座番号などの情報は秘匿されない。特にサイトがパスワード入力のクローキングなどの標準インターネットプロトコルに従っていない場合、そのデータはスナップショットに含まれる可能性がある。

つまり、デバイスにアクセスできれば誰でもAIの助けを借りて、機密情報を簡単に見つけ出せる。また、Recallは閲覧にデバイス本体を必要としないため、コピーしたデータベースを閲覧可能とされる。

The Cyber Expressによると、セキュリティ研究者のKevin Beaumont氏が情報窃取マルウェアとMicrosoft Defender for Endpointを使用した実験を行ったという。その結果、Microsoft Defender for Endpointが侵害を検出して自動修復が開始されるまで(10分以上必要)に、Recallのデータベースを窃取可能だったとしている。また、残念なことに攻撃者がRecallを用いると、数秒以内に自動で必要な情報を取り出せると指摘している。

さらなる懸念

MicrosoftはRecallのデータをローカルに保存すると強調している。しかしながら、Kevin Beaumont氏はRecallのコードにAzure AIのバックエンドコードが大量に含まれており、攻撃対象領域はローカルに限定されないと指摘している。

また、ユーザーが削除したデータ(メールなど)はRecallから自動的に削除されないため、ユーザーはRecallのデータも忘れずに削除する必要があるという。WhatsAppやSignalなどの「消えるメッセージ」も、送信先のRecallに自動的に保存されるため消えることはない。

これらの動作はEU一般データ保護規則(GDPR: General Data Protection Regulation)に違反している可能性があるとの指摘もある。そのため、これら問題が解決されない限り、企業が「Copilot+ PC」を導入することは難しいと考えられている。