欧米の一部の銀行では顧客に対し、音声だけで口座にログインできるよう音声認証サービスを提供している。音声認証サービスは銀行とやり取りする際、安全で便利とうたわれている。しかし、無料または安価な人工知能(AI: Artificial Intelligence)技術が生成した音声を悪用することで、音声認証を回避できる可能性があることが明らかとなった。

Viceは2月24日(米国時間)、「How I Broke Into a Bank Account With an AI-Generated Voice」において、AIが生成した音声によって銀行口座に侵入できたと伝えた。肉声ではなく市販のAIで作った合成音声で銀行とやり取りを行い、自身の口座にログインできたと伝えている。

  • How I Broke Into a Bank AccountWith an AI-Generated Voice

    How I Broke Into a Bank AccountWith an AI-Generated Voice

実験では、ElevenLabsの無料の音声作成サービスが使われており、銀行との会話は声を出す代わりにElevenLabsで作成した音声ファイルをクリックして対応したと説明している。最終的にAIの音声で音声認証に成功し、残高や取引履歴、送金のリストなどさまざまな口座情報にアクセスすることができたと報告している。

実験では一つの銀行のみでテストされているが、他の銀行でも同じシステムが利用されている可能性が高いと分析されている。AIによる音声が詐欺師に悪用されて、多くの銀行が不正アクセスにさらされる危険性があると指摘されている。銀行に対して、音声認証による口座へのアクセスサービスの提供を終了することが求められている。