AIが作った文章、どう見抜く? 日立の世界初の技術「多重電子透かし」の可能性

「世界で初めて、生成AIによって作成された文章に電子透かしを2重、3重と多重に入れられる技術を開発した。これによってほぼ100%の確率で文章の生成元を見抜くことができ、フェイクニュースなど生成AI悪用への対策につながる」ーー。

7月29日、報道関係者による合同取材に応じた日立製作所(日立) 研究開発グループ先端AIイノベーションセンタの永塚光一氏は、新技術のインパクトをこう強調した。「AI研究者界隈でもあまり知られていない技術」(永塚氏)という「多重電子透かし」はいったいどのような技術なのだろうか。生成AIをめぐる昨今の社会課題とともに説明しよう。

日立は生成AIによって作成された文章に電子透かしを2重、3重と多重に入れられる世界初の技術を開発した

拡散するフェイクニュース、生成AIの「負の側面」

世界的に選挙イヤーでもある2024年。生成AIが普及する中、フェイクニュースなどの負の側面が身近となってきている。現在行われている米国大統領選でも、生成AIによる偽情報拡散が問題化している。

選挙妨害だけでなく、著名人の偽動画によるなりすましや、学生による試験やレポートで生成AIを不正に利用するといった事例も多い。そのため、コンテンツの生成元がAIかを判別する技術の重要性が増している。

そのような状況の中、欧州連合(EU)では世界に先駆けて包括的に生成AIに対する法規制を5月に設立した。AI事業者に対し、生成AIが作成したコンテンツを明示及び検出できる技術の導入を要求している。また、米国では生成AI規制のための大統領令が施行されており、AI開発者に対し、AIが生成した画像や音声の「ディープフェイク」を判別する「電子透かし」を義務付ける方針だ。

「誰もが生成AIを安全・安心に利用できるようにするための技術開発が加速している。その第一歩が『情報の生成元を判別する』技術だ」(永塚氏)

合同取材に応じた日立製作所研究開発グループ先端AIイノベーションセンタ永塚光一氏(7月29日)

電子透かしとは?

では、電子透かしとはいったいどのような技術なのだろうか。

「透かし」は、偽造や改ざんから守る技術として17世紀以降、紙幣や切手、法的文書などで活用されてきた。例えば、7月3日に20年ぶりに新しくなった紙幣では偽造対策が強化されている。1つの透かしが偽造可能になってしまった時のために、紙幣には日本銀行しか知らない「複数」の透かしが入れられており、これによって紙幣の価値が担保されている。

7月3日に20年ぶりに新しくなった紙幣

そして、デジタルコンテンツに透かしを入れる技術が電子透かしだ。インターネットの普及とともに、著作権保護や品質保証といった観点から、デジタルコンテンツに作成者の情報を埋め込む技術が登場し、画像や音声、動画などへの導入が広まった。

電子透かしには目に見えるものと見えないものの2種類がある。ストックフォトの購入前の画像のように、ロゴやテキストなど目立つパターンを埋め込むことで不正な利用を抑止する「可視型」と、コンテンツの外観の質は損なわず、パスワードのような鍵を利用したり特殊な分析技術などを利用したりして検出する「非可視型」の2種類だ。

永塚氏は「可視型は『勝手に使用しないで』という著作権保護の意味で使われ、非可視型は『使ってもいいけど、後できちんと検出できるようにするよ』というコンテンツの追跡の意味で使われる」と説明した。