生成AIでフェイクニュースが加速、その対抗策「CAI」とは？

アドビは7月18日、オンラインにて日本のメディア向けに「CAI（コンテンツ認証イニシアチブ）」に関する説明会を実施。同社がここ数年で注力しているCAIの概要や仕組みについて改めて説明を行ない、コンテンツに信頼性を持たせるうえで、メディアの対応が不可欠だと呼びかけた。

アドビが主導するCAIは、「フェイクニュース」に歯止めをかける対抗策として、コンテンツに来歴を付与する仕組みを業界横断で利用していくもの

本稿では、説明会の流れを追いつつ、CAIの概要についておさらいしていきたい。

「CAI」とは何か？

同会の冒頭では、米Adobe社のSantiago Lyon（サンティアゴ・ライオン）氏が登壇した。

Santiago Lyon氏。フォトジャーナリスト、フォトエディター、メディアでの幹部職、教育者として35年以上にわたる経験を有し、ロイターとAP通信のカメラマンとして1989年から1999年にかけて4大陸で8つの戦争を撮影し、複数のフォトジャーナリズムの賞を受賞。2003年から2004年にかけてはハーバード大学でジャーナリズムのニーマン・フェローを務めた後、AP通信の副社長兼写真部長に就任し、2016年まで同職を務める。現在、アドビが主導するコンテンツ認証イニシアチブ（CAI）のアドボカシー兼教育部門責任者として、デジタルコンテンツを通じた誤情報への対策に取り組む

Lyon氏は、ここ数年は生成AIの技術が出てきたことで、コンテンツ制作のプロセスが複雑になってきたと指摘。「CAI」の仕組みを活用することで、写真や動画などがいつ生成されたのか、どういった編集のプロセスをたどったのか、といった情報を消費者に共有できるという旨を語った。

続いて、アドビ社の西山氏が登壇。まずCAIの概要と、取り組みの現状について説明した。

アドビCDO（最高デジタル責任者）西山正一氏。2001年にアドビシステムズ（現アドビ）マーケティング本部に入社。Web製作アプリケーションやDTPアプリケーションの製品担当を経たのち、Creative Cloudのマーケティングを担当、サブスクリプション移行期をマーケティングの立場で携わる。2017年6月に営業部に異動し、営業戦略部(現DX 推進本部)の立ち上げに携わる。現在はアドビの直販ビジネスおよび販売戦略立案の責任者を務める

CAIが生まれた経緯には、「偽情報（＝意図的に広められる虚偽もしくは不正確な情報）」をめぐる情勢が影響している。

AIを活用してコンテンツを生成するテクノロジーが進化したことで、たとえば「ディープフェイク」と呼ばれる本物そっくりな映像・音声が、比較的容易に作成できるようになってきた。

実際に、グローバルな視点に目を向ければ、米国で選挙に関する偽情報キャンペーンが拡散されたり、台湾でディープフェイクによる選挙妨害に対策するための法律ができたりと、関連するトピックは散見される。

また、悪意の有無によらず、偽情報が拡散されてしまうこともあるという。西山氏は、2022年9月に静岡県内大水害を謳った偽画像がSNSで拡散された事例を挙げ、投稿者がAIによって生成されたことを明らかにするまえに、何千人ものユーザーが拡散したことを紹介した。

今や、生成AIを活用すれば、「ゴールデンブリッジが燃えている」画像も一瞬で生成できてしまうようになっている。

ここで重要になるのが「CAI」だという。

「Content Authenticity Initiative（CAI、コンテンツ認証イニシアチブ）」

そもそも「CAI」とは、「Content Authenticity Initiative」の頭文字を取った略語。日本語では「コンテンツ認証イニシアチブ」と表記される。

オンラインコンテンツの信頼性と透明性をテクノロジーによって高め、誤報や偽情報に対抗しようという取り組みであり、55カ国以上から1,500を超えるメンバーが参画。また、参画しているのは、大手のソフトウェアベンダーだけでなく、カメラメーカーなどの企業、メディア、個人なども含まれる。

コンテンツの「来歴」でフェイクニュースに対抗

西山氏は、続いてCAIの仕組みについて解説。偽情報に対抗するためには、4つのアプローチが取られうると語る。そのうちテクノロジーに関連するものが「検出」と「来歴」だ。

偽情報に対抗するための4つのアプローチ

まず、「検出」はコンテンツに対して、ファクトチェックをするというアプローチだ。同氏は「実際には時間とコストがかかり、終わりなき戦いになってしまう可能性がある」とも指摘する。

一方で、CAIでは「検出」ではなく、「来歴」と呼ばれるアプローチをとっているのが特徴だ。来歴とは本来、絵画の取引で使われていたキーワードであり、画家が絵を描き、画商が販売するなど、人の手に渡った情報を書き連ねていくことで、正当性を証明する仕組みを指す。これをデジタルコンテンツに対して当てはめたのがCAIということになる。

つまり、誰によって制作され、どのような加工がされて、目の前に表示されているのかという情報がメタ情報として埋め込まれ、消費者の目でも確認できるようにすることで、コンテンツの信頼性が担保される。

CAIの大まかな仕組み

例えば、クリエイターの視点で考えると、CAIに対応したカメラで静止画を撮影すれば、誰が撮影した写真なのかというメタデータが写真に紐づく。また、CAIに対応したソフトウェアで編集を行うと、どのような修正がされたのかが、コンテンツに紐づけられていくということになる。

一方、消費者目線で考えると、将来的には、目の前に表示されている画像に対して、加工が施されているのか、AIによって生成されたのかといった情報が明示されていくことになる。

キヤノンやニコンもすでに対応

CAIの規格を定めているのは、Linux Foundation内に設置されている「C2PA」（Coalition for Content Provenance and Authenticity）という標準化団体だ。Adobe自身もこの標準化団体の運営委員会のメンバーであり、テクニカルワーキンググループの議長を務める。この規格にそって、ソフトウェアベンダーなどが対応ツールを開発していく流れとなり、2022年1月にはC2PA仕様のv1.0がリリースされている。

これまでの歩み

西山氏は、2019年後半にCAIが発表されてから、およそ半年ごとにマイルストーンを達成してきたと胸を張る。アドビとしても既にPhotoshopをCAIに対応させており、春からベータ版として提供している生成AIツール「Adobe Firefly」もCAIをサポートしている状態だ。

また、市場に目を向ければ、カメラブランドによるCAIのサポートも進んできており、CAIの技術を搭載したカメラも完成してきている。日本メーカーでは、キヤノンやニコンなどがすでにCAIへの対応を公表。まだ市場に投入された製品はないものの、Lyon氏は市販製品への実装について、「ニコンとライカから、2023年内～2024年初頭に（CAI対応カメラが）リリースされる予定。対応スマートフォンの登場は早くて2024年になる」と明かした。

こうした流れを踏まえたうえで、アドビは今後重要になるのがメディアの対応だとした。メディアがCAIを活用した事例としては、Rolling Stone誌において、ボスニアの紛争の写真が掲載されたことを紹介した。