富士通は7月19日、内閣府をはじめ経済産業省や関係府省が経済安全保障を強化し推進するために創設した「経済安全保障重要技術育成プログラム（通称：K Program）」のもと、新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」に実施予定先として採択され、偽情報の検知・評価・システム化に関する研究開発に着手することを発表した。事業規模は60億円。期間は2024年から2027年までの予定。

事業の背景

昨今はインターネットにおける生成AIや合成コンテンツが高度化し、フェイクニュースや偽情報の流通が社会問題となっている。現在までに、ディープフェイクを用いた意図的な偽情報（文章、画像、音声、動画）を見破る技術などが個別に検討されてきたものの、偽情報の抽出から分析までの処理を一貫して行うシステムは存在しない。

富士通はこの問題の解消に向けて事業の委託を受け、偽情報に対して複数の根拠から検知および評価を行い総合的な分析を行う偽情報対策システムの研究開発に着手する。

開発するシステムの概要

今回富士通が開発する偽情報対策システムは、SNS投稿などの情報の真偽を判定する際に、その情報に含まれる文章、画像、音声、動画が生成AIなどによって作られていないかといった作為性の判定とともに、さまざまな根拠の関係性をつなぎ合わせた「エンドースメントグラフ」により、これらの整合性や矛盾を分析することで真偽の判定を支援する。また、社会的な影響についても評価する。

開発するシステムは、SNSの投稿内容などから文章、画像、映像、音声メディアをメディアごとに内容を分析し、その結果を根拠として利用するとともに作為性の判定を行う。ここで抽出したインターネットの情報に対するさまざまな根拠をグラフ構造化して管理するシステムについても構築する。

さらに、LLM（Large Language Models：大規模言語モデル）により情報にひも付けられた根拠の整合性や矛盾を分析し、情報の真偽の判定を支援する技術についても開発を進めるという。加えて、偽情報の特徴を分析し、拡散規模や社会的な影響度を評価する技術も開発予定。

  • システム概要

    システム概要