NEDO、フェイク情報を見破るシステム開発へ　富士通が受託

NEDOは、経済安全保障を強化・推進する観点から支援対象とする先端的な重要技術の研究開発を進める「経済安全保障重要技術育成プログラム(K Program)」の一環として公募を行なった「偽情報分析に係る技術の開発」について、富士通を実施予定先として採択した。事業の規模は60億円。期間は2024年から2027年までの予定。

情報の真偽判定や社会的影響度の評価に対する要素技術などの研究と、そうした技術をシステム化する技術を獲得するための研究を行ない、偽情報(フェイクニュース)に対する総合的な分析を行なうシステムを開発する。

事業の成果として獲得した技術は、新産業創出と国際競争力強化につなげ、日本の不可欠性の確保、優位性の向上を目指す。

ディープフェイクを用いた意図的な偽情報(文書、画像、音声、動画)を見破る技術については、日本でも、学術界や民間企業で個別に検討がされている。ただし、これらの偽情報に対して、オープンソースからの抽出と総合的な分析までの処理を一貫して行なうシステムは存在していない。また、文書、画像、音声、動画は作為的な加工はされていなくても、記事そのものが偽証であるような情報に対して対処できるようなシステムも存在していない。

本事業で開発する偽情報対策システムでは、SNS投稿などの情報の真偽を判定する際、その情報に含まれる文章、画像、音声、動画が生成AI等によって作られていないかといった作為性の判定を行なう。同時に、対象とする情報に付加される発信者(人や組織とその属性)、位置、日時などの真偽判定の根拠となる情報など様々な根拠の関係性を繋ぎ合わせた「エンドースメントグラフ」により、これらの整合性や矛盾を分析することで真偽の判定を支援するほか、社会的な影響度を評価する。

民需・官需向けのユースケースに合わせてそれぞれ要件定義を行ない、これを元に、主に以下の4つの研究開発内容から構成される偽情報対策システムを構築する。

• 特徴1：メディアごとの情報分析と偽情報検知
  SNSの投稿内容などから文章、画像、映像、音声メディアをメディアごとに分解して抽出し、内容を分析。その結果を根拠として利用するとともに、作為性の判定を行なう技術を開発する
• 特徴2：根拠、エンドースメント管理
  特徴1で抽出した、インターネットの情報に対する様々な根拠を、グラフ構造化して管理するシステムを構築する
• 特徴3：総合真偽判定支援
  大規模言語モデル(LLM)により情報に紐づけられた根拠の整合性や矛盾を分析し、情報の真偽の判定を支援する技術を開発する
• 特徴4：偽情報影響度評価
  偽情報の特徴を分析し、拡散規模や社会的な影響度を評価する技術を開発する