富士通、生成AIによるフェイクニュースを防ぐ偽情報対策システムの研究開発を進める

最終更新日:2024/07/30

富士通は、偽情報の流通問題を解決するため、大規模言語モデル（LLM）を活用した60億円規模の偽情報対策システムの研究開発を開始しました。

このニュースのポイント

富士通が、インターネット上の偽情報の検知・評価・システム化に関する研究開発を開始
LLMを活用した60億円規模の偽情報対策システムを構築。偽情報に対して複数の根拠から検知・評価し、総合的に分析
作為性の判定、エンドースメント管理、総合真偽判定の支援および偽情報影響度評価を行う

富士通株式会社は、昨今社会問題となるインターネットにおける生成AIや合成コンテンツによる偽情報流通問題を解決するため、偽情報の検知・評価・システム化に関する研究開発を開始しました。

この事業は、内閣府や経済産業省などの府省が創設した「経済安全保障重要技術育成プログラム」のもと、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」によるもので、事業規模は60億円、期間は2024年から2027年までを予定しています。

富士通は、これまでディープフェイクを用いた意図的な偽情報を見破る技術などを個別に検討してきましたが、偽情報の抽出から分析までの処理を一貫して行うシステムはありませんでした。そこで今回、問題解決のために、偽情報に対して複数の根拠から検知・評価を行い、総合的な分析を行う偽情報対策システムの研究開発を行います。

本事業の研究開発では、SNSの投稿内容から文章、画像、映像、音声をメディアごとに分解して抽出。内容を分析し、その結果を根拠として利用するとともに、作為性の判定を行う技術を開発します。また、作為性の判定から抽出した情報に関係する様々な根拠となる情報を、グラフ構造化して管理するシステムの構築も行なっていきます。

さらに、LLMにより情報に紐づけられた根拠の整合性や矛盾を分析し、情報の真偽判定を支援する技術を開発するほか、偽情報の特徴を分析し拡散規模や社会的な影響度を評価する技術も開発予定です。

民需・官需向けのユースケースに合わせたそれぞれの要件定義を元に、これらの研究開発内容から構成される偽情報対策システムを構築し、開発技術全体のシステム化を図っていきます。

富士通は、今後も本事業の開発技術を統合・システム化することで、一層の拡大が懸念される偽情報に対して、安定的で自律的な経済活動を維持するための偽情報対策の社会基盤を整備します。NEDOを通じて、本事業の成果を新産業創出および国際競争力強化につなげ、日本の不可欠性の確保ならびに優位性の向上に貢献していきます。

出典：PR TIMES