伝播構造を利用したフェイクニュース検出

SNSを通じて情報発信・収集が容易になった一方で、フェイクニュースがSNS上で拡散し、社会や経済に大きな影響を与えています。例えば、健康に関する誤った情報や、政治的なデマが拡散されることにより、人々の行動や意見が誤った方向に向かうことがあります。フェイクニュースは急速に拡散されるため、人手での抑制が困難であり、自動検出システムの開発が不可欠です。

近年、フェイクニュースの拡散はリアルニュースと異なる伝播構造を形成することが指摘され、グラフニューラルネットワーク（GNN）を用いた伝播ベースの検出手法が注目されています。本研究室では、伝播ベースの手法に着目し、高精度で早期検出が可能なAIシステムの開発や、ユーザのリテラシー向上を目指す可視化手法の開発を進めています。例えば、フェイクニュースは同意見のユーザ間で共有が連鎖することで拡散されるとの報告があり、本研究ではニュースに対するユーザのスタンスの類似性を抽出する伝播ベースの手法を提案し、検出精度の向上を実現しました。

具体的には、感染症に関するフェイクニュースが拡散された際、同じ誤った情報を信じるユーザ同士がつながり、さらなる拡散を促進してしまう現象が考えられます。今後は本手法に検出過程の可視化を導入し、過激化を促すトピックを表示することでユーザ個人のリテラシー向上につなげ、社会の分断の解消を目指します。

曽我茅冬，吉田　壮，棟安実治：ユーザのスタンス分析によるフェイクニュース検出の高精度化，SIS2022-44，pp.21-26（2023年3月）

SNS上の意見拡散とボットの影響の解明

SNSでは誰もが意見を発信・拡散できるため、日々様々な意見の対立が発生しています。対立する意見の中には誤った情報や根拠のない主張も含まれており、これらが拡散されることで生じる被害が問題となっています。さらに、SNS上のボットが特定の意見を増幅させている可能性も指摘されています。この問題を解明するため、本研究ではTwitterのハッシュタグ付きツイートを収集し、意見の拡散状況とボットの存在を可視化して分析しました。

具体的には、ユーザーをノード、リツイートをエッジとするグラフを作成し、各ユーザーの投稿内容などから算出した「ボットである可能性」をノードの色として表示しています。分析結果から、ボットは特定の意見の拡散を促しているわけではなく、拡散に与える影響は小さいことがわかりました。また、広く拡散されたユーザーは著名な人物であることが多いものの、その投稿内容が必ずしもハッシュタグに関連したものでないことが判明し、意図しない情報の拡散が起こっていることも確認されました。

藤原　滉規：SNS上の対立構造におけるハッシュタグ拡散とボットによる影響の分析，関西大学卒業論文（2023年2月）

SNSにおける社会的偏向と攻撃性の検出

SNS上では日々、膨大な量の情報が発信・拡散されており、誰でも簡単に情報にアクセスすることができます。しかし、投稿の信憑性や社会的偏向の有無、他ユーザへの攻撃性が問題視されており、これらの検出が重要になっています。本研究では、Twitterからツイートを収集し、ネットワークを用いてツイートをトピックに分類し、それらの特徴語と偏向度合いを算出しました。さらに、トピック間の攻撃性の検出を行い、対立構造の分析も行っています。

具体的には、ツイートをノードとし、各ツイートの拡散ユーザの類似度をエッジとするグラフを構築し、グラフクラスタリングを用いてトピックに分類します。分類されたトピックの拡散ユーザの分布から偏向度合いを算出し、トピック内のツイート群から特徴語を抽出することで、偏向している可能性の高い話題や単語の特定が可能になります。また、他トピックへの引用リツイートの攻撃性を分析し、偏向度合いと攻撃性の相関やトピック間の対立構造を検出する研究を行っています。

吉田　燎：SNSにおけるコミュニティに基づいた社会的偏向と攻撃性の検出，関西大学卒業論文 (2023年2月)