Xが(やっと)不正投稿対策　「フェイク」へどう対処するのか

4月4日(米国時間)、X(旧Twitter)は、不正投稿などのルールに違反したアカウントの排除に対し、新たに積極的な取り組みを始めると発表した。

Xにおいて、フェイクや他人の投稿を盗用してポストを繰り返す迷惑行為が横行しており、それがサービスの質を下げている、というのはXの利用者であれば誰もが感じていることだろう。どのくらい実効性があるかはともかく、ようやくサービス側からの対策が明言されることになった。

これに限らず、SNSでの「フェイク」「ボット投稿」対策は常に問題になっている。

ここにきて対策が進み始めているのは、政治的な思惑とも関わりがある。今回はその辺りについて、情報を整理してみよう。

「選挙イヤー」で懸念されるフェイクの増大

Xが今回、具体的にどのような施策を打ったのかは明らかにされていない。しかし、大量のチャットボット(と思われるアカウント)が凍結されたのは間違いない。筆者のXアカウントのフォロワー(34,000人台)も、正確な数は不明だが、数日で2百人ほど減ったようだ。

Xはインプレッション数に応じて報酬が支払われるようになってから、インプレッション数を稼ぐことを目的とした「インプレゾンビ」と呼ばれる行為の横行がひどかった。結果として、不正確な情報がより拡散されやすい状態になっていた。

インプレゾンビの例。元のツイートに対して、オウム返しや無関係な絵文字などをリプライする

今回の変更でどれだけ変わるのかは正直判然としない。しかし、Xとしても「不正確な情報が野放図に拡散され、場としての価値がさらに下がる」ことをそろそろ放置し得なくなってきたのだろうか……と感じる。

インプレゾンビはともかく、フェイク情報が拡散されることへの対策は必須の状況だ。なぜなら2024年は特に、世界中で大きな国政選挙が多い年だからだ。50以上の国で大きな選挙が開かれるとされており、SNSを介したフェイクによる「政治介入」は強く懸念されるところだ。

先日も、Xを含む大手IT企業20社が連携し、選挙におけるAIの不正利用対策に取り組む「AI Elections accord」を組織すると発表した。

AIによるフェイクというと、日本では震災などの災害情報や、著作者を偽るような使い方に注目が集まる傾向にある。

だが、世界的に言えば圧倒的に「政治利用」だ。ヨーロッパもアメリカも、AIのフェイク対策について法的なルールを定める方向にあるが、それは「フェイクを使った自国世論に対する政治的介入」の可能性を強く懸念しているからでもある。

4月4日には、マイクロソフトは公式ブログにて、中国によるAIを使った政治的な情報操作の増加について警告した。

マイクロソフトは公式ブログで、中国によるAIを使ったフェイク情報の拡大を警告(China tests US voter fault lines and ramps AI content to boost its geopolitical interests

国家的関与で言えばロシアにも同様の懸念がある。AIを使う、使わないに関わらず、ウクライナとの関係で多くのフェイクニュースが発信されているのはご存知の通りだ。

国家的な関与だけが問題なのではない。過去には選挙の対抗陣営に対するフェイクも多種流された。生成AIが実用的になってきた今はより多くのフェイク情報が流れる可能性が高く、警戒も厳重になっているということなのだ。

生成AI・フェイク対策で広がる「来歴記録」

生成AIという面で注目しておくべきなのは「来歴記録」技術の拡大だ。

生成AIで作られたものであることを電子透かしやオンライン記録などで残す技術だが、国際標準としてはアドビやマイクロソフトなどが作り、Googleも参加した「C2PA(Coalition for Content Provenance and Authenticity)」があり、その活用を推進する「CAI(Content Authenticity Initiative=コンテンツ認証イニシアチブ)」がある。

C2PAの他に「ITPC」という技術もあるが、注目自体は、より新しいC2PAの方に移りつつある。

C2PAは生成AIに限定した技術ではない。ソニーは、自社のミラーレスカメラでの記録に対応したソリューションについて、一部の報道機関向けに提供を開始した。

こうした技術を使うと、画像・動画に「どのカメラで撮影されたのか」「どんな加工が行なわれたのか」「誰が投稿したのか」といった情報を記憶しておける。そうして「生成AIでない」ことを示せる。

OpenAI・Meta・Google・マイクロソフトなど、主要な画像生成AIの提供元は、生成画像に対して「生成AIで作られたもの」という来歴を自動的に付与するようになってきた。

来歴記録は真贋を判定する技術ではないし、生成AIを排除するための技術でもない。来歴を消して他人が利用することも不可能ではない。

だが、来歴を「改ざん」するのは難しい。だから少なくとも、「来歴がある」ことが信頼の証であり、「来歴がない」ことはフェイクを疑う1つの要因になる……と言える。

実は昨年あたりから、筆者が記事中で使う写真の多くには「来歴記録」がしてある。情報を出す側も積極的に来歴記録を使っていくことで、情報の信頼性を高める一助になると考えているからだ。

著者単位でなく、メディアや報道機関単位での採用例はまだ少ないが、積極的に採用すべきだと考えている。

SNSへの「来歴表示」もゆっくり進行

もう一つ、重要なのはSNSでの対応だ。SNSで表示されている画像の来歴を簡単に確認できるようになれば、状況に変化が生まれる可能性は高いと思うのだ。

Metaは一足先に、Facebook・Instagram・Threadsに、C2PAやITPCで記述された「生成AIで作られたものである」という来歴情報を認識し、生成AIで作られた画像であることを明示する取り組みを5月にもスタートする。このラベルはMetaによって生成された画像だけでなく、各SNSに投稿された画像に埋め込まれたタグも検出して表示する。まだ生成AI関連だけの表示だが、一歩前進と言える。

Metaは同社のSNSに「生成AIによるもの」というタグの表示を導入する

こうした動きをどう見るべきなのか？

先日「Adobe Summit 2024」取材時に、アドビでC2PAやCAIなどの来歴認証技術関連のシニアディレクターを務めるアンディ・パーソンズ氏に、SNSと来歴記録の関係をたずねると、彼は次のように述べた。

アドビでC2PAやCAIなどの来歴認証技術関連のシニアディレクターを務めるアンディ・パーソンズ氏

パーソンズ氏：Metaが採用したように、先に進んでいます。

ただ指摘しておきたいのは、すべての大手ソーシャルメディア企業がこのイニシアティブに参加することが必ずしも決定的に重要だというわけではないということです。オープンな技術ですから、コンソーシアムに参加しなくても使えます。

重要なことは、Xを含むソーシャルメディア企業との対話が、もはやコンソーシアムとして彼らに必要性を説く段階ではなく、各社の経営陣と、製品実装の考えの溝が越えられるのを「忍耐強く待つ」段階にある、ということですね。私は特定の企業を代表して発言することはできませんが、私の経験上、時間がかかることです。

実際、私は昨年10月にロンドンでイーロン・マスク本人に、来歴記録について質問する機会を得ました。

Twitterは過去、このイニシアチブに非常に積極的なメンバーであることを彼に面と向かって念を押しました。

が、彼は私の質問に対して、「それは良いアイデアだ、そうすべきだ」とだけ答えました(苦笑)。

もちろん時間が解決してくれることだと思います。しかし、着実に前進しています。

ぜひマスク氏には、積極的な対応を加速する決断をしてほしいと思う。導入しただけで問題が解決することはないが、生成AIを真っ当に使いたいと思う人々にも、フェイクでなくファクトを拡散したいと思う人々にもプラスになるのは間違いないだろう。