OpenAI、生成AI画像検出ツールを提供開始 来歴記録「C2PA」参加

OpenAIは、画像などのコンテンツ認証・来歴記録の標準規格「C2PA」に参加すると発表した。また、OpenAIのツールで作成されたコンテンツを特定できる技術についても提供し、コンテンツの信憑性に関する取り組みを強化する。

OpenAIでは、2024年の年初から、ChatGPTと「DALL・E3」で作成・編集されたすべての画像にC2PAのメタデータを追加する取り組みを実施している。今後は動画生成モデルのSoraにも導入される予定。

こうしたメタデータは、削除することができても、偽造や改ざんは簡単ではないため、時間を経ることで信憑性の確保に貢献できるとしている。またマイクロソフトと共同で、C2PAを含む信憑性確保の取り組みを広く支援する基金も立ち上げる。

OpenAIはまた、自社の技術・ツールで生成されたものを検出するツールも開発した。画像生成モデルからコンテンツが発信された可能性をAIを使って評価する分類器のほか、改ざん防止のための信号を音声などのデジタルコンテンツに入れる、耐改ざん性のある透かし入れなどが含まれる。

まずは研究所や調査報道を行なう非営利団体に向けて、試験的な提供が開始されている。このツールでは、OpenAIのDALL・E3で生成された画像かどうかを予測し、分類器の有効性などが評価される。事前のテストでは、分類器はDALL・E3で生成された画像を高い確率で特定、エラー率は0.5%未満としている。

OpenAIでは、こうした取り組みが有効に働くには、集団的な行動が必要と指摘。エンドユーザーに対して透明性を提供するためには、ほかのプラットフォーム事業者も、付加されたメタデータを保持するような体制が必要としている。