OpenAIとMicrosoft、AI悪用のロシアや中国のアカウントを停止

OpenAIとMicrosoftは14日(米国時間)、国家に関連するAIモデルの悪用の対応強化を発表した。悪意のあるサイバー活動のためにAIサービスを使う、国家の支援を受けた5つの攻撃グループのアカウントを停止したという。

OpenAIのアカウントを停止したのは、「Charcoal Typhoon」と「Salmon Typhoon」という名のの中国系の2つの攻撃者(threat actor)と、イラン系の「Crimson Sandstorm」、北朝鮮系の「Emerald Sleet」、「Forest Blizzard」として知られるロシア系の攻撃者。

例えば、中国系のCharcoal Typhoonは、様々な企業やサイバーセキュリティツールを調査し、コードをデバッグしてスクリプトを生成。フィッシングキャンペーン向けのコンテンツを作成するためにOpenAIのサービスを使用した。

Emerald Sleetは、アジア太平洋地域の防衛問題の専門家や組織の特定、公開されている脆弱性の把握、フィッシングキャンペーンで使用される可能性のあるコンテンツの作成などを行なった。ロシア系のForest Blizzardは、衛星通信プロトコルやレーダー画像技術に関するオープンソースの研究や、スクリプティング作業のサポートにOpenAIのサービスを利用したという。