個人情報保護委員会、OpenAIに個人情報保護の徹底を要請

個人情報保護委員会は2日、生成AIサービスが普及していることを踏まえ、その利用に関する注意喚起等を行なった。また、ChatGPTを開発・提供するOpenAIとOpenAI OpCo,に対して個人情報の取扱いに関して指導も行なう。

生成AIサービスについては、「G7 広島首脳コミュニケ」でも喫緊の課題として取り上げられ、世界的な関心も高まっている。これに伴い個人情報の適正な取扱いやプライバシー保護の観点から、各国において対応を検討する動きもある。

国内でも、生成AIサービスが普及していることを踏まえ、個人情報の適正な取扱いと、新たな技術に基づく公共的な利益とのバランスに留意しながら、生成AIサービスの利用に関する注意喚起等を行なうことになった。

個人情報取扱事業者については、生成AIサービスに個人情報を含むプロンプトを入力する場合、個人情報の利用目的を達成するために必要な範囲であることを充分に確認すること、同意を得ることなく生成AIサービスに個人データを入力しないよう求めた。また、本来の目的以外で個人情報を取り扱う場合、個人情報保護法の規定に違反する可能性があるため、データが機械学習に利用されないことを充分に確認する必要がある。

行政機関等においては、個人情報の利用目的のための必要最小限の利用や提供であることを確認し、データが機械学習に利用されないことを充分に確認することを求めている。

一般の利用者については、生成AIサービスに入力した情報が機械学習に利用される可能性がある事や、他の情報と統計的に結びついた上で正確または不正確な内容でAIサービスから出力されるリスクがあることを認知すること。特に生成AIサービスでは、確率的な相関関係に基づいて文章が生成されるため、誤った情報を出力する可能性があり、そうしたリスクを踏まえた上で適正に判断する必要があるとした。

OpenAIにも個人情報保護に関する注意喚起

OpenAIとOpenAI OpCo,については、個人情報保護法に基づく注意喚起を実施。利用者本人や本人以外の個人情報について同意を得ることなく取得しないことを求めた。特に機械学習のために情報収集をする場合について、以下の4点を実施するよう要請している。

• 1：収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと
• 2：情報の収集後できる限り即時に、収集した情報に含まれ得る要配慮個人情報をできる限り減少させるための措置を講ずること
• 3：上記1及び2の措置を講じてもなお収集した情報に要配慮個人情報が含まれていることが発覚した場合には、できる限り即時に、かつ、学習用データセットに加工する前に、当該要配慮個人情報を削除する又は特定の個人を識別できないようにするための措置を講ずること
• 4：本人又は個人情報保護委員会等が、特定のサイト又は第三者から要配慮個人情報を収集しないよう要請又は指示した場合には、拒否する正当な理由がない限り、当該要請又は指示に従うこと

また、利用者が機械学習に利用されないことを選択してプロンプトに入力した要配慮個人情報について、正当な理由がない限り、取り扱わないことを求めている。

なお、個人情報の利用目的については日本語で通知又は公表することを要請している。