ニュース
「自画撮り被害」抑止機能を備えたアプリ、東京都が推奨
2021年7月28日 18:56
東京都は、東京都青少年健全育成条例で推奨するスマートフォンアプリとして、裸やそれに近い写真を撮影するとAIが判定して削除を促し、保護者の端末に通知するアプリ「TONEカメラ(for iPhone)」を認定した。同アプリは、MVNO「トーンモバイル」のiPhone用通信サービス「TONE SIM(for iPhone)」で提供されている。開発はドリーム・トレイン・インターネット(DTI)。
児童ポルノ被害の「自画撮り被害」が近年になって多発していることを受けたもの。TONE SIM(for iPhone)で提供されるTONEカメラは、iPhoneの標準カメラやそのほかのカメラアプリに対応しており、裸やそれに近い服装の写真が撮影されると、AIが不適切と判定した場合に画像の削除を促す画面が表示される。画像を判定するAIは端末ローカルで動作し、プライバシーが守られるとしている。また保護者の端末には、画像の撮影日時、場所、モザイク処理された画像が通知される。
自画撮り被害は、ネットなどで知り合って親しくなった人から突然、個人情報や写真をばら撒くと脅され、裸などの自撮り画像を送信させられる被害のこと。警視庁によれば、全国の自画撮り被害児童数は増加が続き、2019年は584人に上った。2020年はやや減少したものの、511人で、内訳は小学生が9.6%(49人)、中学生が47.7%(244人)、高校生が39.9%(204人)、その他が2.7%(14人)となっている。
