Yahoo!ニュースの誹謗中傷コメント、投稿時注意で常習アカウント減少

ヤフーは、「Yahoo!ニュース」のコメント欄に誹謗中傷などの不適切なコメントを繰り返し投稿するアカウントが、AIによる注意メッセージの表示で13.5％減少したと発表した。

この取り組みは2020年7月から開始されたもの。パトロールに活用しているAI判定モデルを用いて、“不適切である可能性が高い”と判定されたコメントを過去数日以内に複数回投稿しているユーザーに対し、コメント投稿時に注意メッセージが表示される。

AI判定モデルを用いて、“不適切である可能性が高い”と判定されたコメントを過去数日以内に複数回投稿しているユーザーに対し、注意メッセージが表示される

この取り組みが開始された直後の2020年8月と比較して、4カ月後の2020年12月にはコメントを投稿したユーザーが増加した一方で、注意メッセージが表示されたアカウント数は13.5％減少するなど、一定の効果がみられたという。

「Yahoo!ニュース」では専門チームが人的なパトロールを行なっているほか、自社開発の「深層学習を用いた自然言語処理モデル(AI)」を利用し、誹謗中傷などの不適切な投稿を1日平均2万件削除している。今回の注意メッセージはこのAIを活用したもの。