Yahoo! ニュース、違反対策コメント対策強化。違反検知数が2.2倍に

ヤフーは、「Yahoo!ニュース」のコメント機能において、差別的、過度に品位に欠けるなどの違反コメントへの対策を強化した。

1,100万件のコメントデータなどを活用し、新たに開発した「深層学習を用いた自然言語処理による判定モデル(AI)」と、深層学習特化型スーパーコンピュータ「kukai」を活用。1週間分のコメントデータを使い従来の判定モデルと比較したところ、違反コメントの検知数が約2.2倍に向上したという。

Yahoo!ニュースは、ユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力や機械学習を用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行なってきた。今回導入した判定モデルで判断された結果は、今後コメント表示順の改善にも採用し、「より多くの人に読んでほしいコメント」が上位に表示されるようにしていく。