Yahoo! ニュース、不適切コメントに「投稿前にご確認ください」機能

LINEヤフーは、「Yahoo! ニュース」のコメント欄(Yahoo! ニュース コメント)において、コメントポリシーに違反するコメントなどを、“投稿完了前”に見直し提案する新機能「コメント添削モデル」を導入開始した。

コメント欄における、悪質な投稿を防ぎ、健全な言論空間とすることが目的。

Yahoo!ニュースでは、コメント欄を2007年から提供。従前から、誹謗中傷などの内容を含む投稿を禁止し、コメントポリシーに違反投稿の具体例をまとめている。違反コメントへの対策としては、24時間体制の専門チームによるパトロールや、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などを使い、誹謗中傷の削除などの対策を行なっている。また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」なども導入している。

今回導入する「コメント添削モデル」は、「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないが閲覧者が「不快と感じる可能性のある表現」に対し、ユーザーがコメントを投稿完了前に、AIが表現の見直しを提案する。投稿前に表現を見直す機会をユーザーに提供することで、表現への改善を促し、コメント欄の健全化を目指す。

具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライト。「投稿前にご確認ください」など、表現の見直しを提案するポップアップが表示される。