ヤフコメ、AI添削で不快な投稿が24％減少

LINEヤフーは、「Yahoo!ニュース」の「Yahoo!ニュース コメント(ヤフコメ)」の投稿において、投稿内容の表現の見直しを提案するAI「コメント添削モデル」導入後の効果を発表した。「不快と感じる可能性のあるコメント」投稿が約24%減少するなど改善がみられたという。

「コメント添削モデル」は、コメントポリシーに違反するコメントや、違反には該当しないものの閲覧者が不快に感じる表現に対して、AIがユーザーのコメント投稿完了前に見直しを提案する機能。ユーザーの表現の自由を尊重しつつ、コメントを投稿する前に表現を見直す機会をユーザーに提供するもので、2024年9月から導入された。

今回の検証ではコメント添削モデルの発動対象である「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が不快に感じる表現であるかを定量的にはかるため、「不適切投稿判定モデル」で不快度を点数化。その点数を元に、一定の点数以上のコメントを「不快なコメント」と定義した。検証期間は、導入前の2024年8⽉12日～9月8日と導入後の2024年9月9日～10月6日。

検証期間の「不快なコメント」数の平均を比較した結果、コメント添削モデルの導入後、一定の不快度を超える「不快なコメント」の投稿は、導入前に比べて約24%減少したことがわかった。

コメント添削モデルが発動したことで、ユーザーがコメントを投稿する前に表現の見直しを実施したかも検証。コメント添削モデルが発動し修正されたコメントのうち、約50%が不快度の低いコメントに書き直して投稿されていた。

また、ヤフコメ全体のコメント投稿数に変化はないが「不快なコメント」の数は減少していた。こうしたことから、コメント添削モデルにより、ユーザーが自発的にコメントの見直しを実施し、ヤフコメの健全化に寄与していることがうかがえるとしている。