Google、機械学習と人間による管理で「クチコミ」の質を確保

Googleは、「Google マップ」に投稿されるクチコミの品質を保つ取り組みについて、同社の公式ブログで紹介した。世界中のユーザーから1日数百万件投稿されるクチコミを24時間体制で確認しているといい、取り組みは「コンテンツポリシーの作成」、「機械学習の活用」、「人間による管理」の3つに分けられる。

クチコミが実際の体験や来店に基づいていることを確認し、関係性のないコメントや不快なコメントを除外するため、厳密なコンテンツポリシーを作成している。ポリシーの作成後、それを元にオペレーターと機械学習アルゴリズムのトレーニング資料が作成される。

世相の変化にあわせてポリシーは柔軟に変更されている。直近では世界各国の政府や企業が、特定の施設の利用に新型コロナウイルスワクチンの接種証明取得を義務づけたことを受け、それに対応した企業を批判するクチコミを削除するため追加の保護を導入した。

クチコミが投稿されると、クチコミがポリシーに違反していないか確認するため、管理システムに送られる。同社は、「日々投稿されるクチコミの量を考慮すると、投稿されたコンテンツを管理するためには、人間による微妙なニュアンスの理解と機械による大量の情報の処理の両方が必要」であり、「両方に多大な投資を継続して」いるという。

Googleのシステムは、クチコミの内容、投稿したアカウントのアクティビティ、場所の性質など複数の角度からクチコミを調査。虚偽コンテンツや不正コンテンツの大部分は、ほかのユーザーが目にする前に削除される。ポリシー違反が検出されない場合、クチコミの投稿は数秒以内に完了する。

機械学習に利用されるモデルは徹底的なトレーニングが行なわれている。たとえば「ゲイ」という単語は蔑称的に使用される場合があるが、それをヘイトスピーチでのみ使用される前提でモデルをトレーニングすると、同性愛者の店舗運営者やLGBTQ+向けの施設に関するクチコミが誤って削除されてしまう可能性がある。

このような事態を防ぐため、人間のオペレーターが定期的に品質テストを実施している。特定の単語やフレーズについての徹底的なトレーニングにより、ポリシーに違反するコンテンツを検出する能力を高めるとともに、正当なクチコミを誤ってブロックする可能性を減らしているという。

また、クチコミが詐欺や不正使用に利用されないための取り組みとして、Google マップを利用するユーザーが、ポリシーに違反すると思われるクチコミを簡単に報告できる仕組みを用意している。

Googleのオペレーターチームは24時間体制で報告されたコンテンツを確認しており、ポリシーに違反するクチコミは削除し、場合によりユーザーアカウントの停止や法的措置などの対応を取る。

チームは、報告されたコンテンツを確認するだけでなく、「潜在的な悪用リスク」を積極的に特定し、不正行為を減らす取り組みを行なっている。潜在的な悪用リスクの一例として選挙など多くの注目を集めるイベントが予定されている場合が挙げられる。その場合、イベントに関連する場所や近隣のビジネスに対して高度な保護を適用し、不正行為のリスクがなくなるまで監視を継続する。

同社は、毎月10億人以上のユーザーがGoogle マップを利用しているなか、「ユーザーが目にする情報、特にクチコミは、すべてのユーザーにとって信頼できるものであるべき」と考え、今後も不正なクチコミを含む悪用をなくすための努力を続けていくとしている。