Yahoo!ニュースがディープラーニングを用いてコメント対策を強化 ー違反検知数が2.2倍に

最終更新日:

Yahoo! JAPANなどのポータルサイトを運営するヤフー株式会社は、日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化したと発表しました。

「Yahoo!ニュース」では、配信される記事にユーザーが意見や感想を投稿できるコメント機能を2007年から実装しています。

今回は、1,100万件のコメントデータなどを学習し、新たに開発したディープラーニングの判定モデル(AI)と独自に開発した深層学習特化型スーパーコンピュータ「kukai」を活用することで、違反コメントへの対策強化を試みています。「kukai」は、ディープラーニング特化型スーパーコンピュータで、Yahoo! JAPANが開発した、ディープラーニング活用に特化した省エネ性能の高いスーパーコンピュータです。

実際に1週間分のコメントデータを使い、モデルと比較したところ、違反コメントの検知数が約2.2倍に向上したといいます。

「Yahoo!ニュース」は今までも、健全な議論の場をつくるため、これまでもユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力やAIを用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきました。

今回導入したモデルで判断された結果は今後、コメント表示順の改善にも採用するとしていて、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるように改善がされる予定です。

 

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する