Yahoo! JAPANなどのポータルサイトを運営するヤフー株式会社は、日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化したと発表しました。
「Yahoo!ニュース」では、配信される記事にユーザーが意見や感想を投稿できるコメント機能を2007年から実装しています。
今回は、1,100万件のコメントデータなどを学習し、新たに開発したディープラーニングの判定モデル（AI）と独自に開発した深層学習特化型スーパーコンピュータ「kukai」を活用することで、違反コメントへの対策強化を試みています。「kukai」は、ディープラーニング特化型スーパーコンピュータで、Yahoo! JAPANが開発した、ディープラーニング活用に特化した省エネ性能の高いスーパーコンピュータです。
実際に1週間分のコメントデータを使い、モデルと比較したところ、違反コメントの検知数が約2.2倍に向上したといいます。
「Yahoo!ニュース」は今までも、健全な議論の場をつくるため、これまでもユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力やAIを用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきました。
今回導入したモデルで判断された結果は今後、コメント表示順の改善にも採用するとしていて、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるように改善がされる予定です。
■AI専門メディア AINOW編集長 ■カメラマン ■Twitterでも発信しています。@ozaken_AI ■AINOWのTwitterもぜひ！ @ainow_AI ┃
AIが人間と共存していく社会を作りたい。活用の視点でAIの情報を発信します。
