Yahoo! JAPANなどのポータルサイトを運営するヤフー株式会社は、日本最大級のインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」において、暴力的、差別的、過度に品位に欠けるなどの違反コメントへの対策をさらに強化したと発表しました。

「Yahoo!ニュース」では、配信される記事にユーザーが意見や感想を投稿できるコメント機能を2007年から実装しています。

今回は、1,100万件のコメントデータなどを学習し、新たに開発したディープラーニングの判定モデル（AI）と独自に開発した深層学習特化型スーパーコンピュータ「kukai」を活用することで、違反コメントへの対策強化を試みています。「kukai」は、ディープラーニング特化型スーパーコンピュータで、Yahoo! JAPANが開発した、ディープラーニング活用に特化した省エネ性能の高いスーパーコンピュータです。

実際に1週間分のコメントデータを使い、モデルと比較したところ、違反コメントの検知数が約2.2倍に向上したといいます。

「Yahoo!ニュース」は今までも、健全な議論の場をつくるため、これまでもユーザーから違反報告のある記事、閲覧数の多い記事、特定ジャンルの記事など優先順位をつけて、人力やAIを用いてパトロールし、人力を中心に違反コメントの削除、悪質なユーザーのアカウント停止などを行ってきました。

今回導入したモデルで判断された結果は今後、コメント表示順の改善にも採用するとしていて、ニュースを多角的に理解するきっかけになるコメントなど、より多くの人に読んでほしいコメントが上位に表示されるように改善がされる予定です。

おざけん

>>詳しくはこちら

「人間とAIが共存する社会をつくる」をビジョンに掲げ、AI分野で幅広く活動。書籍『生成AI導入の教科書』『AIエージェントの教科書』『40代・50代でもよくわかる　宇宙一やさしいAIの教科書』の刊行や、1500本以上のAI関連記事の執筆を通じて、AIの可能性と実践的活用法を発信し続けてきた。年間登壇は300回以上。

一般社団法人AICX協会を設立し、代表理事として、国内最大級のAIエージェントカンファレンス「AI Agent Day」の主催や、国内初のAIエージェント実装人材資格制度（AIエージェント・ストラテジスト／アーキテクト）の創設を牽引。一般社団法人生成AI活用普及協会常任協議員を務めるほか、経済産業省「AX時代のスキルに関するワーキンググループ」委員として国のAI政策にも参画。シンシアリー株式会社の取締役CCOとしてAI企業の経営にも関わる。日本HP、Lightblue、NTTデータグループ、THAなど複数社のアドバイザーも務める。

NewsPicksプロピッカー、Udemyベストセラー講師、クラウドワークス アンバサダーとして情報発信・人材育成にも注力。千葉県船橋市生成AIアドバイザーとして行政のDX推進にも携わる。

AI領域以外では、2022年にCinematoricoを創業しCOOに就任。PR・映像制作・フリーカメラマン・日本大学文理学部次世代社会研究センタープロボノなど、多彩な経験を基盤に活動を展開している。