SNSの利用が広がる中、もはや膨大な量のコンテンツを人間が監視することが難しい状況になっています。特定の個人や人種の差別を助長するコンテンツだけでなく、botなど、SNSではまだまだ課題が山積しています。
今回は、SNSの中でもTwitterに注目し、ヘイトスピーチを検知する研究を3つご紹介します。
目次
【教育】ネットいじめの裏に潜む発生要因を特定
インターネットの発展によって生まれた光もあれば、影もあります。ネットによっていじめはより間接的で陰湿なものに変化しています・・・。
アメリカにあるアリゾナ州立大学のLu Chengら研究者は、ネットいじめの問題は、それを未然に防ぐことが大切だと考えました。
彼らはネットいじめの「発生特定」と同時に「因果関係の解釈」を行い、「いじめ発生に関わると思わしき要因」の影響を特定/ブロックするフレームワークの開発を試みました。
結果、ネットいじめの発生因特定に有効なアルゴリズムの開発に成功したようです！
（2019年5月に出版された論文）
▼そのモデルの評価法は？・・・
【メンタルヘルス】Twitterでのヘイトスピーチを晒し上げる
近年、人種や民族などの「変えることが難しい属性」を理由に特定の集団を非難する「ヘイトスピーチ」が問題視されています。
誹謗中傷は犯罪であり、ヘイトスピーチの特定や発生予防は社会課題の1つとなっています。
Twitterは拡散の高速性と規模からヘイトスピーチの温床になりやすく有効な手立てが必要になっています。
スペインのマドリードにあるマドリード自治大学のJuan Carlos Pereira-Kohatsuら研究者は、膨大な量の投稿からヘイトスピーチを選別するシステムの開発を試みました。
機械学習を用いることにより、効果的なモデルが構築できたとのことです！
（2019年10月に出版された論文）
▼そのパフォーマンス統計は？
【マーケ】Twitterアカウントの「正体」を特定
マーケティングにTwitterを活用するのは主流になってきました。
その上で通常、匿名性の高いアカウントはマーケティング対象からは外れています。しかし匿名アカウントの数は膨大で、もし彼らの正体が分かればマーケティングの可能性は今よりもっと上がるはずです。
botを名乗っていて実際には生身の人間が操作しているアカウントも沢山あります。
韓国にあるYonsei UniversityのYoungjunら研究者は、機械学習を用いてツイートの主が「botか人間か」をAIを用いて判定し、さらに人間なら「男か女か」も特定するという実験を行いました。
結果、「botか人間か」を93%、「男か女か」を84%という正確さで特定できるように！
（CLEF 2019（国際学会）で発表された論文）
▼用いた機械学習「手法」は？
TwitterとAIの深い関係はまだまだ続く
Twitterで生み出されるコンテンツは１日数億件であり、AIの有効活用の種はゴロゴロと転がっています。その証拠に、既に一部は、先述のように研究者らによるAI応用が進んでいます。
巨大なコンテンツプラットフォームのTwitterが世の中で使われ続ける限り、TwitterとAIとの関わりは切っても切れないものであり続けるでしょう。
さいごに
このように、身近なテーマからAI応用を日々発信しているアイブンは、会員（無料）向けに400件以上のナレッジデータベースを提供しています。「どの産業では」「どんなAI技術で」「何ができるのか」に
キャッチアップするべきエンジニアやビジネスパーソン、学生は必ず登録しましょう！
よろしくお願いします！
★次回は、「AI × コンテンツ生成」の技術論文３選！お楽しみに！
「人間とAIが共存する社会をつくる」をビジョンに掲げ、AI分野で幅広く活動。書籍『生成AI導入の教科書』『AIエージェントの教科書』『40代・50代でもよくわかる 宇宙一やさしいAIの教科書』の刊行や、1500本以上のAI関連記事の執筆を通じて、AIの可能性と実践的活用法を発信し続けてきた。年間登壇は300回以上。
一般社団法人AICX協会を設立し、代表理事として、国内最大級のAIエージェントカンファレンス「AI Agent Day」の主催や、国内初のAIエージェント実装人材資格制度（AIエージェント・ストラテジスト／アーキテクト）の創設を牽引。一般社団法人生成AI活用普及協会常任協議員を務めるほか、経済産業省「AX時代のスキルに関するワーキンググループ」委員として国のAI政策にも参画。シンシアリー株式会社の取締役CCOとしてAI企業の経営にも関わる。日本HP、Lightblue、NTTデータグループ、THAなど複数社のアドバイザーも務める。
NewsPicksプロピッカー、Udemyベストセラー講師、クラウドワークス アンバサダーとして情報発信・人材育成にも注力。千葉県船橋市生成AIアドバイザーとして行政のDX推進にも携わる。
AI領域以外では、2022年にCinematoricoを創業しCOOに就任。PR・映像制作・フリーカメラマン・日本大学文理学部次世代社会研究センタープロボノなど、多彩な経験を基盤に活動を展開している。
