SNSの利用が広がる中、もはや膨大な量のコンテンツを人間が監視することが難しい状況になっています。特定の個人や人種の差別を助長するコンテンツだけでなく、botなど、SNSではまだまだ課題が山積しています。

今回は、SNSの中でもTwitterに注目し、ヘイトスピーチを検知する研究を3つご紹介します。

【教育】ネットいじめの裏に潜む発生要因を特定

インターネットの発展によって生まれた光もあれば、影もあります。ネットによっていじめはより間接的で陰湿なものに変化しています・・・。

アメリカにあるアリゾナ州立大学のLu Chengら研究者は、ネットいじめの問題は、それを未然に防ぐことが大切だと考えました。

彼らはネットいじめの「発生特定」と同時に「因果関係の解釈」を行い、「いじめ発生に関わると思わしき要因」の影響を特定/ブロックするフレームワークの開発を試みました。

結果、ネットいじめの発生因特定に有効なアルゴリズムの開発に成功したようです！

（2019年5月に出版された論文）

▼そのモデルの評価法は？・・・

【メンタルヘルス】Twitterでのヘイトスピーチを晒し上げる

近年、人種や民族などの「変えることが難しい属性」を理由に特定の集団を非難する「ヘイトスピーチ」が問題視されています。

誹謗中傷は犯罪であり、ヘイトスピーチの特定や発生予防は社会課題の1つとなっています。

Twitterは拡散の高速性と規模からヘイトスピーチの温床になりやすく有効な手立てが必要になっています。

スペインのマドリードにあるマドリード自治大学のJuan Carlos Pereira-Kohatsuら研究者は、膨大な量の投稿からヘイトスピーチを選別するシステムの開発を試みました。

機械学習を用いることにより、効果的なモデルが構築できたとのことです！

（2019年10月に出版された論文）

▼そのパフォーマンス統計は？

【マーケ】Twitterアカウントの「正体」を特定

マーケティングにTwitterを活用するのは主流になってきました。

その上で通常、匿名性の高いアカウントはマーケティング対象からは外れています。しかし匿名アカウントの数は膨大で、もし彼らの正体が分かればマーケティングの可能性は今よりもっと上がるはずです。

botを名乗っていて実際には生身の人間が操作しているアカウントも沢山あります。

韓国にあるYonsei UniversityのYoungjunら研究者は、機械学習を用いてツイートの主が「botか人間か」をAIを用いて判定し、さらに人間なら「男か女か」も特定するという実験を行いました。

結果、「botか人間か」を93%、「男か女か」を84%という正確さで特定できるように！

（CLEF 2019（国際学会）で発表された論文）

▼用いた機械学習「手法」は？

TwitterとAIの深い関係はまだまだ続く

Twitterで生み出されるコンテンツは１日数億件であり、AIの有効活用の種はゴロゴロと転がっています。その証拠に、既に一部は、先述のように研究者らによるAI応用が進んでいます。

巨大なコンテンツプラットフォームのTwitterが世の中で使われ続ける限り、TwitterとAIとの関わりは切っても切れないものであり続けるでしょう。

さいごに

このように、身近なテーマからAI応用を日々発信しているアイブンは、会員（無料）向けに400件以上のナレッジデータベースを提供しています。「どの産業では」「どんなAI技術で」「何ができるのか」に

キャッチアップするべきエンジニアやビジネスパーソン、学生は必ず登録しましょう！

よろしくお願いします！

★次回は、「AI × コンテンツ生成」の技術論文３選！お楽しみに！

おざけん

■AI専門メディア AINOW編集長 ■カメラマン ■Twitterでも発信しています。@ozaken_AI ■AINOWのTwitterもぜひ！ @ainow_AI ┃

AIが人間と共存していく社会を作りたい。活用の視点でAIの情報を発信します。