HOME/ AINOW編集部 /ポストChatGPT時代のAIインフルエンサーたち
2023.03.02

ポストChatGPT時代のAIインフルエンサーたち

最終更新日:

AINOWで多数の翻訳記事を紹介してきたAI技術批評家のAlberto Romero氏が2023年2月にMediumに投稿した記事『ポストChatGPT時代のAIインフルエンサーたち』では、ChatGPTに便乗した悪質なインフルエンサーが批判されています。

2022年11月末に公開されたChatGPTは、文字通り瞬く間に世界を席巻しました。その後、同AIの性能や使い方を話題にする多数のインフルエンサーが台頭するようになりました。Romero氏は同AIの大流行に便乗すること自体はAIへの関心を高めるので歓迎していますが、その一方で低俗かつ不正確な内容を拡散する劣悪なインフルエンサーの出現に不快感を示しています。
Romero氏は劣悪なChatGPTのインフルエンサーの事例も挙げています。そうした事例には同AIを使って「レスポンスを10倍良くしたい」「プログラミングの生産性を10倍にしたい」といった生産効率性向上を謳うものもあれば、もっと露骨に「1日に850ドル稼ぐ」方法を伝授するというものもあります。
Romero氏は以上のような劣悪なコンテンツほど注目を集める実情を認めながらも、自身は軽薄なAIインフルエンサーにならないように自戒すると同時に、読者にもそうならないことを呼びかけています。

なお、以下の記事本文はAlberto Romero氏に直接コンタクトをとり、翻訳許可を頂いたうえで翻訳したものです。また、翻訳記事の内容は同氏の見解であり、特定の国や地域ならびに組織や団体を代表するものではなく、翻訳者およびAINOW編集部の主義主張を表明したものでもありません。
以下の翻訳記事を作成するにあたっては、日本語の文章として読み易くするために、意訳やコンテクストを明確にするための補足を行っています。

画像出典:GPT-3とMidjourneyを使って著者が制作

新しいタイプの誇大広告の出現で示されるAIの歴史の新しい段階

ChatGPTが流行したことによる意外な副作用は、生成系AIがお金やソーシャルメディアでの存在感やビジネスチャンスを得るための手段として、もっぱらそれらを気にする人々を惹きつける存在になったことである。それらを語る人々は、新しい部類のAIインフルエンサーとなった。

まずはっきりさせておきたいのは、私はビジネスを成長させるために話題のものを利用することが悪いとは思っていない。AIインフルエンサーが増えれば、そうでなければAIのことなど聞いたこともないような人たちに、この分野をもっと知ってもらえる(信じられないような話だが、ほとんどの人はAIが世界をどう変えているのかを知らない)。AIについて知る人が増えるのは無知がもたらす結果を減らすことになり、これは結構なことだ。

しかし、この現象には二次的な影響がある。AIインフルエンサーがAIについて話したり、書いたり、情報を提供したりする動機は、AIとは何か、どのように機能するか、何に使うのが合理的なのかを知りたい人々の要求と必ずしも一致していない。多くの場合、彼らは新しいトレンドに便乗したいだけなので、質の低い知識ソースを講釈する。

そして、AIについてバランスよく教育しようとする人々が不満を抱くようになり、次第に彼らがAIに関する最も低俗な―そして最もフォローされる―リソースとなるだろう。これが、このポストChatGPTの時代に必然的に起こることなのだ。

・・・

この記事はAI、アルゴリズム、人々のあいだのギャップを埋めることを目的とした教育用ニュースレターThe Algorithmic Bridgeからの抜粋です。このニュースレターはAIがあなたの生活に与える影響を理解し、未来をよりよく導くためのツールを開発するのに役立ちます。

・・・

表面的な物語を釣りにする新しいタイプの誇大広告

数週間前、GoogleのFrançois CholletがTwitterに投稿したスレッドは、私が誇大広告に抱く感情をうまく表現している。

(※訳註1)François Chollet氏は、Kerasを開発した中心的人物。以上のツイートの翻訳は以下の通り。

現在のAIの状況は2021年のweb3と非常に多くの類似点があり、不快に感じています。ゼロデータにもとづく物語は、自明なものとして受け入れられます。誰もが今後2~3年で確実に「文明を変える」影響 (および 100 倍の投資利益) を期待しています。

彼はAIインフルエンサーやその活動よりも、根拠のない楽観主義や過剰な誇大広告の風潮全般について言及しているが、彼の主張はAIインフルエンサーにも当てはまる。

Cholletが指摘するように、人々(つまりユーザや投資家)はAIに多くの期待を寄せている ― ハイプバブルはかつてないほど大きくなっている。ChatGPTは親しみやすく直感的なだけでなく(しかも今のところ完全無料(※訳註2))、ほとんどの人にとって、強力なAIシステムと初めて積極的に直接接触するものとなった。彼らにとって、これはまさに革命なのだ。

(※訳註2)2023年2月時点でChatGPTは無料で利用できるが、OpenAIは2023年2月1日、月額20ドルの「ChatGPT Plus」を発表した。同サービスはピーク時にもChatGPTへのアクセスが優先されるほか、応答速度が速く、新機能や改良点への優先的なアクセスが得られるというもの。

私(たちAI業界人)にとっては、そうではない。私はMetaのチーフAIサイエンティストであるYann LeCunと同意見で、「革命的」というのはChatGPTを定義するのに最適な形容詞ではないかも知れない、と考えている。彼はZDNetのインタビューで、技術レポーターのTiernan Rayに次のように語っている。

(使われている)基本的な技術という点では、ChatGPTは特に革新的ではありません・・・世間ではそう受け止められていますが、革命的なところは何ひとつありません。・・・ただ、よくまとまっていて、うまくできているのです。

(※訳註3)ZDNetが2023年1月23日に公開した記事によると、2023年1月、LeCun氏は報道関係者や企業の経営者がZoomを使って参加する小規模な会議に出席した。この会議で同氏はChatGPTに言及し、以上のように発言した。また、同氏が率いるMeta AI研究所から広告作成を支援する生成系AIがリリースされる予定であり、そのAIはテキストだけではなく画像も生成するものになり、Facebookに広告を出しているが広告制作にリソースを割り当てられない中小企業の大きな助けになるだろう、とも述べた。

ほとんどの人は、LeCunのように思っていない。Nathan Benaich(「AIの現状報告」の共同執筆者)が「多くの人が(ChatGPTを)実際に役立つと思っている」とLeCunに伝えると、彼から「筋が違う」という返答があった。

もっともBenaichの発言には省略があり、(ChatGPTは)GPT-3のような以前のバージョンよりも質的に優れているからではなく、単にその存在に気づいたからこそ、人々はその有用性を認めたのだ(この論点こそLeCunの主張である)。

(※訳註4)LeCun氏の以上のツイートの翻訳は以下の通り。

はっきりさせておきますが、私はOpenAIの仕事や主張を批判しているわけではありません。

私はChatGPTを信じられないほど新しく、革新的で、他に類を見ない技術的ブレイクスルーであり、他の誰よりもはるかに先を行っていると見なしている一般の人々やメディアによる *認識* を正そうとしているのです。

(ChatGPTは)そのようなものではありません。

もしあなたがChatGPTに出会い、AIについて知っていることがSiriのカレンダーに日付を書き込む機能だけだと想像してみよう。こうした状況でのChatGPTとの出会いは、(Siriからの)かなりの飛躍だと思うのではなかろうか。Cholletが言うように、ChatGPTのインパクトは「文明を変える」ものだと感じるはずだ。私もそう思う。

そして、人々がChatGPTにまつわる物語を「自明」であるかのように扱うと、誇大広告は悪化する。何百万もの閲覧数を誇るGPT-4のビジュアルグラフ(※訳註5)は、その主張を裏付けるソースやデータを提供していない。そのグラフは純粋に感情的なもので「大変だ、革命が起こるぞ。覚悟しよう、あなたはまだ何も見ていない。シンギュラリティは近い…」と煽っているのだ。これはCholletが言うように、マーケターにとっての完璧な「釣りツイート」なのだ。

(※訳註5)2023年になりGPT-3とGPT-4を比較する以下のようなツイートが流布し、430万回以上閲覧されている。比較されているのはGPT-3とGPT-4の学習データとされている。

AIは昔からもてはやされてきたが、最近(10年前)ではディープラーニング(DL)というパラダイムが前例のない成功を収めたことから、そのポテンシャルに常に注目が集まっている。

AIは誰もが話題にする主流のトピックであるため、さまざまなタイプの誇大広告が生じる。こうした誇大宣伝は、この分野の歴史や、構想中のモデルを動かす基礎となる技術、強力な新技術の開発に伴う制限や社会的影響について知らない(気にしない)部外者から来るものだ。

それどころか、マーケティング担当者やAIインフルエンサーといった部外者が、根拠のない主張と信憑性に欠ける予測をして触れ回っているのだ。そして、根拠などというものは彼らには重要ではない。信頼性、厳密性、証拠といった言葉は、(アーサー・C・クラークの有名な表現を借りれば(※訳註6))AIの明るい魔法の前では影が薄いものとなる。

(※訳註6)イギリス出身のSF作家で『2001年宇宙の旅』の脚本を担当したアーサー・C・クラークは「クラークの三法則」と呼ばれる格言を残しており、その第3法則は「十分に発達した科学技術は、魔法と見分けがつかない」である。

AIインフルエンサーは何でも誇大広告に変換し、倍増する。それは「DLはXに効くからYにも効く」(これは合理的で議論可能な主張だ)ではなく、「わあ、GPT-4の輪はすっごく大きいね」と言って騒ぐようなものである。こうした感情的な誇大広告には、合理的な議論はもはや通用しない。それでは、これとどう戦うのか。

Cholletの議論に戻ると、彼がAIとweb3の比較について修正したのは重要である(私もそれらが同じではないことに同意する)。

(※訳註7)前出のChollet氏はAIをweb3になぞらえた自身のツイートに関して、こうした比較が不適切であったことを認める以下のようなツイートをした。そのツイートの翻訳は以下の通り。

これ(AIとweb3をなぞらえたツイート)がブログの投稿であり、ふととした瞬間の思いつきで書かなければ、AIとweb3 の比較はしなかったでしょう。ほとんどの人が今注目していることなので、それ(AIとweb3の比較)は逆効果でした。実際、この2つはまったく同じではありません。

ChatGPTはAIインフルエンサーの大群の助けを借りてAIにまつわる誇大広告を悪化させたが、AIには人々が有用と感じる実際のアプリケーションがあるという理由だけでも、web3の空虚さには遠く及ばない(AIとweb3のインフルエンサーのあいだに疑わしい重複があることは事実だが)。

もし、生成系AIが目に見えて役に立つのであれば、それの誇大広告は問題ないのでは、と思うかも知れない。それは違う。web3は詐欺のようなものだと簡単に却下された。対してAIインフルエンサーたちは、何か本当のことを話している。つまり、AIの誇大広告は正当化されているように見える。しかし、そうではない。彼らは自分たちの言説を美化し誇張するために、真実の上に虚飾のレイヤーを追加しているのだ。混乱を招く誇張は、自重で倒れる真っ赤な嘘よりも戦うのがずっと難しい。

以上が今日、私たちが直面している状況である。AIに関する冷静な見解の情報提供者であろうとする私や他の多くの人々、そして、信頼できる質の高い情報を期待する読者諸氏は、インフルエンサーやマーケターの戯言で溢れかえるAIの海を航海しながら、共にゴミを押しのけなければならないのだ。

AIインフルエンサーはソーシャルメディアを制覇した

以上に話したChatGPTに関する大言壮語については、私のほうから根拠を示す必要がある。おそらく、これらの投稿のほとんどを以前に見たことがあるかも知れないが、ここに集める価値がある。

正しい情報と間違った情報のあいだには、あらゆるトーンのスペクトラムが存在する。そのスペクトラムは、真実と虚偽の知識のあいだをひろがっている。AIインフルエンサーは、しばしば危険なほど間違った側に寄ってしまう(常にというわけではないが)。

(※訳註8)以上のツイートは、前出のChollet氏がSEOにChatGPTが利用されている状況を揶揄したもの。そのツイートの翻訳は以下の通り。

そうです、(以下のツイートのスクショ画像は)SEO/マーケティングのエンゲージメントのための釣りです。ChatGPTは、これらのニッチにおけるエンゲージメント釣りツイートのルーチンに完全に革命を起こしました。

そうしたツイートの一部は直接収益化され(ChatGPの10の秘密をアンロックするために支払う!)、大部分はただ注目を集めようとしています。

最も分かりやすい例を以下に紹介するが、真偽が微妙なものもある(例えば、投資家やマーケティング担当者が、2012年のDLブーム以前からすでに(AI業界の)インサイダーであるかのようにAIについて話しているなどの事例)。

ChatGPTについて「みんなChatGPT使ってるけど… 」という形のツイートから、私はAIインフルエンサーの雰囲気が気になり始めた。この手の投稿は、FOMO(※訳註9)を感じさせようとするものである。ChatGPTについて知っていても、その知識には改善の余地があり、読み進めなければ挫折してしまう。もしかしたら、そうしたツイートは読者諸氏に「初心者モードから抜け出せない」「(ChatGPTの)本来の力を発揮できていない」正しく使うには「ハックが必要」と語りかけてくるかも知れない。

(※訳註9)FOMOとは「fear of missing out」の略語であり、「取り残されることへの恐れ」を意味する表現。2004年に発明されるとされる。

有名ツイッターアカウントのもう一つのお気に入りのフレーズは「ChatGPTで10倍〇〇[○○には何でも記入可]にする方法」だ。他人が仕事を10倍にしているかも知れないのに、ChatGPTを使わないわけにはいかない。「レスポンスを10倍良くしたい」「コンテンツを10倍簡単にしたい」「デザインを10倍にしたい」「プログラミングの生産性を10倍にしたい」「売上を10倍にしたい」などなど。読者諸氏ならば何を選ぶだろうか。ChatGPTは文字通り何でも10倍にしてくれるようだ。YouTuberも10倍フックが好きなようだ。生産性Excelスキル、あるいは何か一般的なスキルを10倍にするというのだ。YouTubeでも常にもてはやされるのは「あなたの結果を10倍に」というキャッチコピーだ。

他の誇大広告には、金銭的な利益を謳うものがある:ChatGPTでお金を稼ぐにはどうすればよいか。「オンラインでお金を稼ぐための7つの方法」が必要だろうか。「天才的な4つの方法」を実行するのはどうだろうか。より具体的な「1日に850ドル稼ぐ」ChatGPTを使った副業は、いつでも可能だ。AIに精通したMediumライターが「手遅れになる前に」ChatGPTを使って「クソほど儲けられる」手伝いをしている。

そしてLinkedInは、おそらくChatGPTの便乗者が最もターゲットにしやすいソーシャルメディアである。例えば、「ChatGPT」で企業を検索すると、次のような結果が得られる。

LinkedInで「ChatGPT」と検索した時のスクリーンショット。画像出典:著者

どれも公式なものではない。最初の2つ(10万人以上と5万人以上のフォロワー)は、それぞれFacebookグループとオンライン講座作成用のウェブサイトに送られる。Cholletが述べたことはむしろ手加減されているくらいで、現在のAIの情勢は誰にとっても「不快」なものだろう。

ChatGPTに関する誇大広告について、2つの注意点がある。第一に一見同じように見えるソースが必ずしも同じ品質であるとは限らない。ChatGPTを論じるソースのなかには、金塊が隠されているかも知れない。ソースのなかには体裁は似ているが、中身がないものがある(普通は体裁と実体は両立するものだが)。その体裁だけ見れば、良いソースと悪いソースはよく似ている。

第二にChatGPTの後に生まれたAIリソース(例えばメルマガ)のすべてが低品質であるというわけではない。ChatGPTの魅力を活かしてトラフィックを増やすことは悪くない、悪いのは情報の質を犠牲にしてそれを行うことだ。

私がこの記事で批判しているのは、ChatGPTのバイラル性に便乗する人々が、良心を二の次にしてあれこれ話すことを優先している点である。こうした所業は、AIの冬を招く秘訣のようなものだ。誇大広告は、結局は報われない。

苦い実感

先日、Sam AltmanがConnie Loizosにインタビュー(※訳註10)されているのを見ていて、あるコメントを読み考えさせられた。そのコメントとは「SamのインタビューがChatGPTの釣り動画より1000倍もエンゲージメントが低いのはかなり衝撃的だ」というものだ。

なぜそうなるのかがはっきりわかっているにしても、この観察が100%正しいことにはいつも驚いてしまう。私が思うにAIがメインストリームになるには、(誇大広告を拡散させるという)この道しかなかったのだ。ChatGPT以前にもAIの誇大広告はあり、それはいつの時代にもあったのだが、私たちが生きている現代のそれは前代未聞である。今日の誇大広告はChatGPTの価値や可能性を反映しているのではなく、単にその魅力を騙っているに過ぎない。

AIをみんなに送り届けたいと思った時、(誇大広告という)この方法だけだったのかと自問自答してしまう。私たちは釣りコンテンツが大好きだ。誇大広告が大好きだ。簡単なコンテンツが大好きだ。近道が大好きだ。エネルギーや時間、労力を必要とする難しいことは好きではない。こうしたことが、そもそもAIインフルエンサーが存在する理由だ。

個人的には私が何を書くかを決める時、(AIバズり記事を書くという)この禁断の果実を毎日拒否しなければならないと感じている(ChatGPTについて書くことは重要である、それを行う方法と理由が問題なのだ)。私の仕事は良い記事を書くことにある。同時にそうした仕事には(バズり記事という)魅力的な罠に陥ったり、トラフィックと過度のわかりやすさと引き換えに私の記事を堕落させたりしないように自制することも含まれる。

私は(この記事で言って来た意味での)AIインフルエンサーになるつもりはない。このバンドワゴンに飛び乗ることはない。読者諸氏もそうしないことを願っています。

(※訳註10)この記事で言及されている2023年1月18日に公開されたOpenAIでCEOを務めるSam Altman氏へのインタビュー動画において、同氏はChatGPTに関連して以下のようなコメントを述べた。

インタビュー動画で発言したSam AltmanのChatGPTに関連したコメント

  • (ChatGPTの安全性にについて)安全対策の一環としてレッドチーム(セキュリティ調査のための社外組織)を雇用し、他の研究所とも連携して研究している。ChatGPTのような強力なAIは、徐々にアップデートして社会に変化に対応する時間的猶予を与えるのが望ましい
  • (ChatGPTの倫理規定の実装について)ユーザが自身の価値観に合わせてAIの挙動を設定できるのが望ましい。このコメントに関連して、OpenAIは2023年2月16日付のブログ記事において、ユーザがChatGPTの動作をカスタマイズできるようにする開発を進めていると報告した。
  • (ChatGPTの教育業界への影響について)ChatGPTは「電卓の極端なバージョン」であり、これを適切に使えるように教師と生徒は適応しなければならない。ChatGPTは教科書より優秀な教材になると確信している。
  • (ChatGPTの反響について)ユーザも誇大広告も1桁少ないことを予想していた。誇大広告は少ないほうが望ましい。ちなみにロイター通信が2023年2月3日に報じたところによると、ChatGPTは公開後2ヶ月でアクティブユーザが1億人に達した
  • (ChatGPTがGoogleの検索における覇権を終焉させるという意見について)ChatGPTのような会話AIの登場によって、ある時点で検索体験が変わるだろうが、短期的にはほとんど変わらないだろう。当分のあいだ、Google検索は使われ続けるだろう。
  • (会話AIの市場への影響について)会話AIの台頭は、iPhoneの登場とApp Storeの開始に匹敵するものがある。

・・・

The Algorithmic Bridgeを購読してください。アルゴリズムと人のあいだのギャップを埋め、あなたの生活に重要なAIについてのニュースレターです。

また、こちらの私の紹介リンクを使ってMedium会員になれば、Mediumで私の仕事を直接サポートし、私の記事に無制限にアクセスできます。:)


原文
『AI Influencers From the Post-ChatGPT Era』

著者
Alberto Romero

翻訳
吉本幸記(フリーライター、JDLA Deep Learning for GENERAL 2019 #1取得)

編集
おざけん

無料メールマガジン登録

週1回、注目のAIニュースやイベント情報を
編集部がピックアップしてお届けしています。

こちらの規約にご同意のうえチェックしてください。

規約に同意する

あなたにおすすめの記事

Generative AI Japan|産官学連携で世界に通用する競争力の獲得を目指す

生成AI時代の人材育成|海城中学高等学校物理部がAI班を作ったワケ

GPT-4oはクレイジーだ―思わず言葉を失うような(信じられない)6つの使用例を紹介

社内の生成AIにおける「回答精度の低さ」をどう克服する?|株式会社クレディセゾンCTOに訊く

博報堂DYグループの挑戦|Human-Centered AI Institute が問うAIと人間の新しい関係性

“現実と仮想の境界線を越えたエンターテイメントとは?” |川田のロンドン体験レポート

低コストで高性能なAIモデル・MoEモデル開発の舞台裏|カラクリCPO中山氏へインタビュー

あなたにおすすめの記事

Generative AI Japan|産官学連携で世界に通用する競争力の獲得を目指す

生成AI時代の人材育成|海城中学高等学校物理部がAI班を作ったワケ

GPT-4oはクレイジーだ―思わず言葉を失うような(信じられない)6つの使用例を紹介

社内の生成AIにおける「回答精度の低さ」をどう克服する?|株式会社クレディセゾンCTOに訊く

博報堂DYグループの挑戦|Human-Centered AI Institute が問うAIと人間の新しい関係性

“現実と仮想の境界線を越えたエンターテイメントとは?” |川田のロンドン体験レポート

低コストで高性能なAIモデル・MoEモデル開発の舞台裏|カラクリCPO中山氏へインタビュー