最終更新日：
2022年11月末に公開されたChatGPTは、文字通り瞬く間に世界を席巻しました。その後、同AIの性能や使い方を話題にする多数のインフルエンサーが台頭するようになりました。Romero氏は同AIの大流行に便乗すること自体はAIへの関心を高めるので歓迎していますが、その一方で低俗かつ不正確な内容を拡散する劣悪なインフルエンサーの出現に不快感を示しています。
Romero氏は劣悪なChatGPTのインフルエンサーの事例も挙げています。そうした事例には同AIを使って「レスポンスを10倍良くしたい」「プログラミングの生産性を10倍にしたい」といった生産効率性向上を謳うものもあれば、もっと露骨に「1日に850ドル稼ぐ」方法を伝授するというものもあります。
Romero氏は以上のような劣悪なコンテンツほど注目を集める実情を認めながらも、自身は軽薄なAIインフルエンサーにならないように自戒すると同時に、読者にもそうならないことを呼びかけています。
なお、以下の記事本文はAlberto Romero氏に直接コンタクトをとり、翻訳許可を頂いたうえで翻訳したものです。また、翻訳記事の内容は同氏の見解であり、特定の国や地域ならびに組織や団体を代表するものではなく、翻訳者およびAINOW編集部の主義主張を表明したものでもありません。
以下の翻訳記事を作成するにあたっては、日本語の文章として読み易くするために、意訳やコンテクストを明確にするための補足を行っています。
画像出典：GPT-3とMidjourneyを使って著者が制作
新しいタイプの誇大広告の出現で示されるAIの歴史の新しい段階
ChatGPTが流行したことによる意外な副作用は、生成系AIがお金やソーシャルメディアでの存在感やビジネスチャンスを得るための手段として、もっぱらそれらを気にする人々を惹きつける存在になったことである。それらを語る人々は、新しい部類のAIインフルエンサーとなった。
まずはっきりさせておきたいのは、私はビジネスを成長させるために話題のものを利用することが悪いとは思っていない。AIインフルエンサーが増えれば、そうでなければAIのことなど聞いたこともないような人たちに、この分野をもっと知ってもらえる（信じられないような話だが、ほとんどの人はAIが世界をどう変えているのかを知らない）。AIについて知る人が増えるのは無知がもたらす結果を減らすことになり、これは結構なことだ。
しかし、この現象には二次的な影響がある。AIインフルエンサーがAIについて話したり、書いたり、情報を提供したりする動機は、AIとは何か、どのように機能するか、何に使うのが合理的なのかを知りたい人々の要求と必ずしも一致していない。多くの場合、彼らは新しいトレンドに便乗したいだけなので、質の低い知識ソースを講釈する。
そして、AIについてバランスよく教育しようとする人々が不満を抱くようになり、次第に彼らがAIに関する最も低俗な―そして最もフォローされる―リソースとなるだろう。これが、このポストChatGPTの時代に必然的に起こることなのだ。
・・・
この記事はAI、アルゴリズム、人々のあいだのギャップを埋めることを目的とした教育用ニュースレターThe Algorithmic Bridgeからの抜粋です。このニュースレターはAIがあなたの生活に与える影響を理解し、未来をよりよく導くためのツールを開発するのに役立ちます。
・・・
表面的な物語を釣りにする新しいタイプの誇大広告
数週間前、GoogleのFrançois CholletがTwitterに投稿したスレッドは、私が誇大広告に抱く感情をうまく表現している。
The current climate in AI has so many parallels to 2021 web3 it's making me uncomfortable. Narratives based on zero data are accepted as self-evident. Everyone is expecting as a sure thing "civilization-altering" impact (& 100x returns on investment) in the next 2-3 years
— François Chollet (@fchollet) January 8, 2023
現在のAIの状況は2021年のweb3と非常に多くの類似点があり、不快に感じています。ゼロデータにもとづく物語は、自明なものとして受け入れられます。誰もが今後2～3年で確実に「文明を変える」影響 (および 100 倍の投資利益) を期待しています。
彼はAIインフルエンサーやその活動よりも、根拠のない楽観主義や過剰な誇大広告の風潮全般について言及しているが、彼の主張はAIインフルエンサーにも当てはまる。
Cholletが指摘するように、人々（つまりユーザや投資家）はAIに多くの期待を寄せている ― ハイプバブルはかつてないほど大きくなっている。ChatGPTは親しみやすく直感的なだけでなく（しかも今のところ完全無料（※訳註2））、ほとんどの人にとって、強力なAIシステムと初めて積極的に直接接触するものとなった。彼らにとって、これはまさに革命なのだ。
私（たちAI業界人）にとっては、そうではない。私はMetaのチーフAIサイエンティストであるYann LeCunと同意見で、「革命的」というのはChatGPTを定義するのに最適な形容詞ではないかも知れない、と考えている。彼はZDNetのインタビューで、技術レポーターのTiernan Rayに次のように語っている。
（使われている）基本的な技術という点では、ChatGPTは特に革新的ではありません・・・世間ではそう受け止められていますが、革命的なところは何ひとつありません。・・・ただ、よくまとまっていて、うまくできているのです。
ほとんどの人は、LeCunのように思っていない。Nathan Benaich（「AIの現状報告」の共同執筆者）が「多くの人が（ChatGPTを）実際に役立つと思っている」とLeCunに伝えると、彼から「筋が違う」という返答があった。
もっともBenaichの発言には省略があり、（ChatGPTは）GPT-3のような以前のバージョンよりも質的に優れているからではなく、単にその存在に気づいたからこそ、人々はその有用性を認めたのだ（この論点こそLeCunの主張である）。
To be clear: I'm not criticizing OpenAI's work nor their claims.
I'm trying to correct a *perception* by the public & the media who see chatGPT as this incredibly new, innovative, & unique technological breakthrough that is far ahead of everyone else.
It's just not.
— Yann LeCun (@ylecun) January 24, 2023
はっきりさせておきますが、私はOpenAIの仕事や主張を批判しているわけではありません。
私はChatGPTを信じられないほど新しく、革新的で、他に類を見ない技術的ブレイクスルーであり、他の誰よりもはるかに先を行っていると見なしている一般の人々やメディアによる *認識* を正そうとしているのです。
（ChatGPTは）そのようなものではありません。
もしあなたがChatGPTに出会い、AIについて知っていることがSiriのカレンダーに日付を書き込む機能だけだと想像してみよう。こうした状況でのChatGPTとの出会いは、（Siriからの）かなりの飛躍だと思うのではなかろうか。Cholletが言うように、ChatGPTのインパクトは「文明を変える」ものだと感じるはずだ。私もそう思う。
そして、人々がChatGPTにまつわる物語を「自明」であるかのように扱うと、誇大広告は悪化する。何百万もの閲覧数を誇るGPT-4のビジュアルグラフ（※訳註5）は、その主張を裏付けるソースやデータを提供していない。そのグラフは純粋に感情的なもので「大変だ、革命が起こるぞ。覚悟しよう、あなたはまだ何も見ていない。シンギュラリティは近い…」と煽っているのだ。これはCholletが言うように、マーケターにとっての完璧な「釣りツイート」なのだ。
This is a frightening visual for me.
The first dot is the amount of data Chat GPT 3 was trained on.
The second is what chat GPT 4 is trained on.
They are already doing demos.
It can write a 60,000 word book from a single prompt.
The only question I've had about AI… pic.twitter.com/DnAEMm60lh
— Alex Hormozi (@AlexHormozi) January 10, 2023
AIは昔からもてはやされてきたが、最近（10年前）ではディープラーニング（DL）というパラダイムが前例のない成功を収めたことから、そのポテンシャルに常に注目が集まっている。
AIは誰もが話題にする主流のトピックであるため、さまざまなタイプの誇大広告が生じる。こうした誇大宣伝は、この分野の歴史や、構想中のモデルを動かす基礎となる技術、強力な新技術の開発に伴う制限や社会的影響について知らない（気にしない）部外者から来るものだ。
それどころか、マーケティング担当者やAIインフルエンサーといった部外者が、根拠のない主張と信憑性に欠ける予測をして触れ回っているのだ。そして、根拠などというものは彼らには重要ではない。信頼性、厳密性、証拠といった言葉は、（アーサー・C・クラークの有名な表現を借りれば（※訳註6））AIの明るい魔法の前では影が薄いものとなる。
AIインフルエンサーは何でも誇大広告に変換し、倍増する。それは「DLはXに効くからYにも効く」（これは合理的で議論可能な主張だ）ではなく、「わあ、GPT-4の輪はすっごく大きいね」と言って騒ぐようなものである。こうした感情的な誇大広告には、合理的な議論はもはや通用しない。それでは、これとどう戦うのか。
Cholletの議論に戻ると、彼がAIとweb3の比較について修正したのは重要である（私もそれらが同じではないことに同意する）。
If this had been a blog post and not a random spur-of-the-moment train of thoughts, I wouldn't have made the AI/web3 comparison. It was counterproductive, as it is what most folks are now focusing on. The two are, in fact, very much not the same. https://t.co/XxkKktPXDE
— François Chollet (@fchollet) January 9, 2023
これ（AIとweb3をなぞらえたツイート）がブログの投稿であり、ふととした瞬間の思いつきで書かなければ、AIとweb3 の比較はしなかったでしょう。ほとんどの人が今注目していることなので、それ（AIとweb３の比較）は逆効果でした。実際、この2つはまったく同じではありません。
ChatGPTはAIインフルエンサーの大群の助けを借りてAIにまつわる誇大広告を悪化させたが、AIには人々が有用と感じる実際のアプリケーションがあるという理由だけでも、web3の空虚さには遠く及ばない（AIとweb3のインフルエンサーのあいだに疑わしい重複があることは事実だが)。
もし、生成系AIが目に見えて役に立つのであれば、それの誇大広告は問題ないのでは、と思うかも知れない。それは違う。web3は詐欺のようなものだと簡単に却下された。対してAIインフルエンサーたちは、何か本当のことを話している。つまり、AIの誇大広告は正当化されているように見える。しかし、そうではない。彼らは自分たちの言説を美化し誇張するために、真実の上に虚飾のレイヤーを追加しているのだ。混乱を招く誇張は、自重で倒れる真っ赤な嘘よりも戦うのがずっと難しい。
以上が今日、私たちが直面している状況である。AIに関する冷静な見解の情報提供者であろうとする私や他の多くの人々、そして、信頼できる質の高い情報を期待する読者諸氏は、インフルエンサーやマーケターの戯言で溢れかえるAIの海を航海しながら、共にゴミを押しのけなければならないのだ。
AIインフルエンサーはソーシャルメディアを制覇した
以上に話したChatGPTに関する大言壮語については、私のほうから根拠を示す必要がある。おそらく、これらの投稿のほとんどを以前に見たことがあるかも知れないが、ここに集める価値がある。
正しい情報と間違った情報のあいだには、あらゆるトーンのスペクトラムが存在する。そのスペクトラムは、真実と虚偽の知識のあいだをひろがっている。AIインフルエンサーは、しばしば危険なほど間違った側に寄ってしまう（常にというわけではないが）。
That's right, it's SEO/marketing engagement bait. ChatGPT has completely revolutionized the engagement bait tweet routine in these niches.
Some of it directly monetized (pay to unlock 10 ChatGPT secrets!), most of it is just trying to collect eyeballs. pic.twitter.com/DtHxcm5SlO
— François Chollet (@fchollet) January 8, 2023
そうです、（以下のツイートのスクショ画像は）SEO/マーケティングのエンゲージメントのための釣りです。ChatGPTは、これらのニッチにおけるエンゲージメント釣りツイートのルーチンに完全に革命を起こしました。
そうしたツイートの一部は直接収益化され（ChatGPの10の秘密をアンロックするために支払う！）、大部分はただ注目を集めようとしています。
最も分かりやすい例を以下に紹介するが、真偽が微妙なものもある（例えば、投資家やマーケティング担当者が、2012年のDLブーム以前からすでに（AI業界の）インサイダーであるかのようにAIについて話しているなどの事例）。
ChatGPTについて「みんなChatGPT使ってるけど… 」という形のツイートから、私はAIインフルエンサーの雰囲気が気になり始めた。この手の投稿は、FOMO（※訳註9）を感じさせようとするものである。ChatGPTについて知っていても、その知識には改善の余地があり、読み進めなければ挫折してしまう。もしかしたら、そうしたツイートは読者諸氏に「初心者モードから抜け出せない」「（ChatGPTの）本来の力を発揮できていない」正しく使うには「ハックが必要」と語りかけてくるかも知れない。
有名ツイッターアカウントのもう一つのお気に入りのフレーズは「ChatGPTで10倍〇〇[○○には何でも記入可]にする方法」だ。他人が仕事を10倍にしているかも知れないのに、ChatGPTを使わないわけにはいかない。「レスポンスを10倍良くしたい」「コンテンツを10倍簡単にしたい」「デザインを10倍にしたい」「プログラミングの生産性を10倍にしたい」「売上を10倍にしたい」などなど。読者諸氏ならば何を選ぶだろうか。ChatGPTは文字通り何でも10倍にしてくれるようだ。YouTuberも10倍フックが好きなようだ。生産性、Excelスキル、あるいは何か一般的なスキルを10倍にするというのだ。YouTubeでも常にもてはやされるのは「あなたの結果を10倍に」というキャッチコピーだ。
他の誇大広告には、金銭的な利益を謳うものがある：ChatGPTでお金を稼ぐにはどうすればよいか。「オンラインでお金を稼ぐための7つの方法」が必要だろうか。「天才的な4つの方法」を実行するのはどうだろうか。より具体的な「1日に850ドル稼ぐ」ChatGPTを使った副業は、いつでも可能だ。AIに精通したMediumライターが「手遅れになる前に」ChatGPTを使って「クソほど儲けられる」手伝いをしている。
そしてLinkedInは、おそらくChatGPTの便乗者が最もターゲットにしやすいソーシャルメディアである。例えば、「ChatGPT」で企業を検索すると、次のような結果が得られる。
LinkedInで「ChatGPT」と検索した時のスクリーンショット。画像出典：著者
どれも公式なものではない。最初の2つ（10万人以上と5万人以上のフォロワー）は、それぞれFacebookグループとオンライン講座作成用のウェブサイトに送られる。Cholletが述べたことはむしろ手加減されているくらいで、現在のAIの情勢は誰にとっても「不快」なものだろう。
ChatGPTに関する誇大広告について、2つの注意点がある。第一に一見同じように見えるソースが必ずしも同じ品質であるとは限らない。ChatGPTを論じるソースのなかには、金塊が隠されているかも知れない。ソースのなかには体裁は似ているが、中身がないものがある（普通は体裁と実体は両立するものだが）。その体裁だけ見れば、良いソースと悪いソースはよく似ている。
第二にChatGPTの後に生まれたAIリソース（例えばメルマガ）のすべてが低品質であるというわけではない。ChatGPTの魅力を活かしてトラフィックを増やすことは悪くない、悪いのは情報の質を犠牲にしてそれを行うことだ。
私がこの記事で批判しているのは、ChatGPTのバイラル性に便乗する人々が、良心を二の次にしてあれこれ話すことを優先している点である。こうした所業は、AIの冬を招く秘訣のようなものだ。誇大広告は、結局は報われない。
苦い実感
先日、Sam AltmanがConnie Loizosにインタビュー（※訳註10）されているのを見ていて、あるコメントを読み考えさせられた。そのコメントとは「SamのインタビューがChatGPTの釣り動画より1000倍もエンゲージメントが低いのはかなり衝撃的だ」というものだ。
なぜそうなるのかがはっきりわかっているにしても、この観察が100％正しいことにはいつも驚いてしまう。私が思うにAIがメインストリームになるには、（誇大広告を拡散させるという）この道しかなかったのだ。ChatGPT以前にもAIの誇大広告はあり、それはいつの時代にもあったのだが、私たちが生きている現代のそれは前代未聞である。今日の誇大広告はChatGPTの価値や可能性を反映しているのではなく、単にその魅力を騙っているに過ぎない。
AIをみんなに送り届けたいと思った時、（誇大広告という）この方法だけだったのかと自問自答してしまう。私たちは釣りコンテンツが大好きだ。誇大広告が大好きだ。簡単なコンテンツが大好きだ。近道が大好きだ。エネルギーや時間、労力を必要とする難しいことは好きではない。こうしたことが、そもそもAIインフルエンサーが存在する理由だ。
個人的には私が何を書くかを決める時、（AIバズり記事を書くという）この禁断の果実を毎日拒否しなければならないと感じている（ChatGPTについて書くことは重要である、それを行う方法と理由が問題なのだ）。私の仕事は良い記事を書くことにある。同時にそうした仕事には（バズり記事という）魅力的な罠に陥ったり、トラフィックと過度のわかりやすさと引き換えに私の記事を堕落させたりしないように自制することも含まれる。
私は（この記事で言って来た意味での）AIインフルエンサーになるつもりはない。このバンドワゴンに飛び乗ることはない。読者諸氏もそうしないことを願っています。
インタビュー動画で発言したSam AltmanのChatGPTに関連したコメント
|
・・・
The Algorithmic Bridgeを購読してください。アルゴリズムと人のあいだのギャップを埋め、あなたの生活に重要なAIについてのニュースレターです。
また、こちらの私の紹介リンクを使ってMedium会員になれば、Mediumで私の仕事を直接サポートし、私の記事に無制限にアクセスできます。:)
原文
『AI Influencers From the Post-ChatGPT Era』
著者
Alberto Romero
翻訳
吉本幸記（フリーライター、JDLA Deep Learning for GENERAL 2019 #1取得）
編集
おざけん
