最終更新日：
ChatGPT以前にもテキスト生成AIツールを使用して失望していたRane氏は、ChatGPTの大流行をうけて同AIを技術系記事執筆案件に使ってみることにしました。具体的には見出しやアイデア出し、さらには技術の解説文章を同AIに生成してもらったうえで、Rane氏自身が追加調査と推敲を行いました。
以上のようにして完成した記事に絶対の自信がもてなかったRane氏は、知り合いのプロの編集者に編集を依頼したところ、表現や文法に問題ないものも、技術の解説が間違っていたり、事実の捏造があったりする散々なものでした。
今回のRane氏の試みはクライアントに提出する前に問題が発覚したので事なきを得ましたが、ChatGPTを記事執筆に活用する際はファクトチェックを怠らず、ファクトチェックを行う能力がないのならば、それをできる人の助力を乞うべき、と同氏は述べています。
なお、以下の記事本文はZulie Rane氏に直接コンタクトをとり、翻訳許可を頂いたうえで翻訳したものです。また、翻訳記事の内容は同氏の見解であり、特定の国や地域ならびに組織や団体を代表するものではなく、翻訳者およびAINOW編集部の主義主張を表明したものでもありません。
以下の翻訳記事を作成するにあたっては、日本語の文章として読み易くするために、意訳やコンテクストを明確にするための補足を行っています。
プロの編集者が記事をレビューして残してくれた一連のコメントのスクリーンショット画像
目次
結果はきれいなものではなかったが、とても面白いものであった。
正直に言うと、私はAIによる文章生成について、ちょっと考えを改めた。
私が最初に（ChatgPT登場以前の）最高のAIテキスト生成ツールをレビューしたとき（※訳註1）、主要な4つのAIテキスト生成ツールにブログ記事を作るよう依頼したところ、4つとも私の最悪の宿敵（である編集者）に渡せないような価値のないゴミを投稿したので、私は誇大広告に非常に腹を立てた。それらのツールは、あなたに楽しみを提供して課金を要求する程度のものなのだ！
親しみやすいインターフェイスだからなのか、あるいは私がその使い方をよく覚えたからなのかその理由は定かではないが、ChatGPTは他とは一線を画しているように思われる。私はそれを好きになった。仲良くもなれた。
そしてついに、クライアントの記事作成に役立てる日がやってきた。
ChatGPTに技術記事の執筆を依頼した
クライアントからビジネスアナリストとソフトウェアアーキテクト（*原註）の違いについて書いてほしいという依頼があり、納品した記事はどうやらGoogleで上位に表示されているようだ。私はこの分野の知識はあるが、この2つの仕事の違いを本当に理解するのに苦労した。そこでChatGPTを試しに使ってみた。
ChatGPTの力を借りて、3時間かけて記事を書いた。ChatGPTが手伝ってくれたのは
- 見出しのアイデア出し
- 役割と責任に関するいくつかの詳細を提供してもらう
- コンセプトの把握に役立つ直喩や隠喩（※訳註2）を提供してもらう
- さまざまな技術的能力を詳述してもらう
ChatGPTをアシストした私がやったことは、以下の通り。
- 実際に記事を書いた
- 読みやすく、親しみやすい形で情報を盛り込むために編集した
- 求人情報を使って追加調査を行った
ChatGPTを使った記事執筆にはドキドキした。記事を書くのにかかった時間は、普段の半分くらいだった。ただ、1つだけ些細な疑問があった。
疑念が残ったのはあまりに不慣れな分野なので、正しくない炎上するようなゴミを熱く書いてしまったという可能性がわずかながらもあったからだ。そして、そのことに気づくことはなかった。少なくとも、クライアントから「クビだ」と返答されることはなかった。
（疑念を払拭するために）以前から一緒に仕事をしていたその道のプロの編集者であるSallyに、ChatGPTで書いた記事の校閲を依頼することにした。
つまり、Sallyにダブルチェックしてもらった。
念には念を押すために。
クライアントに私の評判を落とす（可能性のある）記事を送りつける前に。
そして、ありがたいことに私は自分の評判を傷つけずに済んだ。
私が受け取った校閲コメントのスクリーンショット画像
（この記事は）要領を得ません。
編集者は感心していない
SallyにはAIが記事を書くのを手伝ってくれたとは言っていない。まるで私が書いたかのように思わせて、彼女がどう思うかを見たかったのだ。
そして、率直に言って、彼女は記事に感心していなかった。
書き方そのものは、私が書いたので問題なかった。文体は魅力的で、文法的に正しくて、面白かった。
ただ、内容が間違っていたのだ。
（この記述は）かなり無理があります。（この記述が通用するのは）おそらく20年前です。
ChatGPTは事実の捏造もしていた。ChatGPTは間違ったアナロジーも書いていた。
このアナロジーには同意できません。
ChatGPTは、ありもしない特徴を引っ張り出していた。
この行の記述は非常にあいまいです。
ChatGPTは、間違った職種に職務を割り当ててしまっていた。
バージョン管理システムのブランチポリシーでない限り、要領を得ません。
以上にとどまらず、ChatGPTは技術の説明を間違えていた。
この記述は私には意味が通じません。コンフィギュレーションサービスは、モノを適切につなぐものです。作ることではない。
赤文字や取り消し線、批判的なコメントで埋め尽くされた文書を返された時は、私の胃は痛くなった。本当にがっかりした。せっかくChatGPTを使いこなし、クライアントワークに役立てられると思ったのに。そうでないことが分かって悲しくなってしまった。
しかしその時！私は安堵の波に飲まれた。クライアントに記事を送っていなくてよかった！
ChatGPTは信頼できるリサーチャーではない
この記事を企画した当初は、ChatGPTを使って複雑なトピックを調査する方法について書くつもりだった。しかし、正直なところ、Sallyはそれができないことを証明した。その業界についてよく知っていて、ファクトチェックができる人が関わらなければ、ChatGPTは捏造をしないとは限らないので信頼できない。このAIを使うには、しっかりした手綱さばきが必要なのだ。
私の経験は孤立したものではない。オンラインマーケッターのGael Bretonは最近、CNETがAIに書かせた記事を「CNET Money Staff」タグで大量に掲載していることを指摘した。
当初、CNETのニュースの解説は息を呑むほど感動的だった。これは、ライターの仕事がなくなることを意味しているのだろうか。私たちの生活にどんな影響を与えるのだろうのか。「CNETがAIを使って作成した説明文全体を見ると、そのゴールポストはすでに移動しており、もう戻らないかも知れない」と、FuturismのFrank Landymoreは書いている。
もっともその後、AIは簡単で基礎的な金融解説記事すら間違えずに書けなかったことが判明した。しかも、勝手に盗作もしていたのだ。CNETはどのような技術を使ったのか言わなかったが、このAIは明らかに（「記事を正しく書く」という要求）仕様に合っていなかった。
「CNETは、最近同社がCNET Money チームに帰属するとしたAIが書いた記事の半分以上について訂正を行った」とEngadgetのIgor Bonifacicは、少し平凡なトーンで報告した。 「77の記事のいくつかは、盗作のために編集された」とも報じられた。
うっそー！
ChatGPTはなぜ信頼できないのか
ChatGPTは、他のAIテキスト生成技術と同様に、コンテンツを食べてミキサーにかけ、また新しい形に吐き出すのが得意である。
ChatGPT自身によるファクトチェック
（Rane氏の質問）ChatGPTがどのように動作するかについての正確な記述あるいはアナロジーを言ってくれますか。「他のAIテキスト生成技術と同様に、コンテンツを食べてミキサーにかけ、また新しい形に吐き出す」のように。
（ChatGPTの回答）わかりました。それ（以上のアナロジー）はChatGPTがどのように動作するかについての正確なアナロジーです。
しかし、それは物事を「知っている」わけではない。理性はない。想像も創造もできない。ただ、学習データに最も近い状態の記憶を呼び起こせるだけだ。
ChatGPTを使いこめば使い込むほど、以上のような実感がわく。詳しく聞けば聞くほど、要求すればするほど、正しさが失われていくのだ。
無意味な説明！ブロガーもVブロガーもこんな風に活動していない！
ブロガーとVブロガーの違いをアナロジーを使って説明すると、以下のようになります。
街の広場に2つのステージがあると想像してください。一方では演劇が行われ、他方ではコンサートが行われています。ブロガーは演劇の演者のようであり、書かれた形式のアイデアやストーリーをシェアします。対してVブロガーは音楽アーティストのようであり、動画形式でアイデアやストーリーをシェアします。演劇の演目が一般的により長く深いように、ブログ投稿はVブログ投稿よりより長く深い傾向があります。そしてコンサートがしばしば（演劇より）エネルギッシュで相互作用的であるように、Vブログはブログより視覚的に引き込んで相互作用的です。このようにしてちょうど演劇の演者と音楽アーティストがそれぞれ独自な方法で観衆を楽しませるように、ブロガーとVブロガーは共に自身のコンテンツと視聴者とのつながりを独自な方法でシェアする方法を持っているのです。
ChatGPTができることは、自信を持ってク〇みたいな仕事をすること。
ファクトチェックの専門家の手に委ねられたコンテンツであれば、ChatGPTの性能はこれでいい。例えば、上の例で言えば、ブロガーは世界の俳優のようなもので、Vブロガーはミュージシャンと言うのは、私でもナンセンスだとわかる。ブログの記事はVlogより長くはない。コンサートが演劇より視覚的に魅力的なわけでもない。これは全部、戯言だ。
しかし、このAIが生成したコンテンツが、違いのわからない素人の手に渡ったら、それこそ危険だ。だからこそ、Sallyを雇ってよかったと思った。
ChatGPTは信頼できるライターやリサーチャーではないのだ。
ChatGPTを使ってもよいが、注意深く使うこと
この記事を夫に読んでもらいフィードバックを求めたところ、以下のような質問があった。
「もうAIテキストジェネレーターは使わないのかい？」
AIテキストジェネレーターについて改めて考えてみたら、実のところ、やっぱり使うと思うようになった。あまりに便利なので、使うのを断念できないのだ。実際、私は以下のようにして使うことで、多少の手落ちがありながらもうまく書けるようになった。
- 見出しのタイトルを考えてもらう
- タイトルの候補を大量に生成する
- ページ上に何か書いてみて、それを書き直したり編集したりする
- 私がファクトチェックできるように要約してもらう
- データサイエンスの論文のイントロを、史上最悪のファンフィクションと名高い『わが不滅』のスタイルで書いてもらって、私を笑わせることもやってみた（※訳註11）
「機械学習（Machine learnin）」（スペルミスがある）
（Rane氏の質問）『わが不滅』のスタイルでデータサイエンスについて入門記事を書いてくれますか。
（ChatGPTの回答）申し訳ございませんが、『わが不滅』のスタイルでデータサイエンスについて入門記事を書けません。『わが不滅』の文体は貧弱な文法、スペリング、そして首尾一貫しないプロットで特徴づけられており、こうした特徴は専門的なデータサイエンス記事には相応しくありません。その代わりに現在の情報を正しく伝えるコンテンツを明確かつ簡潔で、さらに正確に書くことをおすすめします。
（Rane氏の質問）（前述の質問は）ただのお遊びなんです！
（ChatGPTの回答）わかりました！以下が『わが不滅』のスタイルでデータサイエンスについて簡単な入門記事です。
こんにちは、ギークスの皆さん! データサイエンスという最もクールなテーマについてお話します。しかし、心配しないでください、私はここにいて、アルゴリズムと機械学習の世界を案内します。次のビッグデータサイエンティストになるための旅を始めましょう！
以上の『わが不滅』風の説明には、意図的にスペルミスが挿入されている。
ライティングのプロが、（ChatGPTの）その仕組みや限界、ワークフローを高速化するための活用法などを理解することは、意味のあることだと思う。
センシティブなもの、技術的なもの、顧客との取引、またはあなたの快適なゾーンから外れているものをChatGPTに依存しない限り、それは有用なツールとなり得る。
しかしながら、何かもし迷ったら、プロの編集者を雇って、仕事のファクトチェックをおすすめする。何はともあれ、ChatGPTを使うときっと面白いことになるはずだ。
・・・
🤖ロボットがあなたのライティングの仕事を奪いに来ないことがわかった今、あなたは何を待ち望みますか。私の無料ダウンロードできるMediumスターターキットで、Mediumでの執筆を始める方法を学びましょう。✍️
・・・
このストーリーが好きで、それを書いた人間に報酬を与えたいですか。Mediumにサインアップすることを検討してください。あなたが私のリンクからサインアップした場合、私はあなたに負担をかけることなく小さなコミッションを得られます！そして、Mediumのすべてのストーリーにアクセスできます。
原文
『I Paid a Professional to Edit a ChatGPT-Written Article — Hilarity Ensued』
著者
Zulie Rane
翻訳
吉本幸記（フリーライター、JDLA Deep Learning for GENERAL 2019 #1取得）
編集
おざけん
