あなたのロボットライターが待っています…GPT-3はコンテンツクリエーターの死ですか？

生計を立てるためにコンテンツの作成に依存するライター/エディターとして、私はAIについて非常に曖昧です…

一方で、それなしの人生を想像することはできません。

過去4年間、私はベトナムという国に住んでいました。そこでは、ほんの一握りの単語やフレーズしか話したり理解したりしていません（私は知っています、私は知っています、それは哀れです）。

私も方向感覚がお粗末です…

サイゴン（hẻms）の果てしなく続く通りや路地をさまようことは、計り知れない喜びの源です…

実際の目的地を考えているか、会議に遅れない限り…

またはそれは雨季です。

グーグルマップとグーグル翻訳がなければ、ここに住むことは私にとって選択肢ではなかったでしょう…

ですから、AIがすでに提供しているものに非常に感謝しています。

しかし、ますます、私の現在の生活を可能にする同じテクノロジーが、フォーをテーブルに置く能力に対する実存的な脅威として浮上しているようです。

AIに少しおびえているのは私だけではありません…

ニューヨークタイムズのテクノロジーコラムニスト、ファルハドマンジューが最近言ったように、「今からそれほど長くはないが、あなたの謙虚な特派員は機械によって放牧されるかもしれない」。

GPT-3のようなAI主導のテクノロジーによって時代遅れになる可能性を秘めたクローゼットの中にいるすべてのコンテンツクリエーターには、その可能性を期待して震えている少なくとも1人のビジネスオーナーまたはアフィリエイトマーケターがいます…

結局のところ、人間的すぎる作家や編集者に対処（そして支払い）したいのは誰ですか？

では、コンピューターがコンテンツを作成および編集するという夢/悪夢は、現実になるのにどれほど近いのでしょうか。

確認してみましょう…

目次
OpenAIとGPT-3とは何ですか？
GPT-3はどのように機能しますか？
GPT-3とNLGは危険ですか？
GPT-3と気候変動
GPT-3とSEO
Przemek Chojeckiへのインタビュー—Contentyzeの創設者
スティーブトスへのインタビュー—SEOノートブックの創設者
Aleks Smechovへのインタビュー—Skriber.ioの創設者
ライターとエディターを解雇することはできますか？
人工知能（AGI）—人間より人間？
作家の増強—彼らを置き換えない

OpenAIとGPT-3とは何ですか？

OpenAIは、YCombinatorの前社長で現在のOpenAICEOであるElonMuskやSamAltmanなどのハイテクスーパースターによって2015年に設立されました。

2018年、OpenAIは、Generative Pre-trained Transformer（略してGPT）と呼ばれる言語モデルに関する最初の論文を発表しました。

簡単に言うと、 GPTは人間が書いた大量のテキストを処理し、人間が書いたテキストと見分けがつかないテキストを生成しようとします。すべて、人間の介入や監督を最小限に抑えます。

The EdgeGroupのNLPSaaS開発者兼ライターのAleksSmechovにインタビューしたとき、彼はGPTを「ステロイドのオートコンプリート」とやや嘲笑的に言及しました。

それは明らかに還元的ですが、基本的には真実です…

GPT（およびその他のAI駆動型NLGモデル）は、人々が自然に書いたり話したりする方法と区別がつかない方法で、前の単語の後に続く単語を予測しようとします。

GPTによるイノベーションのペースは、息を呑むほどのものでした…

2019年2月、OpenAIはGPT-2の限定バージョンを公開しました…

2019年11月、完全なGPT-2NLGモデルがオープンソースになりました。

GPT-2はかなりのスプラッシュを作りました…

OpenAIは当初、危険すぎる可能性があるため、完全なモデルの公開を延期しました。「誤用の強力な証拠は見られなかった」と宣言した後、オープンソースにしただけです。

これは、グーグルやフェイスブックのような株主所有の企業が、事実上公の監視なしに、私たちの生活を劇的に変えることができるテクノロジーについて判断を下すもう一つの例です。

NLGモデルは、エンジニアがモデルに与えるパラメーターの数に少なくとも部分的に基づいて、「よりスマート」になります。つまり、少なくとも人間の話し方や書き方を模倣するのに優れています。

データセットが大きく、パラメーターが多いほど、モデルはより正確になります。

GPT-2は、850万のWebページのデータセットでトレーニングされ、15億のパラメータを持っていました…

マイクロソフトは、2020年の初めにTuring Natural Language Generation（T-NLG）をリリースしました。

有名な科学者アランチューリングにちなんで名付けられたT-NLGのトランスベースモデルは、175億個のパラメータ（10倍以上のGPT-2）を使用しています。

OpenAIは、2020年6月に、自然言語処理（NLP）および自然言語生成（NLG）APIの最新バージョンであるGPT-3をリリースしました。

これまでに公開された中で最も強力で高度なNLGテクノロジー— 1,750億のパラメーター（6か月以内にリリースされたT-NLGの10倍）でトレーニングされた—GPT-3は大ファンファーレで迎えられました…

率直に言って、すべての騒ぎは耳をつんざくように感じ始めています。

Twitterが信頼されるのであれば、すぐに仕事を辞めるのはコンテンツクリエーターだけではありません…

あなたが医者、弁護士、または生計を立てるためのコードを書いているかどうかにかかわらず、GPT-3があなたのためにやって来ます。

儲かる詩業界でさえ、途方に暮れているかもしれないことが判明しました…

他の創造的な努力はどうですか？

Spotifyのプレイリストにうんざりしていませんか？

OpenAIジュークボックスはあなたをカバーしました。

これは、デヴィッド・ボウイのスタイルでAIによって生成された小さなディティーです。

ボウイはあなたのバッグではありませんか？

Jukeboxは、2Pacのアーティストのスタイルで、AIによって生成されたほぼ1万の「曲」を一般に公開してカバーしています。

Z-Roへ…

OpenAIは、AIの創造的な可能性を示すための探求において、事実上何の石も残さずに、DALL・Eも開発しました。 DALL・Eは、シンプルなテキストプロンプトから注目に値する画像を作成します。

アボカドと交差した椅子がどのように見えるか疑問に思ったことはありませんか？

DALL・Eにあなたをあなたの惨めさから解放させてください。

EATを構築するには、アフィリエイトWebサイトのAbout Usページに「AuthorBio」の写真が必要ですか？

上の写真の各ヘッドショットに共通していることを推測しますか？ この人は存在しません。

明らかに、OpenAIのテクノロジーがすでに混乱しているのはコンテンツ作成だけではありませんが、それはどのように機能しますか？

GPT-3はどのように機能しますか？

自然言語生成（NLG）は、長い間AIと自然言語処理（NLP）の究極の目標の1つでした。

1966年までさかのぼると、セラピストを装った初歩的なチャットボットであるElizaの発明により、機械は人々に人間と有意義な会話を続けることができると確信させてきました。

ごく最近、OpenAIのGenerative Pre-trained Transformer（GPT）モデルやMicrosoftのTuring Natural Language Generation（T-NLG）などのNLGテクノロジーは、印象的な書かれたコンテンツを生成する能力で専門家やジャーナリストに衝撃を与えました。

ほとんどのNLGテクノロジーは、人間の脳を模倣しようとする機械学習の深層学習ブランチの重要な部分であるニューラルネットワークを利用しています。

AI開発の課題に対するソリューションとしてのディープラーニングは、スタンフォード大学の教授でコンピューター科学者のAndrewNgがGoogleBrainを共同設立した2011年に初めて注目を集め始めました。

ディープラーニングの背後にある基本原則は、AIモデルが学習するデータセットが大きいほど、それらがより強力になるということです。

コンピューティング能力と利用可能なデータセット（ワールドワイドウェブ全体など）が成長し続けるにつれて、GPT-3などのAIモデルの能力とインテリジェンスも成長します。

多くの深層学習モデルは監視されています。つまり、人間によってラベル付けされた、または「タグ付けされた」大規模なデータセットでトレーニングされています。

たとえば、人気のあるImageNetデータセットは、人間によってラベル付けおよび分類された1,400万を超える画像で構成されています。

1,400万枚の画像は多くのように聞こえるかもしれませんが、利用可能なデータの量と比較すると、海の低下です。

人々によってラベル付けされたデータでトレーニングされた教師あり機械学習モデルの問題は、それが十分にスケーラブルではないことです。

あまりにも多くの人間の努力が必要であり、それは機械の学習能力を著しく妨げます。

多数の監視対象NLPモデルがそのようなデータセットでトレーニングされており、その多くはオープンソースです。

初期のNLPモデルで広く使用されている1つのデータセット（またはコーパス）は、アメリカ史上最大の株主詐欺の1つであるエンロンからの電子メールで構成されています。

GPT-3を非常に革新的なものにしている大きな部分は、監視なしで大量の生データを処理できることです。つまり、テキスト入力の分類を人間に要求するという重大なボトルネックはほとんど解消されています。

Open AIのGPTモデルは、次のようなラベルのない大規模なデータセットでトレーニングされています。

• BookCorpusは、16の異なるジャンルの11,0​​38冊の未発表の本と、英語版ウィキペディアの文章からの2,500百万語で構成される（現在は公開されていない）データセットです。

• Redditの高評価の記事からのアウトバウンドリンクからスクレイピングされたデータ—800万を超えるドキュメントで構成されています
• Common Crawl — 2008年にさかのぼるペタバイトのWebクロールデータで構成されるオープンリソース。CommonCrawlコーパスには、ほぼ1兆語が含まれていると推定されています。

これがビッグデータです…

GPT-3とNLGは危険ですか？

私たちは「もう一つの事実」と「フェイクニュース」の時代に生きています。これは多くのオブザーバーがポスト真実の時代と呼んでいます。

意見、感情、陰謀説が共有された客観的現実を損なう恐れがある環境では、GPT-3やその他のNLGテクノロジーをどのように武器化できるかを想像するのは簡単です…

悪意のある人物は、人間が書いたコンテンツとほとんど区別がつかない大量の偽情報を簡単に作成できます。さらに、検証可能な事実や共有された真実から人々を解放します。

AIを使用して作成された「ディープフェイク」動画の多くは、仮想のエリザベス女王をフィーチャーしたこの動画などで作成されています…

しかし、私たちは危険にさらされている書かれた言葉の力を過小評価しています。

敵対的な外国政府によって展開されたソーシャルメディアチャットボットのようなNLGテクノロジーの役割は、社会的不和を助長し、米国や他の西側の民主主義国の選挙に影響を与えるために十分に文書化されています。

GPTおよびその他のNLGモデルが人間の言語を模倣するのにますます効果的になるにつれて、このテクノロジーを使用して悪意のある偽情報を大規模に作成する可能性も飛躍的に高まります。

また、GPT-3は、前の単語の次の単語を説得力のある方法で推測するのに非常に優れていますが、事実に制約されず、それが言っていることが真実かどうかを懸念していることを覚えておくことも重要です…

Wiredで書いているTomSimoniteがそのような欠点をどのように説明したかを次に示します。「GPT-3は印象的な流動的なテキストを生成できますが、現実から解き放たれることがよくあります。」

GPT-3と現在のすべてのNLGは、人間からの「プロンプト」に依存していることを覚えておくことも重要です。 それらは非常に洗練された予測モデルですが、自分で考えることはできません。

「GPT-3には世界の内部モデルも世界もありません。そのため、そのようなモデルを必要とする推論を行うことはできません」と、サンタフェインスティテュートのメラニーミッチェル教授は述べています。

子供の喘息を正しく「診断」するGPT-3の印象的な例ごとに、仮想患者に自殺を促すGPT-3チャットボットの対応するホラーストーリーがあります…

そのようなエピソードの1つで、会話は良いスタートを切りました。

その後、会話はかなり暗くなりました。

GPT-3には、倫理と偏見に関する深刻な問題もあります…

FacebookのAI担当副社長であり、ディープラーニングとAIの思慮深い批評家であるジェローム・ピセンティは、次の1単語のプロンプトが表示されたときに生成されたツイートGPT-3の例をツイートしました：ユダヤ人、黒人、女性、ホロコースト。

GPT-3は、不寛容で残酷で、しばしば許されないことを言うことができる以上のものであることが判明しました。

しかし、多くの人間もそうです…

トランスフォーマーベースのNLP/NLGモデルが、本質的に欠陥のある人間によって作成されたオンラインコンテンツから学習することを考えると、マシンからより高い水準の談話を期待することは合理的ですか？

おそらくそうではありませんが、GPT-3が人間の監視なしにコンテンツを公開できるようにすると、予期せぬ非常に望ましくない結果が生じる可能性があります。

AIの偏見に関連する別の身も凍るような開発で、Googleは最近、主要なAI倫理学者の1人であるTimnitGebruを解雇しました。

Gebruは、「カーボンフットプリントが疎外されたコミュニティに与える影響や、虐待的な言葉、ヘイトスピーチ、マイクロアグレッション、ステレオタイプなどを永続させる傾向など、大規模な言語モデルの展開に関連するリスク」に関する調査により、少なくとも部分的に終了したと報告されています。特定の人々のグループを対象とした非人間的な言葉。」

グーグルやOpenAIのような企業がAIの偏見や倫理の問題で自らを取り締まることを余儀なくされているとき、私たちは本当に彼らがそのような懸念を彼らの商業的利益よりも優先することを期待できますか？

グーグルはすでに彼らのトップAI倫理学者のもう一人、グーグルリサーチのAI倫理チームの共同リーダー（以前はゲブルと）であるマーガレットミッチェルに対して懲罰的な行動を取っているので、答えはノーのようです。

「邪悪になるな」についてはこれだけです。

GPT-3と気候変動

GPT-3（および一般的にAI）が人と地球の両方に害を及ぼす可能性があるもう1つの見過ごされがちな方法は、どちらも***トンのコンピューティングを必要とすることです。

推定では、GPT-3の1回のトレーニングセッションには、デンマークの126世帯の年間消費量に相当する量のエネルギーが必要であり、車で70万キロメートルを移動するのに相当する二酸化炭素排出量が発生すると結論付けています。

AIは、危険な温室効果ガスを生成する最大の原因とはほど遠いです（私はあなたに石炭、牛、車を見ています）。しかし、AIテクノロジーの二酸化炭素排出量は重要ではありません。

「より多くの計算能力とより多くのデータを使用して、ますます大きな問題を解決するために機械学習をスケールアップする大きな推進力があります」と、言語学の議長でスタンフォード大学のコンピューターサイエンスの教授であるDanJurafskyは述べています。 「そうなると、これらのヘビーコンピューティングモデルのメリットが環境への影響のコストに見合うかどうかに注意する必要があります。」

NLPテクノロジーの市場は、2018年から2025年にかけて750％以上成長すると予測されています…

GPT-3（およびその子孫）のようなNLGモデルの環境への影響は、それとともに大きくなる可能性があります。

AIの研究者は、環境への潜在的な損傷を十分に認識しており、それを測定して削減するための措置を講じています。

しかし、科学者の最善の努力にもかかわらず、気候変動が人類（および地球）にもたらす「存在する脅威」は、AI技術による地球温暖化の悪化を軽視してはならないことを意味します。

GPT-3とSEO

コンテンツはデジタルマーケティングの生命線です…

したがって、多くのNLGスタートアップがSEOをターゲットにしているのも不思議ではありません。

AIは、ライターがSEO主導のコンテンツを作成する方法にすでに大きな影響を与えています—SurferとPageOptimizerProを考えてみてください…

しかし、作家の必要性を完全に排除すると主張しているそのアプリについてはどうでしょうか？

または、自分で作成するメールと見分けがつかないメールを作成するアプリですか？

コンテンツ作成自動化プラットフォームの魅力を簡単に確認できます…

特に、コンテンツ作成の唯一の目標がオーガニック検索トラフィックを促進することであり、読者に価値を提供することは問題ではありません。

このようなアプリの多くはベータ版または順番待ちリストの段階にありますが、すでにいくつかのアプリが営業を開始しています。

自動コンテンツ作成SaaSContentyzeの創設者であるPrzemekChojeckiにインタビューし、NLGテクノロジーの方向性について説明しました…

また、SEONotebookの創設者であるSteveTothとNLPアプリ開発者でデータ主導のストーリーテラーであるAleksSmechovに質問し、SEOとWebコンテンツ全般に対するNLGの潜在的な影響についての考えを集めました。

Prezemek Chojecki

Contentyze

Przemek Chojeckiへのインタビュー—Contentyze*の創設者

Contentyzeを見つけたきっかけは何ですか？

私は自分でたくさん書いています。最初の目的は、書くプロセスをより速く、よりスムーズにする一連のアルゴリズムを構築することでした。 それが成功したので、他の人も使えるようにプラットフォームを作ることにしました。

あなたの理想的なターゲット顧客は誰ですか？

今のところ、私のターゲットオーディエンスはマーケターとSEOの専門家です。 このグループは定期的に多くのコンテンツを必要とし、Contentyzeはプロセスを高速化するのに役立ちます。 しかし、理想的には、Contentyzeが、テキストを書く必要のあるすべての人（学生、サラリーマン、コンテンツクリエーター）に役立つことを望んでいます。 本当に誰でも！

ユースケースの例を教えてください。

現在、最も一般的な使用例は、見出しからブログ投稿を生成するか、リンクからテキストの要約を生成することです。

最初の使用例は次のように機能します。Contentyzeに、「企業で人工知能を使用する方法」のような文や質問などのプロンプトを表示します。

[生成]をクリックし、1〜2分待ってから、テキストの下書きを取得します。

常に理想的とは限りませんが、常にユニークです。 同じプロンプト/見出しでこのプロセスを数回繰り返して、より多くのテキストを取得できます。

次に、選択して選択すると、ブログにテキストが表示されます。

Contentyzeはどのようなコンテンツが「得意」ですか？

現在、Contentyzeはテキストの要約に非常に優れています。

また、テキストの生成も比較的得意ですが、私が望むほど一貫性はありません。

Contentyzeはどのようなコンテンツが苦手ですか？

書き換え機能をうまく機能させるには、まだ多くの作業が必要です。

私たちはすでに人々がテキストを書き直すことを許可していますが、私はそれが今どのように機能するかに満足していません。

単純なコンテンツの回転（シソーラスに移動して形容詞を近くのものに変更する）を実行したくない場合、適切な書き換えを行うことは非常に困難です。

あなたは現在、Contentyzeが人間の作家/編集者の仕事を増強しているのを見ますか、それともそれらを完全に置き換えますか？

人間の作家の仕事を確実に補強します。 私の最終目標は、アイデアから製図、編集まで、執筆プロセスのあらゆる段階で何でも書くのに役立つ完璧な執筆アシスタントを作成することです。

おそらくその過程で、一部のコピーライターの仕事が置き換えられるでしょうが、それは私の目標ではありません。

Contentyzeを試しましたが、いくつか気づきました。 それは（予想通り）製品レビューなどの短いコンテンツでより良く機能します。Contentyzeは近い将来、より長い形式のコンテンツでより良くなると思いますか？ なんで？

現在、計算能力が限られているため、短いコンテンツをより適切に処理します。 これは完全に技術的な問題であり、現在取り組んでいます。 テキストが長いほど、それを処理するために必要な計算能力が高くなります。

私がContentyzeにSEOButlerに関する最近の記事を「書き直す」ように頼んだとき、AppleがGoogleと競争するための検索エンジンを開発する可能性があることについて、最初の文は理にかなっています。

Googleの検索エンジンは、今後数年間で新しい競合他社からの脅威にさらされる可能性があります。

しかし、これらは次の文です：

書き直しのさらに進んだところに、元の記事とはまったく関係のない文があります。

聴く新しい曲や購入する新しいアルバムを探しているなら、それを見つけることができる場所はたくさんあります。

世界で最高の音楽を見つけたい場合は、オンラインで見つけることができます。

完全に間違っているステートメントと同様に：

グーグルの最新の検索アップデートは、マイクロソフトやアップルなどのライバルに長い間遅れをとっている検索の巨人にとって歓迎すべき一歩です。

エンドユーザーがこれらの種類の結果をどのように処理していると思いますか？

私が言ったように、書き換えは現在最悪の動作機能です。 サマリーオプションでは、このようなものは得られません。

プロンプトを使用して新しいコンテンツを作成した場合も、同様の結果が得られました。 Contentyzeは、進化のこの段階で、すぐに公開できるコンテンツよりも、人間のライターのためのブレーンストーミングツールとして使用されていると思いますか？

はい、私は人々がこの段階でそれを生産レベルで直接使用することを期待していません。

一方、人間の編集者がテキストを確認し、品質を確保するために必要な変更を加えて公開できるように、テキストをすばやく下書きすることは非常に便利です。

最終的にはContentyzeが執筆作業の80％を実行できるようになり、残りは人間のライターが実行できるようになると思います。

Contentyzeや他のNLGスタートアップが、SaaSアプリをSEOやアフィリエイトマーケターに直接販売しているのを目にします。 なんで？

実際、これは非常に自然なことです。この視聴者は定期的にコンテンツを必要としているため、彼らを助けることができるツールを積極的に探しています。 Contentyzeは、ほとんどマーケティングを行わずに3,000人を超えるユーザーに成長し、ほぼ独占的に有機的に発見されました。

長期的には、Contentyzeのようなアプリを大規模に使用して、読者に価値を提供することをほとんど考慮せずに、純粋にSEOを目的とした大量のコンテンツを生成する人々に危険があると思いますか？ それまたは同様のことが起こった場合、GoogleはAIで生成されたコンテンツを見つけてペナルティを課すように、検索アルゴリズムを変更すると思いますか？

間違いなく、これが、GPT2 / GPT3の作成者であるOpenAIが、アルゴリズムの使用状況を監視するための厳格なポリシーを設定した理由です。 これは、GPT3とそのアプリケーションプロセス全体に特に当てはまります。

この種の技術は、何の価値ももたらさずにインターネットを「スパム」するために簡単に使用できるため、今後は注意が必要だと思います。

SEOゲーム全体が確実に変わるでしょう。 Googleはこれまで何度も行ってきたようにアルゴリズムを調整しますが、何が起こるかを予測するのは困難です。

私の賭けは、AIで生成されたコンテンツが今後3〜5年で人間が書いたコンテンツと見分けがつかなくなることです。したがって、AIで生成されたコンテンツにペナルティを課したい場合、Googleは何か他のものを発明する必要があります。

とにかく、私は人間とAIのコンテンツを区別しません。 誰が、何がコンテンツを作成したかに関係なく、特定のコンテンツが価値を提供するかどうかだけを尋ねる必要があります。

あなたが共有したい他の考えはありますか？

インタビューありがとうございます。contentyze.comにアクセスしてください。登録は無料です（クレジットカードは必要ありません）。ぜひお試しください。

私たちはフィードバックを非常に大切にしており、マーケティングスペースの人々が仕事をより効果的にできるように、ツールを可能な限り優れたものにしたいと考えています。

スティーブトス

SEOノートブック

スティーブトスへのインタビュー—SEOノートブックの創設者*

2018年のSEONotebookの発売以来、SEOの必読のシングルオペレーターニュースレターになりました。

幸運なことに、スティーブがSEOButlerの最後の3つの専門家のまとめに貢献してくれました。私は、ここ数年、メールで彼と連絡を取り合っています。

また、チェンマイSEO 2019でスティーブに会うことができました。彼がSEOクライアント向けにGPT-3で生成されたコンテンツをテストすることについてアフィリエイトSEOマスターマインドFacebookグループに投稿しているのを見たとき、私は彼の考えに手を差し伸べなければなりませんでした…

今後数年間で、GPT-3やその他のNLGテクノロジーがSEOにどのような影響を与えると思いますか？

ユーザーがGoogleに対して持っている信頼を損なうことになると思います。 人々は友達にもっと推薦を求めるようになると思います。

GPT-3をどのように活用してSEOのサポートコンテンツを作成していますか？

慎重に。 私にはそれをやりたいと思っているクライアントが1人います。 だから私は彼らを指導していますが、このプロジェクトは私が将来それをどれだけ使うかに影響を与えるでしょう。

GPT-3で生成されたコンテンツを使用する場合、読みやすさはどの程度優先されますか？

巨大。 だから私はGPT-3をあまりプッシュしているとは思いません。

GPT-3はオフページで使用される可能性がありますが、コピーライティングに完全に取って代わるわけではありません。

近い将来、NLGが人間の作家に取って代わると思われるタイプのコンテンツ（たとえば、アフィリエイトサイトの製品レビュー）はありますか？

人々はGPT-3コンテンツでアフィリエイトサイト全体を構築し、ランクを確認して後でコピーを改良するのを待つかもしれません。 それが主なユースケースだと思います。

アレクス・スメチョフ

Skriber.io

Aleks Smechovへのインタビュー—Skriber.ioの創設者およびNLPSaaS開発者*

Aleksは、The Edge GroupのSEOButlerブログおよびニュースレターコンサルタントの寄稿者であるだけでなく、NLPSaaSアプリExtractorおよびSkriberの創設者/開発者でもあります。

近い将来、GPT-3または他のNLG技術が特定の種類のコンテンツのライターやエディターに取って代わると思いますか？

ジャーナリズムの側面に焦点を当てます。

事実に基づいた小さな記事を作成している非AIソフトウェアはすでに存在します。

一例は、Automated Insightsと、NCAAバスケットボールの報道とその種類をどのように書いているかです。

NLGをテンプレートベースのテキスト生成と組み合わせると、いくらか重要で長いストーリーを作成したり、他のストーリーの一部を集約したりできると思います。

しかし、より深刻なジャーナリズムについては、AIがニュースルームを促進するだけであり、ニュースルームに取って代わるものではありません。

GPT-3やその他の大規模な自然言語モデルを使用しても、大量のファクトチェックが必要になることに加えて、適切な文や段落を取得することはルーレットのようなものです。

ジャーナリストに作品を書いてもらうよりも大変な作業になるでしょう。

近い将来、NLGがコンテンツクリエーターの役割を強化すると思いますか？ もしそうなら、どのように？

確かに、すでに書かれた文/段落の代替案を作成したり、要約したり、または上記のように、複数のソースからのコンテンツを集約したりします（たとえば、ラウンドアップの場合、おそらくとにかく編集する必要があります）。

GPT-3などのNLG技術の急増に関する3つの最大の懸念は何ですか？

そのNLGは、インターネットに次のものを入力します。

• 事実のないゴミ
• 肥大化したSEOコンテンツ
• 他のすべてにひどく似ているコンテンツ。

このようなことがインターネット上でまだ発生していないわけではありません…<スマイリー絵文字>

ライターや編集者を解雇することはできますか？

簡単な答えは次のとおりです。いいえ。

AIは、世界最高のチェスと囲碁のプレーヤーを倒すことから癌を検出することまで、狭い特定のタスクで人間と同等またはそれより優れていることが証明されています。

しかし、NLGは自然言語の模倣に非常に優れている一方で、熟練した人間の作家や編集者に取って代わるまでには長い道のりがあります。

最も洗練されたNLGでさえ、集中的な編集とファクトチェックは言うまでもなく、人間からの「プロンプト」に依存しています…

創造性は、特に独創的なアイデアを考え出し、さまざまな情報源とインスピレーションを独自に結び付けることに関連しているため、GPT-3のレパートリーの一部ではありません。

GPT-3は、世界、感情、経験を説明するテキストを模倣できますが、独自のテキストはありません。

これがGPT-3自体が質問に対して言わなければならないことです…

待って、もう一度聞いてみましょう…

確かに、GPT-3サイコロを転がし続け（​​私はそれをロシアンルーレットと考えるのが好きです）、最高のビットをチェリーピックしてから、フランケンシュタインの怪物に相当するコンテンツよりも優れたものにステッチすることができます。

できれば、実際に視聴者を引き付ける一貫した視点を持つパッチワーク。

次に、フランケンシュタインは徹底的なファクトチェックが必要になります。

2番目の例の最初の文でさえ、ごみの単語サラダであることに注意してください。

アランチューリングは66年間亡くなっています—彼が「ウェブライティングのスタートアップ」を買収していることは疑わしいです。

それとも、これはMicrosoftのTuring NLGへの参照ですか？ いずれにせよ、それは確かに会社を買収しなかったし、GPT-3を明るみに出すこともしなかった。

あなたはそれをすべて行うことができます—あるいはあなたはただ作家を雇うことができます。

GPT-3とその子孫（または他のNLGモデル）は、ライターやエディターに取って代わる前に、はるかに賢くする必要があります。

そして、はるかに人間的です。

人工知能（AGI）—人間より人間？

NLPとNLGは、人工知能（AGI）への道の重要なステップであることが判明する場合があります（またはそうでない場合があります）。

長い間AIの聖杯と見なされてきた、AGIマシンは、映画で目にするものです。人間ができることすべてを同じように、またはそれ以上に実行できる「ロボット」です。

OpenAIは確かに、AGIの作成に真っ向から目を向けています。 OpenAIへのMicrosoftの10億ドルの投資を発表するとき、会社がそれをどのように定義したかは次のとおりです。

「AGIは、キュリー、チューリング、バッハのスキルを組み合わせたツールのように、世界の専門家レベルまで研究分野を習得し、誰よりも多くの分野を習得できるシステムになります。

問題に取り組んでいるAGIは、人間が見ることのできない分野間のつながりを見ることができます。 私たちは、AGIが人々と協力して、気候変動、手頃な価格で質の高い医療、個別教育などの世界的な課題を含む、現在困難な学際的な問題を解決することを望んでいます。

その影響は、誰もが最も充実したものを追求する経済的自由を与え、今日では想像もできないすべての人生に新しい機会を生み出すことだと考えています。」

ユートピアのようですね。

しかし、それは良いことですか？

歴史的に、ユートピアは単にパンアウトしていません：

「不完全な人間が、個人的、政治的、経済的、社会的な完全性を試みると、失敗します。 したがって、ユートピアの暗い鏡はディストピアであり、失敗した社会実験、抑圧的な政治体制、そしてユートピアの夢が実行された結果として生じる圧倒的な経済システムです。」 –マイケル・シャーマー

AGIの達成についてGPT-3が言わなければならなかったことは次のとおりです。

GPT-3、それは希望的観測かもしれませんが、今回は同意する傾向があります。

作家の増強—彼らを置き換えない

上記の例の最後の文で、GPT-3は間違いなく間違っています…

NLP、NLG、さらにはAGIの探求に関しても、かなりの進歩がありました。

そして、イノベーションのペースがすぐに遅くなることはないでしょう。

Less than a month into 2021, the Google Brain team announced a new transformer-based AI language model that dwarfs GPT-3 when measured by the number of parameters.

Google's Switch Transformer is trained on 1 trillion parameters — roughly 6 times as many as GPT-3.

Little is known about potential applications for the Switch Transformer model at the time of writing, but the NLP arms-race shows no signs of abating.

Maybe the day will come when machines replace human writers and editors, but I'm not holding my breath.

As Tristan Greene, AI editor for The Next Web, says about Switch Transformer:

“While these incredible AI models exist at the cutting-edge of machine learning technology, it's important to remember that they're essentially just performing parlor tricks.

These systems don't understand language, they're just fine-tuned to make it look like they do.”

At this point, I'm sure it's clear that I have a dog in this fight.

As objective as I've tried to be in writing this article, I do have a vested interest in human content creators remaining relevant and superior to machines.

But that doesn't mean I don't see how NLP and NLG technology can make me better at what I do.

In truth, AI has been augmenting my writing and editing for years…

I use Rev to auto-transcribe audio and video interviews. I also use it to create transcripts of SEOButler founder Jonathan Kiekbusch and Jarod Spiewak's Value Added Podcast to help me write the show notes more quickly and accurately.

And Grammarly is a powerful tool for even the most diligent editor or proofreader.

As GPT-3 and other advanced NLP models become more accurate and “trustworthy,” their potential ability to summarize long-form content — particularly academic research papers — could prove extremely valuable.

Suppose the future I have to look forward to is one where AI eliminates some of the drudgery of creating SEO-driven content — and I have to edit and polish informational content partly composed by machines instead of writers.

I guess I can live with that…

I may not have a choice.

*Each Q&A has been edited and condensed for clarity.