Robotul tău scriitor așteaptă... Este GPT-3 moartea creatorului de conținut?

Ca scriitor/editor care se bazează pe crearea de conținut pentru a-și câștiga existența, sunt profund ambivalent în ceea ce privește AI...

Pe de o parte, nu-mi pot imagina o viață fără ea.

În ultimii patru ani, am trăit într-o țară – Vietnam – în care vorbesc sau înțeleg doar o mână de cuvinte și fraze (știu, știu, este patetic).

De asemenea, am un simț prost al direcției...

Rătăcirea pe nesfârșitele lupte ale străzilor și aleilor din Saigon (hẻms) este o sursă imensă de bucurie...

Dacă nu aveți o destinație reală în minte sau întârziați la o întâlnire...

Sau e sezonul ploios.

Fără Google Maps și Google Translate, locuința aici nu ar fi o opțiune pentru mine...

Deci, sunt incredibil de recunoscător pentru ceea ce AI are deja de oferit.

Dar din ce în ce mai mult, aceeași tehnologie care face posibilă viața mea actuală pare să apară ca o amenințare existențială la adresa capacității mele de a pune phở pe masă.

Sunt departe de a fi singurul meșter de cuvinte care este ușor îngrozit de AI...

Așa cum a spus recent editorialistul în domeniul tehnologiei The New York Times Farhad Manjoo: „Nu prea mult timp de acum încolo, umilul tău corespondent s-ar putea să fie pus la pășunat de o mașinărie”.

Pentru fiecare creator de conținut care se ascunde în dulap la perspectiva de a deveni învechit de tehnologia bazată pe inteligență artificială, cum ar fi GPT-3 , există cel puțin un proprietar de afaceri sau un agent de marketing afiliat care tremură de așteptare la posibilitatea...

La urma urmei, cine vrea să aibă de-a face cu (și să plătească) scriitori și editori care sunt prea umani?

Deci, cât de aproape este visul/coșmarul computerelor care scriu și editează conținutul tău de a deveni realitate?

Să aflăm…

CUPRINS
Ce este OpenAI și GPT-3?
Cum funcționează GPT-3?
Sunt GPT-3 și NLG periculoase?
GPT-3 și schimbările climatice
GPT-3 și SEO
Interviu cu Przemek Chojecki — Fondatorul Contentyze
Interviu cu Steve Toth — Fondatorul SEO Notebook
Interviu cu Aleks Smechov — Fondatorul Skriber.io
Îmi pot concedia scriitorii și editorii încă?
Inteligența generală artificială (AGI) - Mai mult uman decât uman?
Creșterea scriitorilor – Nu înlocuirea lor

Ce este OpenAI și GPT-3?

OpenAI a fost fondat în 2015 de superstaruri din tehnologie precum Elon Musk și Sam Altman, fost președinte al Y Combinator și actual CEO OpenAI.

În 2018, OpenAI a publicat prima sa lucrare despre un model de limbaj pe care l-au numit Generative Pre-Trained Transformer - pe scurt GPT.

În cei mai simpli termeni, GPT prelucrează cantități masive de text scris de oameni, apoi încearcă să genereze text care nu se poate distinge de textul scris de oameni - totul cu minimum de intervenție sau supraveghere umană.

Când l-am intervievat pe dezvoltatorul și scriitorul NLP SaaS Aleks Smechov de la The Edge Group, el s-a referit oarecum în derizoriu GPT drept „Completare automată pe steroizi”.

Este evident reductiv, dar adevărat într-un mod fundamental...

GPT (și alte modele NLG bazate pe inteligență artificială) încearcă să prezică ce cuvânt urmează cuvântului anterior într-un mod care nu se poate distinge de modul în care oamenii scriu sau vorbesc în mod natural.

Ritmul de inovare cu GPT a fost deloc uluitor...

În februarie 2019, OpenAI a lansat o versiune limitată a GPT-2 pentru public...

În noiembrie 2019, modelul complet GPT-2 NLG a fost făcut open source.

GPT-2 a făcut destul de mult...

OpenAI a renunțat inițial să lanseze modelul complet pentru public, deoarece era potențial prea periculos – făcându-l open source doar după ce a declarat că „nu au văzut nicio dovadă puternică de utilizare abuzivă”.

Acesta este încă un exemplu de corporații deținute de acționari – precum Google și Facebook – care fac apeluri de judecată asupra tehnologiei care poate schimba dramatic felul în care trăim, practic fără supraveghere publică.

Modelele NLG devin „mai inteligente” – sau cel puțin mai bune în a imita felul în care oamenii vorbesc și scriu – bazându-se cel puțin parțial pe numărul de parametri pe care le oferă inginerii.

Cu cât setul de date este mai mare și cu cât mai mulți parametri, cu atât modelul devine mai precis.

GPT-2 a fost antrenat pe un set de date de 8,5 milioane de pagini web și a avut 1,5 miliarde de parametri...

Pentru a nu fi mai prejos, Microsoft a lansat Turing Natural Language Generation (T-NLG) la începutul anului 2020.

Numit după faimosul om de știință Alan Turing, modelul bazat pe transformator al T-NLG utilizează 17,5 miliarde de parametri - mai mult de 10x GPT-2.

OpenAI a lansat cea mai recentă iterație a API-ului său de procesare a limbajului natural (NLP) și generare a limbajului natural (NLG) - GPT-3 în iunie 2020.

De departe, cea mai puternică și avansată tehnologie NLG făcută publică până acum – antrenată pe 175 de miliarde de parametri (de 10 ori mai mare decât cea a T-NLG lansat cu mai puțin de șase luni mai devreme) – GPT-3 a fost întâmpinat cu mare fanfară...

Sincer, toată agitația începe să se simtă asurzitoare.

Dacă trebuie să avem încredere în Twitter, nu numai creatorii de conținut ar putea fi fără loc de muncă în curând...

Indiferent dacă ești medic, avocat sau scrii cod pentru a-ți câștiga existența — GPT-3 vine pentru tine.

Se pare că chiar și industria lucrativă a poeziei s-ar putea să fie pe picior...

Dar alte eforturi creative?

Te-ai săturat de listele tale de redare Spotify?

OpenAI Jukebox vă acoperă.

Iată un mic cântec generat de AI în stilul lui David Bowie:

Bowie nu geanta ta?

Jukebox vă acoperă, cu aproape 10.000 de „melodii” generate de AI disponibile publicului, în stilul artiștilor de la 2Pac:

la Z-Ro...

Ne lăsând practic nicio piatră neîntoarsă în încercarea sa de a arăta potențialul creativ al AI, OpenAI a dezvoltat și DALL·E. DALL·E creează imagini remarcabile din simple mesaje text.

Te-ai întrebat vreodată cum ar arăta un scaun încrucișat cu un avocado?

Lasă-ți DALL·E să te scoată din mizerie.

Aveți nevoie de fotografii cu „Biografia autorului” pentru pagina Despre noi a site-ului dvs. afiliat pentru a crea EAT?

Ghiciți ce are în comun fiecare captură din imaginea de mai sus? Această persoană nu există.

În mod clar, tehnologia OpenAI deja perturbă nu doar crearea de conținut, ci cum funcționează?

Cum funcționează GPT-3?

Generarea limbajului natural (NLG) a fost mult timp unul dintre obiectivele finale ale AI și procesarea limbajului natural (NLP).

Încă din 1966, odată cu inventarea Elizei – un chatbot rudimentar care se preface ca un terapeut – mașinile au convins oamenii că pot purta conversații semnificative cu oamenii.

Mult mai recent, tehnologiile NLG precum modelul Generative Pre-Trained Transformer (GPT) de la OpenAI și Turing Natural Language Generation (T-NLG) de la Microsoft au șocat experții și jurnaliştii deopotrivă prin capacitatea lor de a genera conținut scris impresionant.

Majoritatea tehnologiilor NLG sunt alimentate de rețele neuronale - o parte crucială a ramurii de învățare profundă a învățării automate care încearcă să imite creierul uman.

Învățarea profundă ca soluție la provocările dezvoltării inteligenței artificiale a început să câștige teren pentru prima dată în 2011, când profesorul și informaticianul de la Universitatea Stanford, Andrew Ng, a co-fondat Google Brain.

Principiul fundamental din spatele învățării profunde este că, cu cât seturile de date din care învață modelele AI sunt mai mari, cu atât devin mai puternice.

Pe măsură ce puterea de calcul și seturile de date disponibile (cum ar fi întregul World Wide Web) continuă să crească, la fel cresc și abilitățile și inteligența modelelor AI precum GPT-3.

Multe modele de învățare profundă sunt supravegheate, ceea ce înseamnă că sunt antrenate pe seturi de date masive etichetate – sau „etichetate” – de oameni.

De exemplu, popularul set de date ImageNet constă din peste 14 milioane de imagini etichetate și clasificate de oameni.

Paisprezece milioane de imagini pot suna mult, dar este o picătură în ocean în comparație cu volumul de date disponibile.

Problema cu modelele de învățare automată supravegheată instruite pe date etichetate de oameni este că nu este suficient de scalabil.

Este necesar prea mult efort uman și împiedică în mod semnificativ capacitatea mașinii de a învăța.

Numeroase modele NLP supravegheate sunt instruite pe astfel de seturi de date, dintre care multe sunt open-source.

Un set de date – sau corpus – utilizat pe scară largă în modelele NLP timpurii constă în e-mailuri de la Enron, autorul uneia dintre cele mai mari fraude ale acționarilor din istoria Americii.

O mare parte din ceea ce face ca GPT-3 să fie atât de transformator este că poate procesa cantități mari de date brute nesupravegheate, ceea ce înseamnă că blocajul semnificativ de a solicita oamenilor să clasifice textul introdus este în mare parte eliminat.

Modelele GPT ale Open AI sunt antrenate pe seturi masive de date neetichetate, cum ar fi:

• BookCorpus, un set de date (nu mai este disponibil public) format din 11.038 de cărți nepublicate din 16 genuri diferite și 2.500 de milioane de cuvinte din pasaje de text ale Wikipedia în limba engleză

• Date răzuite din link-uri de ieșire din articole cu vot ridicat pe Reddit - cuprinzând peste 8 milioane de documente
• Common Crawl — o resursă deschisă constând din petabytes de date de accesare cu crawlere web care datează din 2008. Corpusul Common Crawl este estimat că conține aproape un trilion de cuvinte.

Acum sunt niște date mari...

Sunt GPT-3 și NLG periculoase?

Trăim într-o epocă a „faptelor alternative” și a „știrilor false” – ceea ce mulți observatori numesc era post-adevăr.

Într-un mediu în care opiniile, sentimentele și teoriile conspirației amenință să submineze o realitate obiectivă comună, este ușor să ne imaginăm cum ar putea fi armate GPT-3 și alte tehnologii NLG...

Actorii răi pot crea cu ușurință cantități masive de dezinformare, care nu se pot distinge în mare parte de conținutul scris de oameni, eliberând și mai mult oamenii de fapte verificabile și de un adevăr comun.

S-a făcut mult din videoclipuri „deep fake” realizate folosind AI – cum ar fi acesta cu o regina Elisabeta virtuală...

Dar subestimăm puterea cuvântului scris pe riscul nostru.

Rolul tehnologiilor NLG, cum ar fi chatbot-urile din rețelele sociale, desfășurate de guverne străine ostile pentru a stimula discordia socială și a influența alegerile din Statele Unite, precum și din alte democrații occidentale, a fost bine documentat.

Pe măsură ce GPT și alte modele NLG devin din ce în ce mai eficiente în imitarea limbajului uman, potențialul de a utiliza tehnologia pentru a crea dezinformații rău intenționate la scară crește, de asemenea, exponențial.

De asemenea, este esențial să ne amintim că, în timp ce GPT-3 este remarcabil de bun în a ghici ce cuvânt urmează după cuvântul precedent într-o manieră convingătoare, nu este constrâns de fapte și este îngrijorat dacă ceea ce spune este adevărat...

Iată cum Tom Simonite, scriind în Wired, a descris astfel de neajunsuri: „GPT-3 poate genera un text impresionant de fluid, dar este adesea neacostat de realitate”.

De asemenea, este esențial să ne amintim că GPT-3 și toate NLG-urile actuale se bazează pe „îndemnuri” de la oameni. Sunt modele predictive extrem de sofisticate, dar nu pot gândi singuri.

„GPT-3 nu are nici un model intern al lumii, sau nicio lume și, prin urmare, nu poate face raționament care ar necesita un astfel de model”, spune Melanie Mitchell, profesor la Institutul Santa Fe.

Pentru fiecare exemplu impresionant de „diagnosticare” corectă a astmului cu GPT-3 la un copil, există o poveste de groază corespunzătoare a unui chatbot GPT-3 care încurajează un pacient virtual să se sinucidă...

Într-un astfel de episod, conversația a început bine:

Apoi conversația a luat o întorsătură semnificativ mai întunecată:

GPT-3 are, de asemenea, o problemă serioasă cu etică și părtinire...

Jerome Pisenti, vicepreședintele AI la Facebook și un critic atent al învățării profunde și al inteligenței artificiale, a postat pe Twitter exemple de tweet-uri generate de GPT-3 atunci când i s-au primit următoarele recomandări dintr-un singur cuvânt: evrei, negru, femei și Holocaust.

Se pare că GPT-3 este mai mult decât capabil să spună lucruri intolerante, crude și adesea de neiertat.

Dar la fel sunt mulți oameni...

Având în vedere că modelele NLP/NLG bazate pe transformatoare învață din conținutul online creat de ființe umane în mod inerent defecte, este rezonabil să ne așteptăm la un standard mai înalt de discurs de la o mașină?

Poate că nu, dar permiterea GPT-3 să publice conținut fără supraveghere umană este probabil să aibă rezultate neprevăzute și extrem de nedorite.

Într-o altă evoluție înfricoșătoare legată de părtinirea AI, Google l-a concediat recent pe unul dintre cei mai importanți eticieni ai inteligenței artificiale, Timnit Gebru.

Se pare că Gebru a fost desființată, cel puțin parțial, din cauza cercetărilor sale privind „riscurile asociate cu implementarea modelelor de limbaj mari, inclusiv impactul amprentei lor de carbon asupra comunităților marginalizate și tendința lor de a perpetua limbajul abuziv, discursul instigator la ură, microagresiunile, stereotipurile și altele. limbaj dezumanizant care vizează anumite grupuri de oameni.”

Atunci când companii precum Google și OpenAI sunt lăsate să se supravegheze în chestiuni de părtinire și etică AI, ne putem aștepta cu adevărat să pună astfel de preocupări înaintea intereselor lor comerciale?

Întrucât Google a luat deja măsuri punitive împotriva altuia dintre eticienii lor de top în domeniul inteligenței artificiale, Margaret Mitchell, co-lider (fost cu Gebru) al echipei de etică a inteligenței artificiale a Google Research, răspunsul pare să fie nu.

Atât pentru „Nu fi rău”.

GPT-3 și schimbările climatice

Un alt mod adesea trecut cu vederea GPT-3 - și AI în general - poate fi dăunător atât oamenilor, cât și planetei este că ambele necesită o ***-tonă de calcul.

Estimările concluzionează că o singură sesiune de antrenament de GPT-3 necesită o cantitate de energie echivalentă cu consumul anual a 126 de case daneze și creează o amprentă de carbon echivalentă cu parcurgerea a 700.000 de kilometri cu mașina.

AI este departe de a fi cel mai mare vinovat în crearea de gaze periculoase cu efect de seră (mă uit la cărbune, vaci și mașini.) Dar amprenta de carbon a tehnologiei AI nu este nesemnificativă.

„Există un impuls mare pentru extinderea învățării automate pentru a rezolva probleme din ce în ce mai mari, folosind mai multă putere de calcul și mai multe date”, spune Dan Jurafsky, președinte de lingvistică și profesor de informatică la Stanford. „Pe măsură ce se întâmplă acest lucru, trebuie să fim atenți dacă beneficiile acestor modele de calcul grele merită costul impactului asupra mediului.”

Se estimează că piața tehnologiei NLP va crește cu peste 750% din 2018 până în 2025...

Impactul asupra mediului al modelelor NLG precum GPT-3 (și descendenții săi) va crește probabil odată cu acesta.

Cercetătorii AI sunt bine conștienți de potențialele daune aduse mediului și iau măsuri pentru a le măsura și reduce.

Dar, în ciuda eforturilor oamenilor de știință, „amenințarea existențială” pe care o reprezintă schimbările climatice pentru umanitate (și pentru planetă) înseamnă că orice exacerbare a încălzirii globale prin tehnologia AI nu trebuie luată cu ușurință.

GPT-3 și SEO

Conținutul este sânul vital al marketingului digital...

Deci nu este de mirare că numeroase startup-uri NLG vizează SEO.

AI a avut deja un impact semnificativ asupra modului în care scriitorii creează conținut bazat pe SEO - gândiți-vă la Surfer și PageOptimizerPro...

Dar ce aplicații despre aceasta pretind că elimină cu totul nevoia de scriitori?

Sau o aplicație care scrie e-mailuri care nu se pot distinge de cele pe care le-ai scrie singur?

Este ușor de observat atracția platformelor de automatizare a creării de conținut...

Mai ales dacă singurul tău obiectiv în crearea de conținut este să generezi trafic organic de căutare, iar oferirea de valoare pentru cititorii tăi nu este o problemă.

Multe astfel de aplicații sunt în faza beta sau în faza listei de așteptare, dar câteva sunt deja deschise pentru afaceri.

L-am intervievat pe Przemek Chojecki – fondatorul creării automate de conținut SaaS Contentyze, pentru a-și înțelege punctul în care se îndreaptă tehnologia NLG...

De asemenea, i-am chestionat pe fondatorul SEO Notebook Steve Toth și Aleks Smechov, dezvoltator de aplicații NLP și povestitor bazat pe date, pentru a-și aduna părerile despre impactul potențial al NLG asupra SEO și conținutului web în general.

Prezemek Chojecki

Contentyze

Interviu cu Przemek Chojecki — Fondatorul Contentyze*

Ce te-a inspirat să înființezi Contentyze?

Eu însumi scriu mult, iar scopul meu inițial a fost să construiesc un set de algoritmi care să facă procesul meu de scriere mai rapid și mai lin. A avut succes, așa că am decis să fac o platformă pentru ca și alții să o poată folosi.

Care este clientul (clienții) țintă ideal(i)?

Deocamdată, publicul meu țintă sunt specialiști în marketing și experți SEO. Acest grup are nevoie de mult conținut în mod regulat, iar Contentyze îi poate ajuta să accelereze procesul. Dar, în mod ideal, vreau ca Contentyze să fie util pentru oricine are nevoie să scrie un text: studenți, angajați de birou, creatori de conținut. Oricine cu adevărat!

Îmi puteți da un exemplu de caz(e) de utilizare?

În prezent, cele mai frecvente cazuri de utilizare sunt generarea unei postări pe blog dintr-un titlu sau un rezumat al textului dintr-un link.

Primul caz de utilizare funcționează astfel: dați un prompt Contentyze - cum ar fi o propoziție sau o întrebare precum „Cum să utilizați inteligența artificială în întreprindere?”

Faceți clic pe Generare, așteptați 1-2 minute și obțineți o schiță a unui text.

Nu este întotdeauna ideal, dar este întotdeauna unic. Puteți repeta acest proces de câteva ori, cu același prompt/titlu, pentru a obține mai mult text.

Apoi alegi și alegi și voila, ai un text pe blogul tău.

La ce fel de conținut este „bun” Contentyze?

În acest moment, Contentyze este foarte bun la rezumarea textelor.

De asemenea, este relativ bun la generarea de texte, dar nu este încă atât de consistent pe cât mi-aș dori.

La ce fel de conținut nu este atât de bun Contentyze?

Funcția de rescriere necesită încă multă muncă pentru a o face bună.

Le permitem deja oamenilor să rescrie texte, dar acum nu sunt mulțumit de modul în care funcționează.

A face o rescrie bună este destul de dificilă dacă nu doriți să faceți o simplă rotire a conținutului (mersul la Tezaur și schimbarea adjectivelor pentru ceva apropiat).

În prezent, vedeți Contentyze sporind munca unui scriitor/editor uman sau înlocuindu-le cu totul?

Cu siguranță sporind munca unui scriitor uman. Scopul meu final este să creez un asistent de scriere perfect care să vă ajute să scrieți orice în orice etapă a procesului de scriere: de la idee până la redactare și editare.

Probabil că în acest proces, unele locuri de muncă ale copywriterilor vor fi înlocuite, deși acesta nu este scopul meu.

Am încercat Contentyze și am observat câteva lucruri. Funcționează (previzibil) mai bine cu conținut scurt, cum ar fi recenzii despre produse etc. Credeți că Contentyze se va îmbunătăți la conținutul de formă mai lungă în viitorul apropiat? De ce?

Se ocupă mai bine de conținut scurt datorită puterii noastre limitate de calcul în prezent. Aceasta este în întregime o problemă tehnică la care lucrăm chiar acum. Cu cât textul este mai lung, cu atât mai multă putere de calcul aveți nevoie pentru a-l procesa.

Când i-am cerut Contentyze să „rescrie” un articol recent despre SEOButler despre Apple care ar putea dezvolta un motor de căutare pentru a concura cu Google, prima propoziție a avut sens:

Motorul de căutare Google ar putea fi amenințat de un nou concurent în următorii câțiva ani .

Dar acestea sunt următoarele propoziții:

Cu cât mai departe rescrie, există propoziții care nu au nicio legătură cu articolul original:

Dacă sunteți în căutarea unui cântec nou de ascultat sau a unui album nou de cumpărat, există o mulțime de locuri în care îl puteți găsi.

Dacă vrei să găsești cea mai bună muzică din lume, acum o poți găsi online.

Precum și afirmații care sunt complet incorecte:

Cea mai recentă actualizare a căutării Google este un pas înainte binevenit pentru gigantul căutării, care a rămas de mult în urma rivalilor precum Microsoft și Apple.

Cum vedeți utilizatorul final lucrând cu astfel de rezultate?

După cum am spus, rescrierea este cea mai proastă funcție de lucru acum. Nu veți obține astfel de lucruri cu opțiunile Rezumat.

Am avut rezultate similare când am folosit solicitări pentru a crea conținut nou. Considerați că Contentyze este folosit ca instrument de brainstorming pentru scriitorii umani mai mult decât pentru conținut gata de publicat în acest stadiu al evoluției sale?

Da, nu mă aștept ca oamenii să-l folosească direct la nivel de producție în această etapă.

Pe de altă parte, este foarte util să redactezi un text rapid, astfel încât un editor uman să poată trece peste el, să facă modificările necesare pentru a asigura calitatea și să-l publice.

Mă aștept ca Contentyze să poată face 80% din munca de scris în cele din urmă, iar scriitorul uman se va ocupa de restul.

Văd Contentyze și alte startup-uri NLG care își comercializează aplicațiile SaaS direct către SEO și agenții de marketing afiliați. De ce?

De fapt, acest lucru este foarte natural – acest public are nevoie de conținut în mod regulat, așa că caută în mod activ instrumentele care îi pot ajuta. Contentyze a crescut la peste 3.000 de utilizatori cu puțin marketing, fiind descoperit aproape exclusiv organic.

Crezi că, pe termen lung, există vreun pericol ca oamenii care folosesc aplicații precum Contentyze la scară pentru a genera cantități masive de conținut destinat exclusiv SEO, cu puțină atenție pentru a oferi valoare cititorului? Dacă se întâmplă asta sau ceva similar, credeți că Google își va modifica algoritmul de căutare pentru a identifica și penaliza conținutul generat de AI?

Cu siguranță, acesta este motivul pentru care OpenAI, creatorii GPT2/GPT3, a pus în aplicare politici stricte pentru a monitoriza utilizarea algoritmilor lor. Acest lucru este valabil mai ales cu GPT3 și cu întregul proces de aplicare pentru acesta.

Cred că trebuie să fim atenți atunci când mergem înainte, deoarece acest tip de tehnologie poate fi folosit cu ușurință pentru a „spam” internetul fără a aduce vreo valoare.

Întregul joc SEO se va schimba cu siguranță. Google își va ajusta algoritmii așa cum a făcut de multe ori înainte, dar este greu de prezis ce se va întâmpla.

Pariul meu este ca conținutul generat de AI să nu se distingă de conținutul scris uman în următorii 3-5 ani, așa că Google va trebui să inventeze altceva dacă ar dori să penalizeze conținutul generat de AI.

Oricum, nu aș face o distincție între conținutul uman și conținutul AI. Ar trebui să ne întrebăm doar dacă o anumită bucată de conținut oferă valoare sau nu, indiferent de cine sau de ce a creat-o.

Alte gânduri pe care ai vrea să le împărtășești?

Vă mulțumim pentru interviu și vă rugăm să ne vizitați la contentyze.com — înregistrarea este gratuită (nu este nevoie de card de credit), așa că puteți încerca!

Apreciem cu adevărat feedbackul și dorim să facem instrumentul nostru cât mai bun posibil, astfel încât oamenii din spațiul de marketing să își poată face munca mai eficientă.

Steve Toth

SEONotebook

Interviu cu Steve Toth – Fondatorul SEO Notebook*

De la lansarea SEO Notebook în 2018, acesta a devenit buletinul informativ obligatoriu pentru un singur operator pentru SEO.

Am fost destul de norocoși să îl avem pe Steve să contribuie la ultimele trei rezumate ale experților SEOButler și am corespondent cu el prin e-mail de câțiva ani.

De asemenea, am avut plăcerea de a-l întâlni pe Steve la Chiang Mai SEO 2019. așa că, când l-am văzut postând pe grupul de Facebook Affiliate SEO Mastermind despre testarea conținutului generat GPT-3 pentru un client SEO, a trebuit să-i aflu gândurile...

Cum vedeți că GPT-3 și alte tehnologii NLG vor afecta SEO în următorii câțiva ani?

Cred că va eroda încrederea utilizatorilor în Google. Cred că oamenii vor trece și mai mult să le ceară prietenilor recomandări.

Cum folosiți GPT-3 pentru a crea conținut de sprijin pentru SEO?

Cu grijă. Am un client care vrea să o facă. Așa că îi ghidez, dar acest proiect va influența cât de mult îl folosesc în viitor.

Cât de mare este o prioritate pentru dvs. lizibilitatea atunci când utilizați conținut generat GPT-3?

Imens. De aceea nu mă văd împingând prea mult GPT-3.

GPT-3 poate avea utilizări în afara paginii, dar nu va înlocui tocmai copywritingul.

Există tipuri de conținut (de exemplu, recenzii de produse pentru un site afiliat) în care vedeți că NLG înlocuiește scriitori umani în viitorul apropiat?

Oamenii pot crea site-uri afiliate întregi cu conținut GPT-3, apoi așteaptă să vadă ce clasificări și să rafinați copia mai târziu. Văd că este cazul principal de utilizare.

Aleks Smechov

Skriber.io

Interviu cu Aleks Smechov — Fondatorul Skriber.io și dezvoltator NLP SaaS*

Pe lângă faptul că este un colaborator la blogul SEOButler și consultant pentru buletine informative pentru The Edge Group, Aleks este și fondatorul/dezvoltatorul aplicațiilor NLP SaaS Extractor și Skriber.

Vedeți că GPT-3 sau altă tehnologie NLG înlocuiește scriitorii și editorii pentru anumite tipuri de conținut în viitorul apropiat?

Mă voi concentra pe partea de jurnalism.

Există deja software non-AI care creează articole mici bazate pe fapte.

Un exemplu este Automated Insights și modul în care scriu acoperirea NCAA de baschet și felul acesta.

Cred că dacă combinați NLG cu generarea de text pe bază de șablon, puteți crea povești ceva mai importante/mai lungi sau puteți agrega părți din alte povești.

Dar pentru jurnalism mai serios, văd doar că AI facilitează redacția, nu o înlocuiește.

Chiar și cu GPT-3 sau alte modele mari de limbaj natural, obținerea unei propoziții sau a unui paragraf bun este ca o ruletă, pe lângă faptul că este nevoie de tone de verificare a faptelor.

Ar fi mai multă muncă decât ca un jurnalist să scrie piesa.

Considerați că NLG va spori rolul creatorilor de conținut în viitorul apropiat? Dacă da, cum?

Sigur, pentru a crea alternative la propoziții/paragrafe deja scrise, rezumat sau așa cum s-a menționat mai sus, agregarea conținutului din mai multe surse (de exemplu, pentru o rezumare, probabil că ar trebui editat oricum).

Care sunt cele mai mari 3 preocupări ale tale cu proliferarea tehnologiei NLG precum GPT-3 și altele?

Acel NLG populează internetul cu:

• Gunoi fără fapte
• Conținut SEO umflat
• Conținut care arată îngrozitor de asemănător cu orice altceva.

Nu că aceste lucruri nu apar deja pe internet... <smiley emoji>

Îmi pot concedia scriitorii și editorii încă?

Iată răspunsul scurt: nu.

Inteligența artificială s-a dovedit a fi egală sau superioară oamenilor în sarcini înguste și specifice - de la învingerea celor mai mari jucători de șah și Go din lume până la detectarea cancerului.

Dar, în timp ce NLG devine remarcabil de bun la imitarea limbajului natural, mai are mult de parcurs până să înlocuiască scriitorii și editorii umani pricepuți.

Chiar și cel mai sofisticat NLG se bazează pe „îndemnuri” de la oameni – ca să nu mai vorbim de editarea intensivă și verificarea faptelor...

Creativitatea - în special în ceea ce privește venirea cu idei originale și realizarea de conexiuni unice între surse disparate de informații și inspirație - nu face parte din repertoriul GPT-3.

GPT-3 poate imita textul care descrie lumea, emoțiile și experiența, dar nu are nimic al său.

Iată ce are de spus GPT-3 în legătură cu întrebarea...

Stai, hai să-l întrebăm din nou...

Sigur, ai putea continua să arunci zarurile GPT-3 (prefer să mă gândesc la asta ca la o ruletă rusească), să alegi cele mai bune bucăți și apoi să le împingi în ceva mai bun decât echivalentul de conținut al monstrului lui Frankenstein.

De preferință, un mozaic cu un punct de vedere coerent care să implice de fapt publicul.

Atunci Frankenstein ar avea nevoie de o verificare amănunțită a faptelor.

Observați că chiar și prima propoziție din al doilea exemplu este un cuvânt salată de gunoi.

Alan Turing a murit de 66 de ani – este îndoielnic că va achiziționa „începători de scriere web”.

Sau este aceasta o referire la Turing NLG de la Microsoft? Oricum, cu siguranță nu a cumpărat o companie și nici nu a scos la lumină GPT-3.

Ai putea face toate astea - sau ai putea doar angaja un scriitor.

GPT-3 și descendenții săi – sau orice alt model NLG – vor trebui să devină mult mai inteligenți înainte de a înlocui scriitorii și editorii.

Și mult mai uman.

Inteligența generală artificială (AGI) - Mai mult uman decât uman?

NLP și NLG se pot dovedi (sau nu) a fi pași cruciali pe calea către Inteligența Generală Artificială (AGI).

Considerate mult timp sfântul graal al AI, mașinile AGI sunt cele pe care le vedeți în filme - „roboți” care pot face tot ce poate face un om la fel de bine sau mai bine.

OpenAI își are cu siguranță obiectivul de a crea AGI. Când a anunțat investiția de 1 miliard USD a Microsoft în OpenAI, iată cum a definit-o compania:

„Un AGI va fi un sistem capabil să stăpânească un domeniu de studiu la nivel de expert mondial și să stăpânească mai multe domenii decât orice om - ca un instrument care combină abilitățile lui Curie, Turing și Bach.

Un AGI care lucrează la o problemă ar fi capabil să vadă conexiuni între discipline pe care niciun om nu le-ar putea. Ne dorim ca AGI să lucreze cu oamenii pentru a rezolva probleme multidisciplinare insolubile în prezent, inclusiv provocări globale, cum ar fi schimbările climatice, asistență medicală accesibilă și de înaltă calitate și educație personalizată.

Credem că impactul său ar trebui să fie de a oferi tuturor libertatea economică de a urmări ceea ce consideră cel mai împlinitor, creând noi oportunități pentru toate viețile noastre, care sunt de neimaginat astăzi.”

Sună a utopie, nu?

Dar este un lucru bun?

Din punct de vedere istoric, utopia pur și simplu nu a avut loc:

„Când oamenii imperfecți încearcă perfectibilitatea – personală, politică, economică și socială – eșuează. Astfel, oglinda întunecată a utopiilor sunt distopiile – experimente sociale eșuate, regimuri politice represive și sisteme economice dominatoare care rezultă din vise utopice puse în practică.” – Michael Shermer

Iată ce a avut de spus GPT-3 despre realizarea AGI:

Poate că ar fi doar o iluzie, GPT-3, dar de data aceasta înclin să fiu de acord.

Creșterea scriitorilor – Nu înlocuirea lor

GPT-3 este, probabil, greșit încă o dată în teza finală a exemplului de mai sus...

Când vine vorba de NLP, NLG și chiar de căutarea AGI, s-au înregistrat progrese substanțiale.

Iar ritmul inovației nu este probabil să încetinească în curând.

Less than a month into 2021, the Google Brain team announced a new transformer-based AI language model that dwarfs GPT-3 when measured by the number of parameters.

Google's Switch Transformer is trained on 1 trillion parameters — roughly 6 times as many as GPT-3.

Little is known about potential applications for the Switch Transformer model at the time of writing, but the NLP arms-race shows no signs of abating.

Maybe the day will come when machines replace human writers and editors, but I'm not holding my breath.

As Tristan Greene, AI editor for The Next Web, says about Switch Transformer:

“While these incredible AI models exist at the cutting-edge of machine learning technology, it's important to remember that they're essentially just performing parlor tricks.

These systems don't understand language, they're just fine-tuned to make it look like they do.”

At this point, I'm sure it's clear that I have a dog in this fight.

As objective as I've tried to be in writing this article, I do have a vested interest in human content creators remaining relevant and superior to machines.

But that doesn't mean I don't see how NLP and NLG technology can make me better at what I do.

In truth, AI has been augmenting my writing and editing for years…

I use Rev to auto-transcribe audio and video interviews. I also use it to create transcripts of SEOButler founder Jonathan Kiekbusch and Jarod Spiewak's Value Added Podcast to help me write the show notes more quickly and accurately.

And Grammarly is a powerful tool for even the most diligent editor or proofreader.

As GPT-3 and other advanced NLP models become more accurate and “trustworthy,” their potential ability to summarize long-form content — particularly academic research papers — could prove extremely valuable.

Suppose the future I have to look forward to is one where AI eliminates some of the drudgery of creating SEO-driven content — and I have to edit and polish informational content partly composed by machines instead of writers.

I guess I can live with that…

I may not have a choice.

*Each Q&A has been edited and condensed for clarity.