Come utilizzare la PNL nel marketing dei contenuti

Chris Penn, co-fondatore di Trust Insights, e il co-fondatore e Chief Product Officer di MarketMuse, Jeff Coyle, discutono del business case per l'IA per il marketing. Dopo il webinar, Paul ha partecipato a una sessione "Chiedimi qualsiasi cosa" nella nostra Slack Community, The Content Strategy Collective (unisciti qui). Ecco le note del webinar seguite da una trascrizione dell'AMA.

Il webinar

Il problema

Con l'esplosione dei contenuti abbiamo nuovi intermediari. Non sono giornalisti o influencer dei social media. Sono algoritmi; modelli di machine learning che dettano tutto ciò che si frappone tra te e il tuo pubblico.

Se non rendi conto di questo, i tuoi contenuti continueranno a rimanere nell'oscurità.

La soluzione: elaborazione del linguaggio naturale

La PNL è la programmazione dei computer per elaborare e analizzare grandi quantità di dati in linguaggio naturale. Viene da documenti, chatbot, post sui social media, pagine del tuo sito Web e qualsiasi altra cosa che sia essenzialmente un mucchio di parole. La PNL basata su regole è stata la prima, ma è stata sostituita dall'elaborazione statistica del linguaggio naturale.

Come funziona la PNL

I tre compiti principali dell'elaborazione del linguaggio naturale sono il riconoscimento, la comprensione e la generazione.

Riconoscimento : i computer non possono elaborare il testo come gli esseri umani. Possono solo leggere i numeri. Quindi il primo passo è convertire la lingua in un formato comprensibile dal computer.

Comprensione : la rappresentazione del testo come numeri consente agli algoritmi di condurre analisi statistiche per determinare quali argomenti vengono citati più frequentemente insieme.

Generazione : dopo l'analisi e la comprensione matematica, il passaggio logico successivo nella PNL è la generazione del testo. Le macchine possono essere utilizzate per far emergere le domande a cui uno scrittore deve rispondere all'interno del loro contenuto. A un altro livello, l'intelligenza artificiale può guidare i riassunti dei contenuti che forniscono informazioni aggiuntive sulla creazione di contenuti di livello esperto.

Questi strumenti sono oggi disponibili in commercio tramite MarketMuse. Oltre a questo ci sono i modelli di generazione del linguaggio naturale con cui puoi giocare oggi, ma non sono in una forma commercialmente utilizzabile. Anche se la tecnologia MarketMuse NLG arriverà molto presto.

Risorse aggiuntive menzionate

• Huggingface.co
• Pitone
• R
• Cola
• IBM Watson Studio

L'AMA

Hai articoli o consigli su siti Web per stare al passo con le tendenze del settore dell'IA?

Leggi la ricerca accademica pubblicata là fuori. Siti come questi fanno tutti un ottimo lavoro nel coprire le ultime e le migliori.

• KDNuggets.com
• Verso la scienza dei dati
• Kaggle

Quello e i principali hub di pubblicazione di ricerca su Facebook, Google, IBM, Microsoft e Amazon. Vedrai tonnellate di ottimo materiale condiviso su quei siti.

“Sto usando un controllo della densità delle parole chiave per tutti i miei contenuti. Quanto è lontana dall'essere una strategia ragionevole questa oggi per la SEO?”

La densità delle parole chiave è essenzialmente il conteggio della frequenza dei termini. Ha il suo posto per comprendere la natura molto approssimativa del testo, ma manca di qualsiasi tipo di conoscenza semantica. Se non hai accesso agli strumenti della PNL, guarda almeno contenuti come "le persone hanno cercato anche" nello strumento SEO di tua scelta.

Potresti fornire alcuni esempi specifici su come generi contenuti in... pagine web? Messaggi? tweet?

La sfida è che questi strumenti sono esattamente questo: sono strumenti. Come si fa a rendere operativa una spatola? Dipende da cosa stai cucinando. Puoi usarlo per mescolare la zuppa e anche girare i pancake. Il modo per iniziare con alcune di queste conoscenze dipende dal tuo livello di abilità tecnica. Se sei a tuo agio con i notebook Python e Jupyter, ad esempio, puoi letteralmente importare la libreria Transformers, inserire il tuo file di testo di addestramento e iniziare immediatamente la generazione. L'ho fatto con i tweet di un certo politico e ha iniziato a sputare tweet che avrebbero dato inizio alla terza guerra mondiale. Se non sei tecnicamente a tuo agio, allora inizia a guardare strumenti come MarketMuse. Lascerò che Jeff Coyle offra suggerimenti su come il marketer medio inizia lì.

Se guardi oltre gli strumenti, ma più nelle strategie, quale potrebbe essere un esempio di strategia che potresti implementare per utilizzare questa conoscenza?

Un paio di risposte rapide sono per cose come meta descrizioni, per classificare pagine o blocchi di contenuti in una tassonomia o per cercare di indovinare domande che richiedono risposte, ma queste sono davvero soluzioni puntuali. La maggiore saggezza strategica arriva quando lo usi per mostrarti i tuoi punti di forza attuali, le tue lacune e dove hai slancio. Da lì, prendere decisioni su cosa creare, aggiornare, espandere diventa trasformativo per un'azienda. Ora immagina di fare lo stesso contro un concorrente. Trovare le loro lacune. schiuma, risciacquare, ripetere.

La strategia è sempre basata sull'obiettivo. Quale obiettivo stai cercando di raggiungere? Stai attirando il traffico di ricerca? Stai facendo lead generation? Stai facendo PR? La PNL è un insieme di strumenti. È simile a: la strategia è il menu. Servi la colazione, il pranzo o la cena? Gli strumenti e le ricette che utilizzi dipenderanno fortemente dal menu che stai servendo. Una pentola per zuppa non sarà di grande aiuto se stai preparando lo spanakopita.

Qual è un buon punto di partenza per chi vuole iniziare a estrarre dati per ottenere informazioni dettagliate?

Inizia con il metodo scientifico.

1. A quale domanda vuoi rispondere?
2. Di quali dati, processi e strumenti hai bisogno per rispondere a questa domanda?
3. Formula un'ipotesi, una singola condizione, un'affermazione dimostrabile vera o falsa che puoi verificare.
4. Test.
5. Analizza i dati del tuo test.
6. Affina o rifiuta l'ipotesi.

Per i dati stessi, utilizza il nostro framework di dati 6C per giudicare la qualità dei dati.

Quali sono, secondo te, i principali intenti degli utenti di ricerca che i marketer dovrebbero prendere in considerazione?

I passaggi lungo il percorso del cliente. Traccia l'esperienza del cliente dall'inizio alla fine: consapevolezza, considerazione, coinvolgimento, acquisto, proprietà, lealtà, evangelizzazione. Quindi traccia quali sono gli intenti probabili in ogni fase. Ad esempio, al momento della proprietà, è molto probabile che gli intenti di ricerca siano orientati ai servizi. "Come riparare il rumore scoppiettante degli airpods pro" è un esempio. La sfida è raccogliere dati in ciascuna delle fasi del viaggio e utilizzarli per allenarsi/sintonizzarsi.

Non pensi che questo possa essere un po' volatile? Se abbiamo bisogno di qualcosa di più stabile per automatizzare il processo, allora dobbiamo generalizzare le cose a un livello superiore.

Jeff Bezos ha detto notoriamente, concentrati su ciò che non cambia. Il percorso generale verso la proprietà non cambia molto: qualcuno scontento del proprio pacchetto di gomme da masticare sperimenterà cose simili a qualcuno scontento della nuova portaerei nucleare che ha commissionato. I dettagli cambiano, di sicuro, ma capire quali tipi di dati e intenti è fondamentale per sapere dove si trova qualcuno, emotivamente, in un viaggio e come lo trasmettono nel linguaggio.

Quali sono le probabili insidie ​​in cui cadranno le persone quando tenteranno di classificare le intenzioni degli utenti?

Di gran lunga, bias di conferma. Le persone proietteranno le proprie ipotesi sull'esperienza del cliente e interpreteranno i dati dei clienti attraverso i propri pregiudizi. Suggerirei anche, nella misura del possibile, di utilizzare i dati di interazione (e-mail aperte, piedi nella porta, chiamate al call center, ecc.) nel miglior modo possibile per convalidarli. So che alcuni luoghi, in particolare le organizzazioni più grandi, sono grandi fan della modellazione di equazioni strutturate per comprendere le intenzioni degli utenti. Non ero un fan come loro, ma è un ulteriore potenziale approccio.

Quali sono gli strumenti oi prodotti che ritieni possano svolgere un buon lavoro nel determinare l'intento dell'utente di una query?

Trama. Oltre a MarketMuse? Onestamente, ho dovuto lavorare con le mie cose perché non ho trovato grandi risultati, specialmente dagli strumenti SEO tradizionali. FastText per la vettorizzazione e quindi il clustering non strutturato.

Secondo la tua esperienza, in che modo BERT ha cambiato la Ricerca Google?

Il contributo principale di BERT è il contesto, in particolare con i modificatori. BERT consente a Google di vedere l'ordine delle parole e di interpretarne il significato. In precedenza, queste due query potrebbero essere funzionalmente equivalenti in un modello di stile di un sacchetto di parole:

• dov'è la migliore caffetteria
• dove è il posto migliore per acquistare un caffè

Queste due query, sebbene molto simili, potrebbero avere esiti drasticamente diversi. Una caffetteria potrebbe non essere un posto in cui vuoi comprare i fagioli. Un Walmart non è SICURAMENTE un posto dove vuoi bere un caffè.

Pensi che l'IA o le TIC svilupperanno mai coscienza/emozioni/empatia come gli esseri umani? Come li programmiamo? Come possiamo umanizzare l'IA?

La risposta dipende da cosa succede con l'informatica quantistica. Quantum consente stati fuzzy variabili e calcoli paralleli in modo massiccio che imitano ciò che sta accadendo nel nostro cervello. Il tuo cervello è un enorme processore parallelo molto lento e basato su sostanze chimiche. È davvero bravo a fare un sacco di cose in una volta, se non in fretta. Quantum consentirebbe ai computer di fare la stessa cosa, ma molto, molto più velocemente, e questo apre le porte all'intelligenza artificiale generale. Ecco la mia preoccupazione, e questa è una preoccupazione per l'IA oggi, già, in uso limitato: li addestriamo in base a noi. L'umanità non ha fatto un ottimo lavoro nel curare se stessa o il pianeta su cui viviamo. Non vogliamo che i nostri computer lo imitino.

Sospetto che nella misura in cui i sistemi lo consentano, le emozioni del computer saranno funzionalmente molto diverse dalle nostre e si auto-organizzeranno dai loro dati, proprio come le nostre fanno dalle nostre reti neurali a base chimica. Ciò a sua volta significa che potrebbero sentirsi molto diversi da noi. Se le macchine, basate principalmente sulla logica e sui dati, effettuano una valutazione schietta e obiettiva dell'umanità, possono determinare che, francamente, siamo più guai di quanto valiamo. E non avrebbero torto, francamente. Siamo, come specie, un barbaro pasticcio per la maggior parte del tempo.

Secondo te, come vedi i marketer di contenuti che integrano/adottano la generazione del linguaggio naturale nel loro flusso di lavoro/processi quotidiani?

I marketer dovrebbero già integrarne una qualche forma, anche se sta solo rispondendo a domande come abbiamo dimostrato nel prodotto di MarketMuse. Rispondere a domande che sai che interessano al pubblico è un modo semplice e veloce per creare contenuti significativi. Il mio amico Marcus Sheridan ha scritto un ottimo libro, "Loro chiedono, tu rispondi" che ironicamente non è necessario leggere per cogliere la strategia fondamentale del cliente: rispondere alle domande delle persone. Se non hai ancora domande inviate da persone reali, usa NLG per farle.

Dove vedi l'avanzamento dell'IA e della PNL nei prossimi 2 anni?

Se lo sapessi, non sarei qui, perché sarei sulla fortezza in cima alla montagna che ho acquistato con i miei guadagni. Ma in tutta serietà, il perno principale che abbiamo visto negli ultimi 2 anni e che non mostra segni di cambiamento è la progressione dal "roll your own" modelli a "scaricare pre-addestrati e mettere a punto". Penso che ci saranno tempi eccitanti nel video e nell'audio quando le macchine miglioreranno nella sintesi. La generazione musicale, in particolare, è RIPE per l'automazione; in questo momento le macchine generano musica assolutamente mediocre nel migliore dei casi e piaghe d'orecchio nel peggiore. Questo sta cambiando rapidamente. Vedo più esempi come la fusione di trasformatori e autoencoder insieme come ha fatto BART come importanti passi successivi nella progressione del modello e risultati allo stato dell'arte.

Dove vedi la direzione della ricerca di Google per quanto riguarda il recupero delle informazioni?

La sfida che Google continua ad affrontare, e lo vedi in molti dei suoi documenti di ricerca, è di scala. Sono particolarmente sfidati con cose come YouTube; il fatto che facciano ancora molto affidamento sui bigram non è un colpo alla loro sofisticatezza, è un riconoscimento che qualsiasi cosa in più ha un costo computazionale folle. Eventuali importanti scoperte da parte loro non saranno tanto a livello di modello quanto a livello di scala per affrontare il diluvio di nuovi contenuti ricchi che vengono riversati su Internet ogni giorno.

Quali sono alcune delle applicazioni più interessanti dell'IA che hai incontrato?

Tutto autonomo è un'area che osservo da vicino. Così sono i falsi profondi. Sono esempi di quanto sia pericolosa la strada da percorrere, se non stiamo attenti. In particolare, nella PNL, la generazione sta facendo passi da gigante ed è l'area da tenere d'occhio.

Dove hai visto i SEO utilizzare la PNL in modi che non funzionano o non funzioneranno?

Ho perso il conto. Molte volte, sono le persone che usano uno strumento in un modo in cui non era previsto e ottengono risultati scadenti. Come accennato nel webinar, ci sono scorecard per i diversi test all'avanguardia per i modelli e le persone che utilizzano uno strumento in un'area in cui non è forte in genere non apprezzano i risultati. Detto questo... la maggior parte dei professionisti SEO non utilizza alcun tipo di NLP a parte ciò che i fornitori forniscono loro, e molti fornitori sono ancora bloccati nel 2015. Sono tutti elenchi di parole chiave, tutto il tempo.

Dove vedi il video (YouTube) e la ricerca di immagini su Google? Pensi che le tecnologie implementate da Google utilizzate per tutti i tipi di ricerche siano molto simili o diverse tra loro?

Le tecnologie di Google sono tutte basate sulla loro infrastruttura e utilizzano la loro tecnologia. Tanto è basato su TensorFlow e per una buona ragione: è super robusto e scalabile. Dove le cose variano è nel modo in cui Google utilizza i diversi strumenti. TensorFlow per il riconoscimento delle immagini ha intrinsecamente input e livelli molto diversi rispetto a TensorFlow per il confronto a coppie e l'elaborazione del linguaggio. Ma se sai come usare TensorFlow e i vari modelli là fuori, puoi ottenere alcune cose piuttosto interessanti da solo.

In che modo possiamo adattarci/mantenere il passo con i progressi nell'IA e nella PNL?

Continua a leggere, ricercare e testare. Non c'è nessun sostituto per sporcarsi le mani, almeno un po'. Registrati per un account Google Colab gratuito e prova le cose. Insegna a te stesso un po' di Python. Copia e incolla esempi di codice da Stack Overflow. Non è necessario conoscere ogni funzionamento interno di un motore a combustione interna per guidare un'auto, ma quando qualcosa va storto, un po' di conoscenza fa molta strada. Lo stesso vale per AI e NLP: anche solo essere in grado di chiamare BS un fornitore è un'abilità preziosa. È uno dei motivi per cui mi piace lavorare con la gente di MarketMuse. In realtà sanno cosa stanno facendo e il loro lavoro di intelligenza artificiale non è BS.

Cosa diresti alle persone preoccupate che l'IA prenda il lavoro? Ad esempio, gli scrittori che vedono tecnologie come NLG e temono che rimarranno senza lavoro se l'IA può essere "abbastanza valida" per un editore per ripulire un po' il testo.

"L'intelligenza artificiale sostituirà i compiti, non i lavori" - il Brookings Institute Ed è assolutamente vero. Ma ci saranno posti di lavoro netti persi, perché ecco cosa accadrà. Supponiamo che il tuo lavoro sia composto da 50 attività. L'IA ne fa 30. Ottimo, ora hai 20 attività. Se sei l'unica persona che lo fa, allora sei nel nirvana perché hai 30 unità di tempo in più per fare un lavoro più interessante e divertente. Questo è ciò che promettono gli ottimisti dell'IA. Verifica della realtà: se ci sono 5 persone che fanno quelle 50 unità e l'IA ne fa 30, allora l'IA ora sta facendo 150/250 unità di lavoro. Ciò significa che ci sono 100 unità di lavoro rimaste per le persone e le aziende, essendo quello che sono, taglieranno immediatamente 3 posizioni perché le 100 unità di lavoro possono essere svolte da 2 persone. Dovresti essere preoccupato che l'IA prenda lavoro? Dipende dal lavoro. Se il lavoro che fai è incredibilmente ripetitivo, sii assolutamente preoccupato. Nella mia vecchia agenzia, c'era un povero idiota il cui compito era copiare e incollare i risultati di ricerca in un foglio di calcolo per i clienti (lavoravo in una società di pubbliche relazioni, non il posto più tecnologicamente avanzato) 8 ore al giorno. Quel lavoro è in pericolo immediato e francamente avrebbe dovuto esserlo da anni. Ripetizione = automazione = AI = perdita di attività. Meno ripetitivo è il tuo lavoro, più sicuro sei.

Ogni cambiamento ha anche creato sempre più disparità di reddito. Siamo ora a un punto pericoloso in cui le macchine – che non spendono, non sono consumatori – stanno facendo sempre più lavoro di persone che spendono, che consumano, e lo vediamo nell'enorme predominio della ricchezza nella tecnologia. Questa è una questione sociale che dovremo affrontare a un certo punto.

E la sfida con questo è il progresso è il potere. Come scrisse Robert Ingersoll (e in seguito fu erroneamente attribuito ad Abraham Lincoln): “Quasi tutti gli uomini possono sopportare le avversità, ma se vuoi mettere alla prova il carattere di un uomo, dagli il potere”. Vediamo come le persone oggi gestiscono il potere.

Come posso associare i dati di Google Analytics con la ricerca NLP?

GA indica la direzione, quindi NLP indica la creazione. Cosa è popolare? L'ho fatto per un cliente poco tempo fa. Hanno migliaia di pagine web e sessioni di chat. Abbiamo utilizzato GA per analizzare quali categorie stavano crescendo più velocemente sul loro sito e quindi abbiamo utilizzato la NLP per elaborare i registri delle chat per mostrare loro quali sono le tendenze e di cosa avevano bisogno per creare contenuti.

Google Analytics è ottimo per dirci COSA è successo. La PNL può iniziare a svelare un po' del PERCHÉ, quindi lo completiamo con una ricerca di mercato.

Ti ho visto usare Talkwalker come fonte di dati in molti dei tuoi studi. Quali altre fonti e casi d'uso dovrei considerare per l'analisi?

Così, così tanti. Data.gov. Talkwalker. MarketMuse. Otter.ai per la trascrizione dell'audio. Noccioli Kaggle. Google Data Search – che tra l'altro è GOLD e se non lo usi, dovresti assolutamente esserlo. Google News e GDELT. Ci sono così tante grandi fonti là fuori.

Come ti sembra una collaborazione ideale tra il team di marketing e analisi dei dati?

Non sto scherzando; uno dei più grandi errori che Katie Robbert e io vediamo sempre ai clienti sono i silos organizzativi. La mano sinistra non ha idea di cosa stia facendo la mano destra, ed è un pasticcio caldo ovunque. Riunire le persone, condividere idee, condividere liste di cose da fare, avere posizioni comuni, insegnarsi a vicenda - essere funzionalmente "una squadra, un sogno" è la collaborazione ideale, al punto che non è più necessario usare la parola collaborazione . Le persone lavorano insieme e portano tutte le loro abilità sul tavolo.

Puoi rivedere il rapporto MVP che visualizzi frequentemente in anteprima nelle tue presentazioni e come funziona?

Il rapporto MVP sta per le pagine più preziose. Il modo in cui funziona è estrarre i dati del percorso da Google Analytics, sequenziarli e quindi inserirli attraverso un modello di catena di Markov per accertare quali pagine hanno maggiori probabilità di favorire le conversioni.

E se vuoi la spiegazione più lunga.

Puoi dare qualche informazione in più sulla distorsione dei dati? Quali sono alcune considerazioni da fare quando si creano modelli NLP o NLG?

Oh si. C'è così tanto da dire qui. In primo luogo, dobbiamo stabilire cos'è il pregiudizio, perché ci sono due tipi fondamentali.

Il pregiudizio umano è generalmente accettato per essere definito come "Pregiudizio a favore o contro qualcosa rispetto a un altro, di solito in un modo considerato ingiusto".

Poi c'è il bias matematico, generalmente accettato per essere definito come "Una statistica è distorta se è calcolata in modo tale da essere sistematicamente diversa dal parametro della popolazione stimato".

Sono diversi ma correlati. I pregiudizi matematici non sono necessariamente negativi; per esempio, se hai un minimo di senso per gli affari, vuoi assolutamente essere di parte a favore dei tuoi clienti più fedeli. Il pregiudizio umano è implicitamente negativo nel senso di iniquità, specialmente nei confronti di tutto ciò che è considerato una classe protetta: età, genere, orientamento sessuale, identità di genere, razza/etnia, stato di veterano, disabilità, ecc. Queste sono classi che NON DOVETE discriminare.

Il pregiudizio umano genera pregiudizio sui dati, in genere in 6 luoghi: persone, strategia, dati, algoritmi, modelli e azioni. Assumiamo persone di parte: basta guardare la suite esecutiva o il consiglio di amministrazione di un'azienda per determinare qual è la sua distorsione. L'altro giorno ho visto un'agenzia di pubbliche relazioni pubblicizzare il suo impegno per la diversità e un clic al loro team esecutivo e sono un'unica etnia, tutti e 15.

Potrei andare avanti per un bel po' di tempo su questo, ma ti suggerirò di seguire un corso che ho sviluppato su questo argomento, al Marketing AI Institute. In termini di modelli NLG e NLP, dobbiamo fare alcune cose.

Innanzitutto, dobbiamo convalidare i nostri dati. C'è un pregiudizio in esso e, in caso affermativo, è discriminatorio nei confronti di una classe protetta? In secondo luogo, se è discriminatorio, è possibile attenuarlo o dobbiamo eliminare i dati?

Una tattica comune è trasformare i metadati in debias. Se, ad esempio, si dispone di un set di dati composto per il 60% da maschi e per il 40% da femmine, si ricodifica il 10% dei maschi in femmine per bilanciarlo per l'addestramento del modello. È imperfetto e presenta alcuni problemi, ma è meglio che lasciare che il pregiudizio cavalchi.

Idealmente, abbiamo costruito interpretabilità nei nostri modelli che ci consentono di eseguire controlli durante il processo, quindi convalidiamo anche i risultati (spiegabilità) post hoc. Entrambi sono necessari se vuoi essere in grado di superare un audit che certifica che non stai creando pregiudizi nei tuoi modelli. Guai è l'azienda che ha solo spiegazioni post hoc.

E infine, è assolutamente necessaria la supervisione umana di un team diversificato e inclusivo per verificare i risultati. Idealmente si utilizza una terza parte, ma una parte interna fidata va bene. Il modello e i suoi risultati presentano un risultato distorto rispetto a quello che otterresti dalla popolazione stessa?

Ad esempio, se stavi creando contenuti per ragazzi di età compresa tra 16 e 22 anni e non hai visto termini come deadass, dank, low-key, ecc. nel testo generato, non sei riuscito a catturare alcun dato sul lato di input ciò addestrerebbe il modello a usare il loro linguaggio in modo accurato.

La sfida principale più grande qui è affrontare tutto ciò attraverso dati non strutturati. Questo è il motivo per cui il lignaggio è così importante. Senza lignaggio, non puoi dimostrare di aver campionato correttamente la popolazione. Il lignaggio è la tua documentazione di quale sia l'origine dei dati, da dove provengono, come sono stati raccolti, se si applicano requisiti normativi o divulgazioni.