Una conversazione con Vauhini Vara su IA, scrittura e narrazione

1. Il 9 agosto 2021 sul sito online della rivista “The Believer” veniva pubblicato il tuo saggio Ghosts, co-scritto con GPT-3, un antenato di quello che oggi conosciamo come ChatGPT. A distanza di cinque anni, resta uno dei risultati più riusciti e sorprendenti di collaborazione creativa con una macchina: una sorta di dialogo “maieutico” scaturito da un processo iterativo in nove tentativi, in cui la tua parte “umana” cresce gradualmente fino ad assorbire quella della macchina. Una forma che sembra adattarsi in modo speculare e simbiotico sia al titolo sia alla storia che racconti. I “fantasmi” del titolo fanno pensare a Cibernetica e fantasmi, la conferenza che Italo Calvino tenne nel 1967 e che confluì poi nella raccolta Una pietra sopra. In quel testo scritto agli albori dell’intelligenza artificiale, Calvino sembrava quasi suggerire provocatoriamente che un giorno le macchine avrebbero potuto sostituire l’autorǝ, ma che sarebbero sempre stati i “fantasmi” dell’individuo e della società (per semplificare: la storia, il mito, l’irrazionale) a garantire il risultato poetico. Quali sono i “fantasmi” che abitano il tuo testo?

Tendo a prendere le distanze dall’idea che il termine “collaborazione” - che storicamente è stato usato per riferirsi a persone che lavorano insieme per un obiettivo comune - sia corretto in questo contesto. (Diremmo di “collaborare” con Google quando facciamo una ricerca online? O con Instagram quando pubblichiamo un post?) La concezione della macchina narrativa di Calvino non tiene conto di come ǝ proprietarǝ di qualsiasi macchina ne plasmino invariabilmente l’output. L’output di GPT-3, in “Ghosts”, riflette senz’altro la cultura umana, ma si tratta di un sottoinsieme della cultura umana che rispecchia gli obiettivi e i valori di OpenAI, il laboratorio che sta dietro al modello.

I dati alla base dei primi modelli di OpenAI attingevano in larga misura allo scraping di Wikipedia e Reddit, e i contenuti in lingua inglese erano rappresentati in modo sproporzionato; alcune ricerche suggeriscono che, per la parte di dati riconducibili alla scrittura creativa, buona parte fosse costituita da narrativa sentimentale pubblicata online. È quindi comprensibile che “Ghosts”, soprattutto all’inizio, tenda a presentare scene di incontri fortuiti e altri topoi del genere romantico. Nei dati di addestramento doveva esserci anche una discreta quantità di materiale relativo al lutto. 

I modelli più recenti di OpenAI e di altri laboratori commerciali sono stati sottoposti a fine-tuning in modo da risultare molto più prevedibili rispetto a quelli più vecchi, incluso GPT-3, perché la prevedibilità contribuisce a creare un prodotto migliore. Probabilmente per effetto di questo, le ricerche mostrano che gli output tendono a essere molto meno vari e creativi di ciò che le persone tendono a scrivere. Anche qui possiamo notare che i fantasmi che si celano all’interno degli output dei modelli di IA, per riprendere la formulazione di Calvino, sono accuratamente selezionati dalle aziende che vi stanno dietro per perseguire i propri obiettivi commerciali.

(per gentile concessione di Vauhini Vara)

2. Nel tuo ultimo libro, la raccolta di saggi Searches: Selfhood in the Digital Age, hai incluso una versione rivista e aggiornata di Ghosts, con un finale diverso che risulta decisamente più “politico”: mentre nella versione originale le ultime parole erano state generate da GPT-3, queste sono state cancellate e sostituite affinché la voce che chiude il testo sia ora la tua. Perché questa modifica è così importante?

Personalmente non lo considero più politico, ma più esplicito. 

Quando ho pubblicato “Ghosts”, mi aspettavo che moltǝ lettorǝ, se non la maggior parte, avrebbero interpretato il testo come la rappresentazione di una sorta di conflitto interiore: un conflitto che contrapponeva il mio desiderio di esprimermi e comunicare in modo autentico, nonostante la difficoltà che ciò comportava, al mio desiderio di scegliere una via più facile, anche a costo di sacrificare quella stessa autenticità nell’espressione e nella comunicazione. Pensavo anche che sarebbe risultato chiaro che il fronte del bene - quello dell’autenticità nell’espressione di sé e nella comunicazione - prevale alla fine, ma soltanto al prezzo di un certo sacrificio di sé: il laboratorio di IA che sta dietro al prodotto ora conosce i miei segreti e può monetizzarli come vuole; e ha anche, in modi di cui potrei non essere nemmeno consapevole, inevitabilmente influenzato la mia stessa scrittura nel saggio.

Nella versione iniziale, il modo in cui ho mostrato che il fronte del bene prevale consisteva, letteralmente, nel far aumentare progressivamente la proporzione del mio linguaggio rispetto a quella del modello di IA; eppure, alla fine, ho comunque lasciato l’ultima parola al modello. L’obiettivo era quello di far trasparire la sua continua influenza anche in quest’ultima versione; il modello ha assorbito tutto ciò che ho scritto, fino all’ultimo momento. 

Il motivo per cui ho cambiato il finale, in definitiva, è che dopo la pubblicazione, mi sono accorta che gran parte delle reazioni era semplicemente del tipo: «Wow, che saggio interessante! Forse i modelli di intelligenza artificiale sanno davvero scrivere!» Ho pensato di essere stata, forse, troppo allusiva nella prima versione, lasciando troppo implicita una parte del sottotesto. Nella nuova versione, l’ultima sezione del saggio è interamente mia; lǝ lettorǝ può quindi riconoscere che esiste un’intera sezione - la più autentica - che di fatto viene negata al modello. Il fronte del bene prevale in modo più netto; il saggio, in questa versione, forse è meno sfumato, ma più chiaro. 

3. Ricostruendo la storia di un evento traumatico, che per sua natura tenta di sfuggire alla memoria, Ghosts si può avvicinare a ciò che in ambito clinico viene definito “scaffolding”, il sostegno di una persona “più esperta” che ne aiuta una “meno esperta” a effettuare un compito che da sola non riuscirebbe a svolgere. Qui, però, il lavoro di ricostruzione narrativa è avvenuto non per mezzo di una persona fisica in carne e ossa, ma dialogando con un chatbot di IA generativa. Ma da questo sembra proprio nascere il valore artistico del testo: dal rifiuto delle falsità che la macchina continuava a generare, e dalla riscrittura a cui ti spingevano. Questi strumenti, da un certo punto di vista, sembrano quasi fatti per insinuarsi nel privato e nell’intimità. È un aspetto di cui essere consapevoli mentre li si usa? E che cosa comporta per l’utente?

Sì. Uno degli obiettivi del saggio era quello di costringere le persone a confrontarsi con ciò che resta non detto: il fatto che, condividendo tutte queste informazioni profondamente personali e queste riflessioni su me stessa con un chatbot basato sull’IA, le stessi condividendo anche con l’entità che sta dietro al chatbot, un laboratorio di IA che, già all’epoca in cui pubblicai il saggio, moltǝ (me compresa) presumevano sarebbe diventato un giorno un’organizzazione a scopo di lucro. OpenAI ha recentemente annunciato che integrerà annunci pubblicitari nelle risposte di ChatGPT. Qui diventano evidenti le implicazioni della mia decisione di elaborare il lutto attraverso un chatbot; l’azienda che sta dietro a quel chatbot può ora usare queste informazioni per influenzarmi.

4. Con Ghosts si ha l’impressione di essere entrati in un territorio letterario nuovo, che eccede anche quello della letteratura elettronica. È un testo in cui la macchina avrebbe potuto restare nascosta: nulla, nella pagina, rivela da sé che cosa hai scritto tu e che cosa ha generato GPT-3, e senza la nota che apre il testo, in cui dichiari quali frasi sono tue, quali della macchina e quali interventi sono stati fatti sull’output, lǝ lettorǝ non avrebbe avuto modo di riconoscere quella presenza. Quella nota è una cornice esterna all’opera o ne è parte integrante? In altre parole: senza quella dichiarazione, Ghosts sarebbe ancora Ghosts?

Quella dichiarazione, per me, è una parte cruciale dell’opera. Sarebbe impossibile leggere il saggio come spero che venga letto, cioè criticamente, senza sapere che parte del testo è stata generata da un predecessore di un chatbot aziendale.

(per gentile concessione di Vauhini Vara)

5. Nel tuo romanzo d’esordio L’immortale King Rao (2022; Guanda 2024), finalista al Premio Pulitzer 2023, la voce narrante è la diciassettenne Atena, figlia di King Rao: il suo cervello è collegato a internet grazie a una tecnologia sperimentale, l’Harmonica, e attraverso il suo sviluppo successivo, il Clarinet, ospita i ricordi del padre. Da un lato, affidare la storia a un personaggio la cui memoria è tecnicamente non sua sembra quasi “fingere” che la narratrice sia una sorta di LLM (Large Language Model) “potenziato”; dall’altro, il desiderio del miliardario di raggiungere l’immortalità preservando i propri ricordi nel cervello della figlia ricorda da vicino quello di miliardari del nostro tempo, da Larry Page a Elon Musk. Nella tua opera, tecnologie un tempo soltanto “immaginate” diventano parte della realtà quotidiana o mete di un futuro non più così fantascientifico. La diffusione di queste tecnologie, non soltanto l’IA, sta già modificando e ridefinendo i nostri immaginari?

Per fortuna, non disponiamo ancora di una tecnologia che permetta alle persone di impiantare i propri ricordi nella mente di qualcun altrǝ! Detto questo, sì, è significativo che le persone più ricche e potenti del mondo abbiano individuato questo come un problema tecnico che vorrebbero risolvere. Vale la pena chiedersi perché, per loro, risolvere questo problema abbia tanto valore: la risposta è terrificante.

6. Nel tuo articolo apparso sul “New Yorker”, What if Readers Like A.I.-Generated Fiction?, hai mostrato come ǝ lettorǝ, anche in possesso di un alto grado di formazione, stiano cominciando ad avere difficoltà a riconoscere quali (brevi) testi siano stati generati artificialmente, specialmente quando i modelli sono stati addestrati a imitare la voce di unǝ scrittorǝ. Una situazione che sembra quasi rendere profetiche le parole di Roland Barthes sulla “morte dell’autorǝ”. Ipotizzando, per gioco, che in futuro i modelli di IA generativa riescano a produrre grande letteratura, dovrebbero tremarci le gambe? In Gli androidi sognano pecore elettriche?, Rick Deckard non riesce a rallegrarsi del talento dell’androide Luba Luft: quando l’altro cacciatore di taglie, Phil Resch, la “ritira” (cioè la uccide), commenta che il pianeta avrebbe potuto godere di una «cantante magnifica», definisce folle quello che è appena accaduto e dichiara di non voler più continuare il proprio lavoro. Tornando alla domanda di poco fa: cosa significherebbe riconoscere valore artistico a un’entità non-umana?

Credo che, prima ancora, dobbiamo decidere come definire l’arte. Un favo è arte? Le immagini dei “Pilastri della Creazione” realizzate dal telescopio spaziale James Webb sono arte? Il risultato di una ricerca su Google è arte? Che cosa possono dirci le nostre risposte a queste domande sulla possibilità di considerare arte i testi o le immagini generati dall’intelligenza artificiale? Penso che a queste domande si possano dare risposte sia individuali sia collettive; penso anche siano domande a cui è difficile rispondere. Da un lato, un favo è bello ed è costruito con un’intentenzione; dall’altro, il suo scopo principale è funzionale e chi lo costruisce non è un essere umano. Affrontando ciascuna di queste domande, possiamo stilare una sorta di elenco di fattori che associamo all’arte. La bellezza è necessaria? Ci deve essere un’intenzione? Il coinvolgimento umano è necessario? È necessario che non siano coinvolte aziende?

7. Quando si parla di IA generativa, si finisce spesso per concentrarsi su argomenti ricorrenti: se le macchine sappiano scrivere davvero bene, se siano creative, se finiranno per prendere il posto di chi svolge professioni artistiche, e poi le questioni etiche e l’impatto ambientale di queste tecnologie. Domande necessarie e imprescindibili, con il rischio però di perdere di vista qualcosa di altrettanto importante: le trasformazioni profonde della nostra cultura che si sono messe in moto. In questo nuovo panorama in cui entità non-umane partecipano alla produzione artistica, ci sono aspetti cruciali a cui non prestiamo la necessaria attenzione?

L’output dei modelli di intelligenza artificiale - tutto questo «slop» (massa di contenuti di bassa qualità generati in serie, ndr) - sta già invadendo internet e persino il mondo offline. Un aspetto che, a mio avviso, merita maggior attenzione è il modo in cui, se ogni espressione di sé e comunicazione riflette i valori e gli obiettivi di chi si esprime, ne consegue che l’enorme quantità di testo e immagini che oggi ci troviamo davanti rappresenta i valori e gli obiettivi di un numero ristrettissimo di aziende tecnologiche ricche e potenti, e dei loro finanziatori.

Vauhini Vara è l’autrice di Searches: Selfhood in the Digital Age, vincitore del Porchlight Business Book Award e nominato tra i dieci migliori libri dell’anno da Publisher’s Weekly. Tra i suoi libri precedenti figurano This Is Salvaged, che è stato inserito nella rosa dei candidati allo Story Prize e ha vinto l’High Plains Book Award, e The Immortal King Rao, finalista al Premio Pulitzer e vincitore del Colorado Book Award. È anche giornalista e collabora con testate quali Businessweek, The Atlantic e The New Yorker. Offre consulenza a scrittorǝ impegnatǝ in progetti editoriali di ampio respiro attraverso il Book Project del Lighthouse Writers Workshop e la Look2Justice Free Thinker Book Fellowship.