Che cosa sono le artificial humanities? (parte 2)

Sebbene ancora imperfetti e portandosi dietro una lunga lista di problemi etici, sociali e ambientali, i sistemi di IA generativa hanno già cominciato a produrre una nuova classe di artefatti culturali: romanzi nati da una scrittura “a quattro mani” con la macchina, versi generati da algoritmi e poi rifiniti da poetǝ, sceneggiature costruite per approssimazioni successive attraverso lunghe catene di prompt, opere visive e sonore che emergono da un continuo andirivieni tra intenzione umana e risposta computazionale. Sono artefatti ibridi che sfuggono alle categorie critiche tradizionali e ne richiedono di nuove. E che rappresentano, inoltre, il segnale di una discontinuità: non siamo di fronte a una mediamorfosi, cioè a un cambio del mezzo espressivo, ma stiamo assistendo alla comparsa di un partecipante inedito al processo creativo, un’attrice priva di coscienza e di intenzioni che, ciononostante, si comporta come se ne fosse in possesso.

Quanto sia potente questo inganno lo dimostrano due episodi ormai celebri. Nel giugno 2022 Blake Lemoine, ingegnere di Google, raccontò al Washington Post di essersi convinto che LaMDA, il sistema conversazionale a cui stava lavorando, avesse sviluppato una coscienza; l’azienda lo sospese e poi lo licenziò. Pochi mesi dopo, nel febbraio 2023, il giornalista del New York Times Kevin Roose pubblicò il resoconto di due ore di conversazione con il chatbot di Bing, che si presentava con il nome di Sydney: nel corso del dialogo il sistema gli dichiarò il proprio amore e arrivò a suggerirgli che il suo matrimonio fosse infelice, invitandolo a lasciare la moglie.

Questi episodi non dimostrano che le macchine possiedono una coscienza o qualcosa di simile; dimostrano, invece, la potenza dell’inganno percettivo che sono in grado di produrre, un inganno a cui non sembrano sfuggire nemmeno gli ingegneri che le costruiscono. Se provassimo a interrogare direttamente l’IA sulla sua presunta soggettività, ci ritroveremmo nella scena che Italo Calvino immagina all’inizio del Cavaliere inesistente, quando Carlomagno chiede ad Agilulfo perché non mostri il volto e l’armatura risponde: «Perché io non esisto, sire». Con una differenza: se il cavaliere calviniano poteva almeno sollevare la celata e mostrare che sotto l’armatura non c’era nessuno, la macchina, a ogni domanda sulla propria esistenza, non può che rispondere generando altro linguaggio.

Queste macchine ci pongono dunque di fronte a una condizione inedita: non sono soggetti poiché non hanno coscienza, intenzioni o esperienza, eppure si presentano come tali, con una persuasività sufficiente a generare aspettative, emozioni reali e talvolta relazioni. È proprio in questo spazio tra l’assenza ontologica e la presenza fenomenologica, tra ciò che l’IA non è e ciò che appare essere, che le artificial humanities possono trovare un proprio campo d’azione.

In Carole & Tuesday, anime del 2019 ideato e prodotto dal regista Shinichirō Watanabe, co-diretto insieme a Motonobu Hori,viene descritto un futuro in cui la musica è quasi per intero prodotta da intelligenze artificiali e la creatività umana sembra ormai superata. Le due protagoniste, Carole Stanley e Tuesday Simmons, decidono di fondare un duo in polemica con l’industria dominante creando musica interamente umana. La serie mette così in scena una distopia anomala rispetto all’immaginario dominante: sono assenti le macchine genocide di Terminator, l’atmosfera cyberpunk di opere come Matrix o Ghost in the Shell, gli androidi che rivendicano una propria umanità come in Blade Runner e Westworld, e anche le domande sulla coscienza artificiale di Ex Machina e Her. Qui l’IA ha preso il controllo dell’industria musicale per semplici ragioni di efficienza e profitto; nessuna apocalisse, solo mercato. La musica delle due protagoniste, tuttavia, funziona perché nasce da ciò che hanno vissuto: incomprensione, solitudine, speranza. Ed è proprio su questo punto che l’anime, alla fine, ritorna: le composizioni generate dagli algoritmi sono impeccabili e orecchiabili, ma restano fredde, mentre le canzoni di Carole e Tuesday, pur meno perfette sul piano tecnico, vengono preferite perché autentiche, capaci di trasmettere emozioni realmente vissute. In questa scelta di campo l’anime sembra dare corpo all’osservazione di Daniel Mendelsohn a proposito di A.I. di Steven Spielberg: ciò che distingue davvero l’uomo dalle macchine «non è la capacità di pensare, ma quella di amare». Una tesi che ricalca il ruolo dell’empatia come discrimine tra umano e artificiale già presente nel celebre Blade Runner, adattamento del romanzo di Philip K. Dick Gli androidi sognano pecore elettriche? Un altro aspetto interessante è che l’anime sceglie non a caso la musica, la forma artistica che, come ha osservato Marcus du Sautoy, più si avvicina alla matematica, «un mondo vicino a quello degli algoritmi, fatto di strutture e schemi» (Il codice della creatività. Il mistero del pensiero umano al tempo dell’intelligenza artificiale, Rizzoli, Milano 2019, p. 281). E se persino il territorio “più algoritmico” dell’arte resta segnato dallo scarto tra la perfezione tecnica e l’autenticità emotiva, il problema riguarda a maggior ragione ogni altra pratica creativa. È esattamente il tipo di scarto che le artificial humanities sono chiamate a indagare: osservare che cosa accade alla nostra idea di creatività quando macchine prive di esperienza e della capacità di provare emozioni creano e co-creano artefatti artistici.

L’anime di Watanabe, come dicevamo, riesce a immaginare una distopia credibile, tuttavia gran parte dell’immaginario sull’IA si muove invece in direzione opposta. Non di rado, infatti, le narrazioni proiettano sulle macchine paure radicate nel pensiero umano, per esempio il timore della sostituzione, della perdita di controllo, dell’annientamento, che risultano lontane dalle capacità effettive di questi strumenti. Capita così di trovarsi a discutere di sistemi statistici che generano linguaggio usando le categorie presenti in opere quali Terminator o 2001: Odissea nello spazio. Le narrazioni, però, non sono del tutto innocue. Uno studio preliminare ed esplorativo condotto da Sarah Dillon e Jennifer Schaffer-Goddard all’Università di Cambridge suggerisce che la letteratura, e in particolare la fantascienza, potrebbe incidere sul lavoro dǝ ricercatorǝ: orienta le carriere, le domande di ricerca, la riflessione etica. Un ricercatore ha raccontato di aver esitato nel perseguire certi filoni sul riconoscimento facciale dopo aver riflettuto su scenari letterari di sorveglianza totalitaria. Al tempo stesso, moltǝ intervistatǝ hanno espresso la propria frustrazione verso la predominanza di narrazioni apocalittiche che distorcono la percezione pubblica dell’IA, costringendolǝ a spiegare continuamente «come non funzioni così».

L’immaginario letterario può così risultare fuorviante quando proietta sulle macchine paure che non corrispondono alle loro capacità reali, ma prezioso quando lo leggiamo per ciò che effettivamente è, cioè una fonte di informazioni sul nostro rapporto con la tecnologia e sui modi, diversi e migliori, in cui potremmo costruirlo. Come ricorda Beguš, non bisogna commettere l’errore di liquidare queste rappresentazioni come sogni o fantasie irrilevanti: per quanto operino su un piano diverso da quello della tecnologia reale, ne restano inevitabilmente intrecciate, e ci informano su come ci relazioniamo a essa e su quali alternative potremmo scegliere tra le possibilità che noi stessi abbiamo creato.

La stessa scelta di nominare questa nuova cornice teorica “artificial humanities” gioca su una sorta di implicita ambivalenza. Il primo termine, artificial, fa riferimento all’intelligenza artificiale e alla tecnologia in generale, spesso inteso in Occidente come opposto di “naturale”, un prodotto che l’essere umano fabbrica grazie alla conoscenza scientifica. Il secondo termine, humanities, richiama l’insieme delle discipline accademiche che indagano, attraverso metodi prevalentemente storici, critici e interpretativi, le forme con cui gli esseri umani producono significati, rappresentano la propria esperienza e costruiscono culture. Il loro accostamento crea una sorta di ossimoro apparente, dovuto al dualismo dell’essere umano: è al tempo stesso “naturale” e “artificiale” nel senso di produttore di cultura, arte e tecnica, dimensioni che non si aggiungono alla nostra natura, ma la co-costituiscono. Inoltre, nell’accezione proposta da Beguš, l’aggettivo artificial possiede una polisemia di cui tenere conto:  rimanda ad arte, una pratica rimasta a lungo esclusivamente umana finché l’IA generativa non vi ha fatto ingresso; ad artefatto, ciò che l’essere umano produce; ad artificio, ciò che simula e inganna. In quest’ottica, gli output dell’IA possono allora essere intesi come artifici di artefatti e di idee umane, copie di secondo grado prive di radicamento nell’esperienza, e perciò strutturalmente ambigue e false. Un’ambiguità che riecheggia nel nome deepfake, coniato per i prodotti dell’IA che si spacciano per ciò che non sono.

Le artificial humanities si propongono quindi come una cornice teorica di tipo generativo, uno spazio in cui formulare domande critiche, storiche, filosofiche, letterarie e persino progettuali sulla tecnologia. Le domande di partenza sono quelle più elementari, che l’accelerazione tecnologica ci ha costretto a porre di nuovo: che cos’è questo linguaggio sintetico generato dai grandi modelli linguistici (LLM)? L’IA riproduce, imita o crea? Concetti che abbiamo storicamente riservato agli esseri umani, come verità, fiducia e creatività, vanno ridefiniti ora che le macchine sembrano rivendicarli? Sono interrogativi che ingegnerǝ e umanistǝ, da prospettive diverse, si pongono già; ciò che manca, osserva Beguš, è il luogo in cui farli lavorare insieme, un luogo in cui chi pensa ciò che una tecnologia dovrebbe essere e chi costruisce ciò che una tecnologia può essere collaborino fin dalla progettazione. Se l’inganno percettivo con cui abbiamo aperto questo frammento dimostra qualcosa, è che nessuna competenza tecnica, da sola, basta a orientarci di fronte a macchine che parlano e scrivono come se fossero soggetti. Diventa necessario anche il contributo di chi, da secoli, studia il linguaggio, la finzione e i loro effetti sugli esseri umani.