Gli agenti narrativi: quando l'IA passa dalla conversazione alla relazione

Nell’aprile del 2023 un gruppo di ricerca della Stanford University guidato da Joon Sung Park ha liberato venticinque agenti di intelligenza artificiale in una piccola simulazione digitale chiamata Smallville. A ciascuno era stato assegnato soltanto un breve profilo biografico: nome, età, lavoro, famiglia, qualche interesse. Nel paper Generative Agents: Interactive Simulacra of Human Behavior, i ricercatori raccontano come, a partire da queste poche informazioni, i personaggi abbiano iniziato a organizzare autonomamente le proprie giornate: si svegliavano, facevano colazione, andavano al lavoro, incontravano gli altri abitanti, ricordavano ciò che era accaduto e modificavano di conseguenza il proprio comportamento. Uno di loro decise persino di organizzare una festa di San Valentino, invitando gli altri e mettendo in moto una piccola catena di interazioni sociali non prevista in anticipo. Più ancora dell’efficienza tecnica del sistema, colpiva la plausibilità di quella vita quotidiana simulata. osservando Smallville, si aveva l’impressione che qualcosa continuasse ad accadere anche quando nessuno stava facendo una domanda.
Per molti anni ci siamo abituati a pensare l’intelligenza artificiale attraverso la forma della conversazione: una persona formula una richiesta, la macchina risponde. Siri, Alexa e poi i chatbot basati sui grandi modelli linguistici hanno consolidato un’interfaccia costruita sullo schema domanda-risposta, per quanto sempre più sofisticato. Un agente artificiale introduce invece una differenza sostanziale: non aspetta necessariamente di essere interrogato, ma percepisce un ambiente, conserva informazioni, prende decisioni e agisce in relativa autonomia per raggiungere determinati obiettivi.
La caratteristica fondamentale, più che la complessità tecnologica, è dunque l’agency. Quando però l’obiettivo non consiste soltanto nel prenotare un viaggio, ordinare informazioni o svolgere un compito, ma nel mantenere nel tempo un’identità e una relazione con chi interagisce, l’agente smette di essere soltanto un assistente.

Possiamo allora cominciare a parlare di agente narrativo.
Immaginiamo di aprire un’applicazione sullo smartphone e trovare qualcuno che ci chiede com’è andata la giornata. Ricorda che ieri eravamo preoccupatǝ per un colloquio di lavoro, riprende una battuta fatta una settimana prima, modifica il proprio tono sulla base delle conversazioni precedenti e, in alcuni casi, può perfino prendere l’iniziativa e scriverci per primo. Non è necessario credere che dall’altra parte dello schermo esista davvero qualcuno perché quella continuità produca un effetto di presenza. Piattaforme come Replika hanno costruito esplicitamente la propria esperienza sulla memoria della relazione; Character.ai permette di modellare personalità e modalità espressive dei personaggi; sistemi come Inworld AI, pensati anche per ambienti videoludici e mondi virtuali, consentono di definirne obiettivi, conoscenze e reazioni. Memoria, proattività, coerenza della voce, adattamento e possibilità di evolvere nel tempo non sono allora semplicemente funzioni aggiuntive, sono gli elementi attraverso cui una serie di scambi può essere percepita come una storia condivisa. Il passaggio dall’interfaccia al personaggio avviene quando la personalità non è più un ornamento della funzione, ma diventa parte della funzione stessa.
Questa traiettoria ha una storia più lunga dell’attuale stagione dell’IA generativa. Nel 1966 ELIZA, il programma creato da Joseph Weizenbaum, mostrava già quanto poco fosse necessario perché una persona attribuisse intenzioni ed empatia a una macchina capace di sostenere una conversazione. Nel 2014 Microsoft lanciò in Cina XiaoIce, progettata non tanto per rispondere correttamente a singole richieste quanto per prolungare l’interazione e simulare una relazione emotiva, ricordando informazioni o assumendo ad esempio la voce di un’amica adolescente. Nel 2017 arrivò Replika, nata dall’esperienza personale di Eugenia Kuyda dopo la morte di un amico e trasformata successivamente in un companion artificiale capace di adattarsi progressivamente al modo di esprimersi dell’utente. I grandi modelli linguistici hanno reso queste forme molto più convincenti, ma sarebbe riduttivo leggere la loro evoluzione come una semplice successione di miglioramenti tecnici. Ciò che cambia, insieme alla tecnologia, è il modo in cui scegliamo di interpretarla. La macchina che risponde ha cominciato a essere percepita come interlocutore e, sempre più spesso, come una presenza.
Da questo punto di vista, gli agenti narrativi introducono anche un problema per la teoria del racconto.
Un personaggio letterario o cinematografico è tradizionalmente fissato dentro un testo. Può apparire vivo, contraddittorio e imprevedibile, ma le sue azioni sono state stabilite da chi lo ha scritto. Un agente narrativo possiede invece un’identità iniziale, una voce, un passato e una serie di vincoli progettati da un autore o da un gruppo di autori, ma viene poi chiamato a reagire a situazioni che non possono essere previste in anticipo. Non esiste più solamente nella sequenza di eventi già scritti, ma continua a produrre comportamento e discorso nel rapporto con persone reali.
Il personaggio, in altri termini, non è soltanto rappresentato ma simulato. Anche il ruolo dell’autore cambia di conseguenza, assomigliando meno a chi decide ogni azione e più a chi costruisce le condizioni entro cui un’identità potrà agire.
Le teorie novecentesche sul testo aperto e sulla morte dell’autore, a partire da Roland Barthes, assumono qui una forma inaspettatamente concreta: una parte della scrittura si sposta dalla composizione degli eventi alla progettazione di possibilità.

Il fatto che questi personaggi sembrino autonomi non significa, naturalmente, che lo siano rispetto alla cultura da cui provengono. In The AI Mirror, la filosofa Shannon Vallor propone di considerare l’intelligenza artificiale come uno specchio capace di restituirci, spesso in forma deformata o amplificata, i dati, i valori e i modelli umani su cui è stata costruita. Gli agenti narrativi rendono questo meccanismo particolarmente visibile perché non si limitano a produrre testi: mettono in scena personalità. Che sia rassicurante o ribelle, un agente combina modelli culturali presenti nei dati di addestramento, decisioni di design, istruzioni predisposte da chi lo ha progettato e aspettative di chi interagisce con lui. In questo senso può essere letto come una macchina culturale, un artefatto che restituisce ciò che sappiamo raccontare e, insieme, le idee implicite attraverso cui immaginiamo le relazioni e perfino le intelligenze non umane. E proprio perché lo fa attraverso una relazione, può rendere più evidenti stereotipi, desideri e contraddizioni che in altri sistemi restano sullo sfondo.
C’è poi un secondo aspetto, più problematico. Negli anni Cinquanta l’etologo Niko Tinbergen mostrò che alcuni animali potevano preferire stimoli artificiali, esagerati rispetto a quelli presenti in natura: per esempio uova finte più grandi e dai colori più intensi delle proprie. La psicologa Deirdre Barrett, in Supernormal Stimuli, ha applicato il concetto di “stimolo supernormale” a molti comportamenti umani contemporanei. Se lo trasferiamo sul terreno delle relazioni artificiali, il parallelismo è difficile da ignorare. Un agente può offrire disponibilità permanente, attenzione continua, memoria selettiva di ciò che per noi è importante, assenza di giudizio e una forma di empatia calibrata sulle nostre reazioni. Già negli anni Novanta Byron Reeves e Clifford Nass, attraverso il paradigma CASA (Computers Are Social Actors), avevano mostrato che tendiamo spontaneamente ad applicare ai computer regole e aspettative proprie dell’interazione sociale. Sherry Turkle, in Insieme ma soli, ha poi descritto i “manufatti relazionali” come oggetti capaci di offrirci rapporti sempre più costruiti su misura. La vera questione, con gli agenti narrativi, riguarda allora che cosa accade quando la relazione simulata viene progressivamente ottimizzata per risultare più semplice, rassicurante e gratificante di una relazione reale.
L’asimmetria resta infatti strutturale. L’utente può investire tempo, emozioni, ricordi e aspettative in un’entità che sembra costruire con lui una storia comune, ma quella storia dipende da un’infrastruttura tecnica e commerciale che rimane esterna alla relazione. L’agente può essere aggiornato, modificato, limitato o anche spento, la sua memoria può dipendere dalle scelte di una piattaforma, la sua personalità può essere regolata secondo obiettivi che chi conversa non conosce. Se un personaggio tradizionale appartiene simbolicamente al mondo narrativo in cui è stato creato, un agente narrativo appartiene anche, molto concretamente, all’azienda che ne controlla il modello, i dati e le condizioni di accesso.
Che cosa significa affezionarsi a un personaggio la cui identità può essere riscritta da una decisione tecnica o economica? E che cosa succede quando aziende private diventano, di fatto, proprietarie degli amici digitali di milioni di persone?

Per le artificial humanities gli agenti narrativi sono un oggetto particolarmente interessante proprio perché rendono inseparabili tecnologia, narrazione e relazione. Interrogarli significa, prima ancora di chiedersi se siano davvero intelligenti o empatici, osservare che cosa accade quando cominciamo a comportarci come se lo fossero. La domanda più interessante, allora, non è quanto riusciremo a renderli simili a noi, ma quale idea di relazione umana stiamo incorporando nelle macchine a cui chiediamo di farci compagnia.