“Letteratura e Intelligenza artificiale: un dialogo interdisciplinare”

Vitale Alessandro, Lettere moderne, 2140678

“La miglior grammatica per analizzare il

mondo è quella del cambiamento, non
della permanenza”
Carlo Rovelli
L’evento “Letteratura e Intelligenza artificiale: un dialogo interdisciplinare”, tenutosi il 16
settembre 2024 nell’aula di Archeologia presso il Dipartimento di Scienze dell’antichità, è stato
un convegno di formazione, di ricerca, di scambio e di scontro tra due settori disciplinari
all’apparenza distanti e contrastanti. Durante l’incontro, docenti e ricercatori hanno presentato
le trame delle loro ricerche, dei loro studi e dei loro progetti, sicuramente innovativi e
riguardanti l’intersezione tra la letteratura e le intelligenze artificiali, sottolineando il rapporto
di cooperazione e collaborazione, non di dominio dell’una sull’altra al fine di ottenere risposte
alle quali, procedendo su strade separate, le due materie non arriverebbero.
In prima istanza, si è partiti dalla letteratura utilizzando l’intelligenza artificiale come
strumento di indagine e analisi dei testi letterari, successivamente sono state presentate
descrizioni, modelli e meccanismi tipici delle intelligenze artificiali all’interno della letteratura
per arrivare alla valutazione dei rischi personali, sociali, politici, etici, morali ed estetici che
l’influenza artificiale ha o che potrebbe avere. Una delle prime esposizioni ha trattato il Large
Model Language (LLM), uno o più modelli linguistici, un sistema di intelligenza artificiale che
produce testo probabilisticamente, token dopo token, utile anche nella comprensione e
nell’analisi testuale. Un'intelligenza artificiale basata proprio sull’LLM è, forse la più nota,
Chat GPT, ed è quella utilizzata nelle presentazioni del convegno, ad esempio, per l’analisi di
un romanzo. Il relatore da “in pasto al sistema” in allegato un file del celebre romanzo 1984 di
Orwell, eliminando i metadati del testo che farebbero riconoscere subito l’opera (titolo,
autore...), dunque il sistema legge il testo senza sapere informazioni generali, anche se è molto
probabile che abbia già letto il romanzo. Dialogando e interrogando la macchina sul romanzo,
otteniamo le stesse risposte che darebbe un individuo: risposte in linguaggio naturale e non
organizzate, generate da informazioni elettroniche comprese implicitamente ed esplicitamente
dal sistema. Questo significa che il sistema lavora a due livelli di comprensione: 1) implicita,
cioè il sistema rielabora risposte da forme latenti e non interpretabili e 2) esplicita, cioè la
macchina collega le informazioni a forme di conoscenza verificabile. Nonostante alcune
risposte non molto esaustive, il LLM da informazioni buone, grazie alla sua estrema potenza
di leggere, senza memorizzare centinaia di migliaia di romanzi contemporaneamente e sulla
base di questi elaborare una risposta. I limiti più rilevanti del LLM sono quello di non
comprendere (e questo verrà fuori anche in altre relazioni) il significato della risposta finale e
quello di non intento comunicativo o meglio ripetere sulla base di pattern di parole apprese
durante l’addestramento. La proposta fatta per supplire a questi limiti è estremamente
interessante e unisce i due macro ambiti in quistione al meglio: accompagnare alla rete neurale
della macchina, una rete semantica, inserendo una parte interpretativa nel sistema per
comprendere come arriva, come elabora e se capisce veramente la risposta che fornisce
all’utente. La grande lezione della relazione è che oggi è possibile estrarre testo o compiti di
analisi letteraria con il LLM, ma è sempre necessario verificare la correttezza e la struttura del
testo generato: si tratta di uno strumento di supporto e arricchimento che non sostituisce le
capacità dell’individuo. Stimolante è stato l’intervento che tentava, con ottimi risultati, di dare
significatività ad un LLM tramite la letteratura, tramite analogia e confronto tra teorie, tra
innovazione e tradizione, evidenziando il carattere esistenziale di alcuni temi, ai quali
l’intelligenza artificiale potrebbe essere una risposta o un punto di partenza per rispondere. Il
LLM potrebbe essere visto come un sistema che modellizza la semiosfera lotmaniana, per la
modalità di generazione della risposta e per la capacità potenzialmente infinita di
apprendimento. Come la semiosfera, il LLM è considerabile un intelletto collettivo, uno spazio
dinamico e plurale, dove vengono prodotte risposte, dunque cultura partendo dalla cultura
stessa. Adottando questa prospettiva la risposta che il sistema genera ad una nostra domanda è
stupefacente perché la richiesta è fatta dall’utente storicizzato, calato in una sola cultura in un
solo arco temporale mentre la risposta della macchina è prodotta da una “superposizione” di
prospettive culturali, “lette” nell’apprendimento. Il LLM potrebbe essere considerato nel suo
compito principale anche come un lettore modello, secondo la teorizzazione di Umberto Eco
in “Lector in Fabula”, cioè un lettore che conosce l’enciclopedia culturale tra le righe del testo,
le implicazioni narrative, le passeggiate inferenziali, intese come capacità di prevedere o di
immaginare una sequenza di testo sulla base delle precedenti, funzioni che il LLM svolge.
In seguito, il convegno ha spostato la sua attenzione sul contesto dell’intelligenza artificiale
generativa, inteso come tutto ciò che si colloca tra le risposte fornite all’utente e
l’addestramento della macchina. Gli elementi principali del contesto dell’AI sono sicuramente
i System Prompts, cioè una serie di istruzioni date a un LLM prima che questo venga in
interazione con gli utenti, al tramonto dell’addestramento. I System Prompts sono considerabili
regole comportamentali di espressione della macchina, al fine di indirizzare la macchina
all’utilizzo di un linguaggio consono e un lessico rispettoso, ricordando che il sistema è un
enorme quantità di matrici che produce una risposta generando un token dopo l’altro secondo
meccanismi statistico- probabilistici e conoscendo tutto potrebbe cadere in banali errori ed
“offese”. I System prompts sono per la macchina ciò che l’educazione e la formazione, acquisiti
anche tramite esperienza sono per l’uomo. Analizzando gli ingredienti del prompt di Gemini,
un LLM di Google AI leggiamo ad esempio: rispondi nella lingua dell’utente, non dare pareri
personali, non utilizzare parole razziali e discriminatorie, nessuna consapevolezza ecc...
Notiamo che i prompts dati alla macchina cercano di limitare o meglio di non far imitare al
sistema comportamenti umani o autocoscienti. Orientando le risposte della macchina è molto
probabile che i sistemi abbiano gerarchie di System Prompts per guadagnare in termini di
efficienza. La rilevanza di queste “istruzioni” fornite alla macchina sottolinea l’impegno di
produttori e di sviluppatori di AI verso la sicurezza e l’etica in questo campo all’apparenza
indomabile: a supporto di ciò, un esempio concreto è la Costitutional AI di Claude di
Anthropic, un’intelligenza artificiale supervisiona altre IA, impedendo che queste restituiscano
agli utenti risultati “dannosi” ed “offensivi". Un’altra prova a conferma dello sviluppo e
all’utilizzo dell’IA verso una direzione sicura, etica e rispettosa dei diritti e valori umani è AI
act, un regolamento fresco dell’Unione Europea, pubblicato in Gazzetta Ufficiale Europea il
13 giugno di quest’anno.
Ci spostiamo adesso, dal funzionamento del sistema al suo uso pragmatico e coinvolgente a
pieno la letteratura, soprattutto nella prospettiva editoriale. La piattaforma in quistione è
Wattpad, un prodotto della cultura convergente che realizza appieno un suo carattere di forma
che è quello della transmedialità, grazie all’algoritmo del sistema. Wattpad invita gli utenti a
scrivere e/o leggere storie transmediali, dove la narrazione è al centro di tutto, incanalata
attraverso diversi media (libri, cinema, teatro...). L’algoritmo della piattaforma personalizza il
contenuto dell’utente in base ai temi, agli autori, ai generi e alla cifra stilistica che il lettore-
utente preferisce fornendo collateralmente informazioni all’autore-utente. Il risultato è il
miglioramento dell’interazione del rapporto lettore-autore, di cui Wattpad rappresenta l’anello
di congiunzione. Un'altra funzione del sistema che si sta trattando è quello di mettere in contatto
utenti che hanno svolto simili letture, lo stesso vale per gli autori al fine di raccomandare letture
ai primi e modo di scrivere ai secondi. Wattpad si basa sulla perfetta triangolazione tra lettore,
algoritmo e autore, per questo rappresenta lo specchio dell’evoluzione di un certo tipo di
letteratura e l’inevitabile modifica del canone letterario. Prendiamo come caso studio di
Wattpad, la lettura “Il fabbricante di lacrime” di Erin Doom: tralasciando alla gradevolezza o
meno della storia in quanto rappresenta un non-dato, è interessante analizzare la dinamica del
successo della storia, progettata in maniera transmediale con interventi strutturali e tematici
dell’algoritmo, che in un secondo momento ha consigliato il romanzo ai giusti utenti
permettendo all’autore e all’opera di spostarsi sul piano prima dell’editoria e poi della
cinematografia. Fenomeni del genere mettono l’accento sulla sovranità del lettore
nell’ecosistema digitale tra le altre componenti del sistema, per meglio dire industria testuale
(autore, editore, lettore): dall’autopubblicazione alla critica. Il rischio è quello, però, di trovarsi
di fronte ad un lettore-sovrano pigro, poco illuminato cioè non selettivo, incapace di scegliere
e discernere i testi e i contenuti che vanno verso di lui. Aspetti del tipo sono portati alla luce da
un’altra relazione che vede il dialogo tra una filologa e l’autore artificiale, nello specifico Chat
GPT, che rivela sicuramente criticità ma anche potenziali meccanismi didattici innovativi e
strade di applicazione. Dallo scambio di battute con il sistema, avendo presente l’esperienza e
il tipo di formazione del richiedente, si ha l’impressione che il LLM risponda come farebbe
uno studente ad un professore, che non ha studiato approfonditamente durante
un'interrogazione. Alcune sequenze di risposta sono contraddittorie ma entrando nel merito il
sistema dà segni di autoapprendimento o meglio correzione dei dati precedentemente forniti.
Viene chiesto a Chat GPT di scrivere una poesia e il testo generato risulta pieno di immagini
leopardiane ed echi pascoliani e dannunziani, un prodotto banale, esito della mescolanza e della
rimodulazione parziale dei temi, dello stile, delle figure di poeti assai rilevanti. Poi, chiedendo
l’analisi metrica della poesia generata, risulta che il sistema non è in grado di contare le sillabe
e illustrare le rime o figure retoriche che ha usato: ha creato una poesia senza conoscerne gli
strumenti. Il problema riscontrato non comporta, anche in minima parte la svalutazione del
lavoro della macchina ma potrebbe essere un punto di partenza per costruire o cercare di
costruire autorevolezza intorno ad un'intelligenza artificiale, un rapporto di fiducia rispetto
all’ambito creativo, così come si fa con l’ambito del calcolo, anche se si tratta di un’operazione
molto complessa. Inoltre, il dialogo con l’autore artificiale potrebbe rivelarsi uno strumento
per comprendere come lavorano gli autori naturali. Oltre al contenuto delle risposte fornite dal
LLM, è funzionale anche analizzare la forma stilistica, lessicale e sintattica di queste: si nota
che i testi generati da AI includono parole meno comuni e un lessico più contenutistico e
specializzato rispetto ai testi umani, un registro medio-alto; l’AI utilizza più frequentemente
sostantivi, pronomi e congiunzioni rispetto agli umani che impiegano maggiormente verbi,
ausiliari e preposizioni; la struttura dei testi AI è più esplicita e segmentata; l’AI non utilizza
marcatori epistemici del tipo “penso..., credo..., secondo me...”. Dopo l’analisi e l’esame fatto
all’intelligenza artificiale, che ne ha rivelato rischi e benefici, si passa alla discussione delle
modalità di applicazione pratica dei LLM nella letteratura. Uno dei progetti suggeriti, in fase
embrionale, è MITE che ha come obiettivo quello di elaborare un modello formale per
documentare il modo in cui la critica interpreta i testi letterari. Si tratta di un progetto
interessante quanto ambizioso poiché verte nel conciliare un approccio simbolico e analitico
con il dominio della soggettività, dell’emotività proprie dell’interpretazione critica; dunque,
occorre estrapolare informazioni oggettive per lo più, incrociando e affiancando pareri degli
studiosi, superando il filtro d’interpretazione personale. Per le difficoltà da affrontare, ma
soprattutto per la sua interdisciplinarità al progetto MITE lavorano esperti di letteratura, di
critica letteraria, di AI e filosofi, che per dare una prima forma a MITE sono partiti dall’analisi
di un campo assai ristretto del panorama letterario: i personaggi femminili, reali o di finzione
nella letteratura medievale. I casi studio d’esordio sono: Fiammetta e Griselda di Boccaccio e
Beatrice e Francesca di Dante. Viene svolta su ciascuna di queste figure un’operazione di
raccolta di dati, testi e voci critiche. Prendiamo come esempio il personaggio di Griselda
dell’ultima novella dell’ultima giornata del Decameron: vengono presi in considerazione tutte
le teorie critiche del personaggio come quella di Branca, che scrive che sia una figura ispirata
alla vergine, quella di Candido che afferma che Griselda si ispirata a Psiche delle Metamorfosi
di Apuleio fino ad arrivare a una quantità di tesi soddisfacenti che saranno poi rese fruibili e
ben comprensibili attraverso forme di rappresentazione simbolica. Un alto progetto presentato,
questa volta ultimato e completo è quello fatto sull’opera “Le città invisibili” di Italo Calvino.
In questo caso, il lavoro svolto dall’intelligenza artificiale sul testo è estremamente positivo e
funzionale, in quanto estende, anche dilaniando le vie di comunicazione e comprensione che
l’autore attraverso l’opera intende comunicarci: si tratta di una vera lettura oltre le pagine, oltre
il testo, anche grazie alla trama che permette una lettura, un approccio del genere. In breve,
nell’opera troviamo una serie di dialoghi tra Marco Polo e l’imperatore del regno dei Tartari,
Kublai Khan, dove il mercante veneziano descrive, anche nei particolari tutte le città che ha
visitato durante il viaggio, alcune delle quali sono frutto della sua immaginazione. Ad un tratto
l’imperatore si accorge che Marco Polo sta descrivendo città non reali, unendo e mescolando
sprazzi e tratti di altre città con il tentativo di rappresentazione delle proprie emozioni: Kublai
Khan intende fare lo stesso e Marco Polo sarà il giudice delle sue invenzioni. In questo arco
narrativo, si incastra lo strumento dell’intelligenza artificiale che ha permesso partendo dalle
descrizioni fornite dal testo combinate alle conoscenze della macchina di ricostruire le città
inventate dai personaggi, restituendo un'immagine di queste, collocandole anche spazialmente
secondo le relazioni che avevano nell’opera. Un’altra funzione, elaborata all’interno del
progetto è quella di valutare, sulla base dei giudizi di Marco Polo nei confronti delle città
dell’imperatore, se queste fossero, accettabili o meno. In questo caso l’intelligenza artificiale
svolge il ruolo di autore o meglio co-autore insieme a Calvino, che in modo visionario, nel suo
saggio “Cibernetica e fantasmi” ammetteva la possibilità che la macchina possa
essere/diventare un autore. Un altro tema sviluppato durante il convegno è influenza dell’AI
sulla produzione artistica, conseguenza di una modificazione del canone e del gusto estetico.
Bene, possiamo esprimere le relazioni tra l’opera e l’intelligenza artificiale su tre livelli: la
relazione tematica, quella critica e quella autoriale. Per rispondere alla domanda di partenza la
relazione autoriale è quella che ci interessa perché vede il coinvolgimento dell’IA nel processo
produttivo e pone o meglio fa porre un’altra domanda se la macchina possa essere creativa
nella generazione di testo. La creatività della macchina sta nell’incontro con il lettore e va
intesa come il prodotto di una relazione in questo caso uomo e macchina, che sarà sempre
diverso per ognuno. Il contatto tra IA e percezione individuale della creatività può generare
interesse, anche involontariamente per così dire: ad esempio quando la macchina, utilizzata
come supporto nel processo letterario di produzione cade nell’allucinazione; dunque, devia
dalla norma genera è possibile che generi delle immagini metaforiche e polisemiche particolari,
in altre parole creative. Un esempio concreto, speculare a quello sopradescritto è il libro “On
the road” scritto da reti neurali, senza autore fisico. L’altra quistione riguarda l’appiattimento
del gusto estetico dovuto ad una produzione ripetitiva, dell’intelligenza artificiale: si tratta di
un’inutile preoccupazione poiché l’intelligenza artificiale generativa lavora proprio in funzione
affiche questo non accada, cioè trattandosi di un modello probabilistico l’IA non è mai
“scontata” e superficiale nelle risposte. A conferma di questa tesi, esiste un'intelligenza
artificiale, l’AI CAN che lavora apprendendo per rinforzo, cioè è dotata di un sistema che è
avverso alla macchina stessa quando produce immagini, testi, eccetera, già visti o troppo simili
a modelli esistenti.
In conclusione, risulta evidente che l’intelligenza artificiale è uno strumento estremamente
potente ma con delle debolezze, estremamente capace ma fallibile, estremamente lucido ma a
volte delirante, “allucinabile” appunto. Questo tema porta alla luce la quistione della
responsabilità nell’utilizzo dell’IA e il problema del posizionamento di questa, se di là dallo
schermo (l’IA) o al di qua (l’uomo, noi) oppure condivisa. Banalmente, se l’individuo si affida
alla macchina nella risoluzione di un problema per uno scopo e il sistema sbaglia o non risponde
come dovrebbe, su chi ricade la “colpa”. I pareri sono numerosi e discordanti, ma c’è ne stato
uno che mi ha colpito più di tutti: consisteva nell’affiancare, in via metaforica, l’azione
dell’utente che utilizza l’intelligenza artificiale all’azione di un individuo che avvita una vite
con un cacciavite. L’individuo svolge regolarmente un gesto semplicissimo, usando tecniche
adatte e strumenti adatti trovati sul mercato, ma se in un secondo momento la vite non regge,
la responsabilità ricade sul produttore. Si tratta di un esempio accettabile e pertinente, ma mi
sento di proporre un altro paragone: l’intelligenza artificiale come una sega a due mani che fa
coppia con i suoi utenti, per rimanere nell’campo semantico dell’esempio fatto durante il
convegno. Per abbattere un albero con una sega a due mani è necessario che i due utilizzatori,
due boscaioli ad esempio, si muovano coordinati, che siano sullo stesso livello, che abbiano
simili capacità; certo può esserci da un lato una parte più forte che trascina l’altra durante il
taglio al fine di un abbattimento più veloce, più efficiente. Sul finire dell’operazione, i due
boscaioli si confrontano sul verificare la direzione di caduta dell’albero, magari uno fa una
proposta e l’altro la contesta, perché magari in quella direzione c’è il loro rifugio e non vogliono
distruggerlo. Entrami esprimono la loro opinione in base alla loro formazione ed esperienza,
per una scelta che sia migliore possibile. Infine, l’albero cade: entrambi hanno partecipato nella
valutazione, nell’operazione e nelle scelte dell’abbattimento; dunque, se il lavoro va a buon
fine il merito è di entrambi così a entrambi è attribuibile la colpa se l’albero cade dritto sul
rifugio; si tratta dunque di una responsabilità condivisa. Bene, ora immaginiamo la coppia di
boscaioli come formata dall’uomo e dall’intelligenza artificiale, che utilizzano in
collaborazione uno strumento la sega, che potremmo immaginare essere la conoscenza, con
l’intendo comune di far cadere l’albero, di ottenere delle risposte.