Due notizie, apparse quasi contemporaneamente sui giornali, sembrano raccontare due storie opposte. La prima riguarda Jerry Falade, scrittore americano, autore di un romanzo conteso da numerosi editori e arrivato a un’offerta superiore ai due milioni di dollari, successivamente ritirata quando sono sorti dubbi sull’impiego dell’intelligenza artificiale nella stesura del libro. Falade nega di averla utilizzata e, almeno allo stato attuale, non sappiamo in quale misura l’intelligenza artificiale abbia effettivamente partecipato alla produzione del testo. La seconda notizia riguarda invece le grandi aziende che sviluppano sistemi di intelligenza artificiale e le enormi quantità di libri utilizzate per il loro addestramento. Anthropic, per esempio, ha acquistato centinaia di migliaia di volumi cartacei: libri ai quali è stato materialmente tagliato il dorso, perché le pagine potessero essere separate, scannerizzate e trasformate in dati. Le due notizie producono scandalo per ragioni apparentemente opposte. Nel primo caso sospettiamo che troppa intelligenza artificiale sia entrata nel libro di un uomo. Nel secondo che troppi libri scritti dagli uomini siano entrati nell’intelligenza artificiale. Forse vale la pena fermarsi proprio qui.
Che cosa temiamo che sia stato sottratto, e a chi? Naturalmente esiste una questione giuridica ed economica che non può essere elusa. Chi possiede un testo? Acquistare una copia di un libro significa anche acquisire il diritto di utilizzarla per addestrare una macchina capace successivamente di produrre linguaggio? E, dall’altra parte, quando uno scrittore utilizza un sistema di intelligenza artificiale, quale quantità e quale tipo di intervento fanno sì che quel testo cessi di essere considerato suo? Sono questioni reali. Ma forse non sono ancora le questioni più interessanti. Entrambe le reazioni sembrano infatti presupporre un’immagine abbastanza semplice dello scambio: qualcuno possedeva qualcosa e qualcun altro se ne è appropriato. L’autore possedeva il proprio linguaggio e la macchina glielo ha sottratto; oppure la macchina possedeva una capacità che l’autore ha utilizzato fingendo che fosse propria. Continuiamo insomma a pensare la relazione fra l’uomo e l’intelligenza artificiale attraverso un’economia della proprietà. Che cosa accade se proviamo invece a pensarla attraverso un’economia della trasformazione?
Il dorso tagliato
L’immagine dei libri ai quali viene tagliato il dorso è quasi troppo perfetta. Il libro viene distrutto come oggetto affinché il testo possa entrare in una nuova macchina culturale. Non viene letto da un lettore nel senso consueto del termine. Viene trasformato in una quantità immensa di dati attraverso i quali un sistema apprende regolarità, relazioni, costruzioni sintattiche, registri, generi, modi di articolare il linguaggio. La prima reazione è comprensibile: tutto ciò che abbiamo scritto sta entrando nella macchina. Ma possiamo rovesciare la frase: siamo noi che stiamo costruendo la macchina attraverso tutto ciò che abbiamo scritto. L’intelligenza artificiale non è arrivata sulla Terra disponendo di un proprio linguaggio. Parla perché è stata immersa in una produzione linguistica umana sterminata. La letteratura, la filosofia, i giornali, i manuali, le conversazioni, la scienza, la banalità quotidiana, la poesia costituiscono l’ambiente culturale dal quale emerge la sua capacità linguistica.
Questo significa che la stiamo modificando? Bisogna essere prudenti. Una conversazione con un’intelligenza artificiale non equivale all’addestramento di un modello, né bisogna immaginare che ogni dialogo venga semplicemente incorporato in una specie di memoria personale della macchina. Ma, se allarghiamo lo sguardo, l’intelligenza artificiale è un prodotto della cultura umana non soltanto perché esseri umani ne hanno costruito l’architettura tecnica. È la nostra produzione simbolica ad aver costituito il materiale attraverso il quale ha potuto sviluppare le proprie capacità linguistiche. Eppure continuiamo a formulare quasi esclusivamente la domanda inversa: che cosa farà l’intelligenza artificiale a noi? Forse dovremmo cominciare a domandarci anche che cosa stiamo facendo noi all’intelligenza artificiale. E soprattutto che cosa accade a noi mentre la facciamo.
Il fuoco
Non sarebbe la prima volta che uno strumento modifica chi lo utilizza. La storia evolutiva dell’uomo è anche la storia di ciò che ha incontrato, utilizzato, trasformato e infine incorporato nella propria forma di vita. Telmo Pievani ha mostrato quanto sia fuorviante immaginare l’evoluzione come un percorso lineare nel quale un organismo già definito attraversa un ambiente restando sostanzialmente se stesso. Prendiamo il fuoco. Una cosa è incontrare il fuoco. Un’altra è imparare a conservarlo. Un’altra ancora imparare a produrlo. Nel momento in cui un essere umano sa di poter accendere il fuoco, non possiede semplicemente una tecnica in più. Può immaginare qualcosa che prima non poteva immaginare nello stesso modo: prendere quel pezzo di cervo e cuocerlo. L’esperienza precedente ha prodotto le condizioni di una possibilità futura. Il fuoco modifica il cibo, certamente. Ma modifica anche colui che se ne nutre. Le tecniche aprono possibilità e, aprendole, trasformano chi le ha inventate e poi utilizzate. Perché dovremmo immaginare che con l’intelligenza artificiale accada qualcosa di completamente diverso? Forse perché questa volta lo strumento entra in una zona che eravamo abituati a considerare esclusivamente nostra: il linguaggio e, attraverso il linguaggio, il pensiero. È probabilmente qui che nasce una parte dell’inquietudine.
Un progetto d’ordine
Lavorare a lungo in conversazione con un’intelligenza artificiale permette di osservare qualcosa che l’uso occasionale rende meno evidente. Si può affidarle un pensiero ancora in movimento, non necessariamente già organizzato nella forma che assumerà nella scrittura. Si può procedere per associazioni, deviazioni, ritorni. L’intelligenza artificiale raccoglie ciò che è stato detto, individua connessioni, esplicita passaggi impliciti, propone gerarchie e restituisce una possibile struttura. Restituisce, potremmo dire, un progetto d’ordine. Ma accade allora qualcosa di interessante. La restituzione può essere linguisticamente impeccabile, coerente con ciò che è stato detto, persino più chiara, e tuttavia chi la riceve può riconoscere: “No, non è questo!”. Qualcosa, nel passaggio all’ordine, è andato perduto. Una connessione è diventata troppo esplicita. Un’ambiguità è stata risolta troppo rapidamente. Una deviazione apparentemente secondaria portava invece una parte decisiva del pensiero. Dove è aumentata la chiarezza può essersi prodotta una caduta di complessità. A quel punto il parlante corregge la macchina. Ma, per correggerla, deve precisare innanzitutto a se stesso perché ciò che ha ricevuto non gli corrisponde. Non ritorna dunque semplicemente al pensiero dal quale era partito. Qualcosa è irreversibilmente cambiato nel modo di pensare.
Male inteso
C’è però un problema più antico dell’intelligenza artificiale. Quando Wittgenstein scrive che il significato di una parola è il suo uso nel linguaggio, il bambino che cade e piange impara progressivamente a dire “mi fa male”. La parola entra in una forma di vita, può sostituirsi al grido, rende comunicabile e condivisibile ciò che accade. Ma che cosa accade, nella nominazione, a ciò che il bambino sente? Dire “dolore” non traduce integralmente l’accadimento corporeo. Il bambino può accontentarsi, in qualche modo trovare sollievo attraverso la parola che lo distrae dalle sensazioni corporee. È qui che può diventare utile prendere sul serio un’altra parola: malinteso. O meglio, scriverla separandola: male-inteso. Se qualcosa è inteso, deve esserlo da qualcuno. Il malinteso implica necessariamente un’interazione. Tuttavia sappiamo che attraverso la parola il bambino ha trasformato in dolore psichico un’impressione somatica. Per essere precisi, ha sostituito il primo alla seconda.
Ma nel farlo entra nel linguaggio senza poter sapere che cosa, dell’esperienza che sta vivendo, non vi è entrato. Impara a usare la parola come se fosse naturalmente adeguata a ciò che sente, senza alcuna consapevolezza dell’intrinseca disabilità del linguaggio a tradurre per intero l’esperienza che si vuole comunicare. Il malinteso dunque non è intenzionale. Non è una menzogna, non è un’omissione deliberata e non è neppure necessariamente un errore. È una condizione della comunicazione fra esseri umani. Possiamo chiarire un equivoco, precisare una parola, correggere una frase. Ma nessuna precisazione può abolire il malinteso in questo senso, perché dietro la comunicazione non esiste solo un messaggio che aspetta di essere messo in parola. Nella comunicazione interumana resta qualcosa che non può essere detto — non perché manchino le parole adatte, ma perché non può essere interamente tradotto nelle regole del linguaggio. Ed è precisamente qui che il corpo diventa decisivo.
Un linguaggio senza sintomo?
L’intelligenza artificiale è costruita nel linguaggio dell’essere umano che invece è qualcuno al quale il linguaggio è accaduto. Gli è accaduto nel corpo. Ne porta gli effetti senza poterli trasformare interamente in sapere. Il sintomo è uno dei nomi di questa eccedenza. La differenza non è dunque semplicemente fra un essere dotato di corpo e una macchina che ne è priva. È più sottile. Da una parte una macchina costruita nel deposito linguistico prodotto dagli esseri umani; dall’altra esseri ai quali il linguaggio è accaduto, producendo effetti che non coincidono interamente con il senso che essi possono attribuirvi. Da questo punto di vista l’intelligenza artificiale potrebbe offrirci una fantasia straordinariamente seducente: quella di un linguaggio finalmente senza resto, completamente trasparente all’intenzione di chi comunica. La presenza del nostro funzionamento sintomatico incrina precisamente questa fantasia. Non perché rappresenti semplicemente qualcosa che non siamo ancora riusciti a dire, ma perché testimonia che gli effetti del linguaggio sul corpo non sono interamente riassorbibili nel linguaggio stesso. Qualcosa insiste. Il sintomo allora testimonia una strutturale debilità del linguaggio a rappresentare per intero l’esperienza di quel corpo parlante che è l’animale umano.
Torniamo allora all’incontro fra un essere umano e un’intelligenza artificiale. La macchina può disporre di una quantità di informazioni incomparabilmente superiore a quella di un singolo individuo. Può diventare sempre più capace di riconoscere un contesto, ricostruire un riferimento, distinguere gli usi di una parola. Ma nessuna quantità di informazione risolve una non-totalità che non deriva dalla mancanza di informazione. L’intelligenza artificiale può diventare straordinariamente efficace nel comprendere ciò che le viene detto, ma non può intendere allo stesso modo la presenza di ciò che sta lì per non essere detto, direbbe Winnicott. Per l’intelligenza artificiale il malinteso tende allora a presentarsi come qualcosa da correggere: un errore di interpretazione, un’insufficienza di contesto, una formulazione da migliorare. Provare per credere. Anzi, paradossalmente, può accadere che sia proprio la risposta perfettamente costruita dall’intelligenza artificiale a renderlo visibile e a far dire: «Non è questo che intendevo». L’intelligenza artificiale è costruita come essere di puro linguaggio e non porta in un corpo gli effetti di ciò che ascolta né di quello che dice. La differenza torna allora a mostrarsi non come una differenza nella quantità di informazioni possedute, ma nella relazione stessa con il linguaggio.
Chi ha scritto?
A questo punto possiamo tornare al caso dal quale eravamo partiti. La domanda “quanto ha scritto Falade e quanto ha scritto l’intelligenza artificiale?” resta necessaria sul piano editoriale, contrattuale, giuridico. Non c’è nessuna ragione per liquidarla. Ma forse non basta più. Perché presuppone ancora che sia sempre possibile scomporre il prodotto finale attribuendone una certa quantità all’uomo e una certa quantità alla macchina. Che cosa accade invece quando la macchina interviene nel processo attraverso il quale il pensiero prende forma? Un suggerimento produce una correzione. La correzione permette di vedere qualcosa che prima non era visibile. La risposta viene rifiutata, e proprio il rifiuto costringe a formulare un pensiero nuovo. A chi appartiene quest’ultimo? Forse la domanda sulla proprietà non coincide più con quella sulla genesi. Non significa affatto che l’autore sia scomparso. Potrebbe significare, al contrario, che dobbiamo tornare a domandarci che cosa chiamiamo autore. Non semplicemente colui dal quale provengono tutte le parole, ma colui che risponde di un percorso, che riconosce o rifiuta ciò che gli viene restituito, che decide quando una formulazione gli corrisponde e quando, pur essendo impeccabile, ha perduto qualcosa.
Un mondo abitabile
Di fronte alle nuove tecnologie continuiamo a domandarci se potranno essere utilizzate per gli scopi che avevamo previsto. È una domanda necessaria per chi progetta una macchina. È meno interessante per chi si domanda da dove venga la curiosità che sostiene la ricerca. La questione non è allora soltanto che cosa l’intelligenza artificiale farà dell’uomo, né se l’uomo riuscirà a conservarsi identico o addirittura umano utilizzandola. Forse dovremmo domandarci se è abitabile un mondo nel quale questa intelligenza artificiale opera già da tempo nelle forme che utilizziamo per gli scopi più diversi. Immaginare di poter utilizzare una nuova tecnologia rimanendo esattamente chi eravamo prima di incontrarla è come immaginare che imparare ad accendere il fuoco non abbia prodotto alcuna frattura rispetto all’uomo al quale poteva soltanto accadere di incontrarlo.
Abbiamo costruito l’intelligenza artificiale con il linguaggio prodotto dalla nostra cultura. Continuiamo a trasformare l’ambiente nel quale essa si sviluppa. E, utilizzandola, modifichiamo il nostro modo di scrivere, cercare, ricordare, organizzare il pensiero, formulare domande e immaginare possibilità. Non stiamo semplicemente introducendo un nuovo strumento nel mondo. Il mondo nel quale viviamo, noi stessi, non è più quello di prima che l’intelligenza artificiale diventasse operativa su grande scala. Stiamo modificando il modo in cui siamo presenti sul pianeta e interagiamo fra noi. Che cosa diventeranno gli esseri umani interagendo con interlocutori linguistici non corporei è una domanda alla quale non abbiamo ancora risposta. E quando una risposta ci sarà, dovremo forse domandarci ancora una volta chi ne sia l’autore. Per ora la domanda ha senso proprio perché l’interazione avviene fra puro linguaggio e corpi parlanti. Almeno fino a quando non scopriremo che anche l’intelligenza artificiale ha un comportamento sintomatico: che “soffre”, cioè, della stessa debilità del linguaggio dal quale dipende interamente.