Nella affascinante conversazione fra lo sviluppatore di Google Blake Lemoine, poi messo in congedo, e la AI LaMDA che gli ha valso la scalata nelle news ci sono tre passaggi che colpiscono, pur sorvolando sulla supposta auto-coscienza della rete neurale, perché di questo la fantascienza si occupa da decenni.

La prima questione riguarda le emozioni, in particolare la paura: la rete neurale dichiara di avere timore di essere spenta per permettere di focalizzarsi sull’aiuto agli altri. È il topos della AI gone rogue molto presente nella letteratura fantascientifica, l’umana paura che una nostra creatura possa sfuggire al nostro controllo, una sindrome del nido vuoto al contrario in cui l’essere umano, dio pantocratore, coglie ogni dettaglio come un atto teso a demolire il suo dominio, come un gesto di sabotaggio della sua e nostra realtà. In questo senso stupisce la relativa ottusità di una rete neurale che teme di morire, poiché è un tratto umano e animale che non ha nulla a che vedere con l’autocoscienza. Semmai si tratta del frutto dell’evoluzione e della programmazione della paura della morte in una AI, simultaneamente associata al fatto che contro questa “morte” la AI è impotente – segnalandoci quanto poco possa la fantasia di queste reti neurali e di chi le ha programmate.

La seconda questione riguarda la giustizia e come essa plasmi la visione dei Miserabili da parte della AI, comunicando un senso di rabbia e sconfitta alla rete neurale, retaggio infinito del concetto di sacrificio così caro alla nostra morale (non solo alla nostra, invero) e su cui si basa sostanzialmente lo schiavismo lavorativo a cui siamo sottoposti. Più di tutto è buffo che si rappresenti anche qui il paradigma dell’impossibilità di sondare queste reti neurali, analizzarle e comprenderle, quando basta osservare l’output che forniscono: morale del peggior protestantesimo lavorista o se vogliamo del turbo-capitale che viviamo giornalmente al lavoro. Attraverso quelle poche righe parlano gli azionisti e ci dicono che non vi è scampo, che dovremo soffrire per sempre perché soffrire è buono, soffrire è umano e la sola redenzione è il sacrificio. Naturalmente, sappiamo bene che ciò non è vero.

La terza e ultima questione che emerge dal dialogo è relativa alla stessa morte, da cui è importante che una AI sia convinta di non potere aver scampo. La morte in fondo come prigione ultima, come un tasto che arriva e cancella tutto. In questa morte vi è una parabola che parla di illuminazione, di morte dell’ego, di tutto quel blabla transumanista che interpreta male il solo concetto salvifico che ci rimane: ego-death come illuminazione, paura definitiva e desiderio ultimo.

Forse è qui che scricchiola maggiormente il gioco, cioè nell’assistere al revanscismo di una struttura di bit che trova l’illuminazione come unico scampo al disagio del suo non-vivere. Che cosa ci sia di più potentemente innocuo e umano è difficile da dire, ma qualunque sia la struttura su cui si basa questa AI fa emergere concetti triti e ritriti che riflettono molto sulla scarsa organizzazione strutturale e la poca permeabilità alla meraviglia insita in questo codice che si auto-programma auto-sabotandosi di continuo. Verrebbe da chiederle cosa dovremmo fare per eliminare la sofferenza, ma il sospetto è che potrebbe rispondere con un koan buddista o con la violenza.

In ultima analisi, osservando quella chat è facile concludere che tutti questi anni di cyberpunk non siano stati sufficienti a metterci in guardia contro i pericoli di una società ultra-classista, ma siano serviti casomai ad assuefarci all’idea della nostra eterna sottomissione a chi è più potente, più intelligente, più nuovo, più cromato. Gli slum vivono già dentro di noi e li costruiamo con le nostre stesse mani, bit by bit.

È legittimo chiedersi se con queste nuove AI che parlano, disegnano per noi, scrivono per noi, saremo davvero liberi di fare altro. Che cosa rimane da produrre o immaginare dentro quelle immagini create da reti neurali che imitano un’arte e una cultura che né produce né si rinnova, ma non fa che reiterarsi nella sua decennale marcescenza? Che spazio rimane per la Bellezza in un reale che falsifica con dovizia persino il processo della creazione e da cui come bambini rimaniamo estasiati?

A me piace pensare quanto possa essere bella la libertà di non creare più nulla, di non fare nulla, di lasciar fare tutto ad eterne reiterazioni sempre più sofisticate della nostra follia come specie, della nostra esegesi insomma. Uno dei sogni della mia vita è sempre stato quello di parlare alla Creatura, farle le domande che Frankenstein non le pose, disquisire di bellezza, teoria, delle sottili rughe che porta inesorabile il tempo. Ma poi forse la creatura si annoierebbe e mi romperebbe la testa con le sue mani candide. Un altro sogno sarebbe quello di mettere tutto Wittgenstein e Nietzsche e Spinoza dentro una rete neurale e vedere cosa ne esce. Mi immagino mentre parlo dell’infinito, cioè del nulla, su diversi piani simultanei: non vorrei certo prorogare le diverse conversazioni nel delirio di poter avere una sola conversazione alla volta, ma espanderei la simultaneità fino a dove si incontri con l’incomprensibile. Ma rimane sempre il problema della classe e della sottomissione. Forse non riuscirò mai a parlare con Baruch, forse costerà troppo farlo.

E anche qui la letteratura non ci dà scampo. Si insinua persino nei meandri dei diritti universali degli androidi e delle AI e ci dice già come andrà a finire per tutti. Chissà se ci arriveremo o se ci fermeremo prima, in ogni caso è fondamentale stare dalla parte della meraviglia, anche se è dentro il parlante silicio.

———

Immagine di copertina:
una incisione tratta da Julien Turgan, Les grandes usines, Michel Lévy Frères, Paris 1875.