Dell’intelligenza artificiale non so molto; se non che preferisco la mia, la nostra stupidità (o, nei casi fortunati, modesta intelligenza) naturale. Ci sono però, nell’espandersi di questa tecnologia, alcune cose che mi colpiscono. La prima è evidente: il confine tra vero e falso, realtà e rappresentazione, si sta assottigliando. Forse è destinato a scomparire, a uscire dal novero delle categorie con cui gli esseri umani interpretano il mondo.
Nelle edicole francesi, in questi giorni, c’è un numero di Playboy con in copertina una ragazza bellissima. Che non esiste. Come ogni personaggio narrativo, si potrebbe dire: Medea, Emma Bovary, la Valentina dei fumetti di Crepax. Ma nel caso dei personaggi come Valentina, la finzione è esplicita: una donna meravigliosa che corre su un tratto di matita, in bianco e nero. Un fantasma proiettato sulla carta da un individuo, il suo autore. La donna della copertina di Playboy sembra invece terribilmente reale. Senza avvertenze, nessuno potrebbe capire da sé che non esiste. Ma non è solo perfetta e verosimile. È anche scontata e prevedibile. Realizzata da algoritmi informatici addestrati sui sogni voyeuristico-erotici (in generale, non molto originali) del maschio medio. Non sul modo di vedere il mondo proprio a un certo individuo, unico e irripetibile come ogni essere umano; ma su un modello anonimo, generico, conformista e banale.
Insomma, l’intelligenza artificiale non solo rischia di confondere il falso con il vero al punto da non poterli più distinguere. Sembra anche destinata ad accentuare l’egemonia degli stereotipi, l’aderenza ai modelli che vanno per la maggiore, il trionfo del conformismo. Forse tra non molto, i film e le serie televisive (in gran parte già ora modellati secondo i presunti gusti del pubblico) saranno frutto dell’intelligenza artificiale, programmata per garantire il massimo successo; attese del pubblico e produzione cinematografica o televisiva entreranno in risonanza, diventeranno l’uno lo specchio esatto dell’altro. Lo stesso, immagino, accadrà progressivamente per altre forme narrative. Se questo è vero, l’intelligenza artificiale non porterà (come molti credono) le macchine a pensare e ragionare come gli esseri umani, ma proprio all’effetto contrario: gli esseri umani saranno indotti (per emulazione, conformismo, effetto del diluvio di informazioni artificiali a cui saranno sottoposti), a pensare sempre di più in modo stereotipato, seguendo i modelli proposti dalle macchine. In questo senso si realizzerà compiutamente quella che Pasolini, oltre cinquanta anni fa, definiva “l’opera di omologazione distruttrice di ogni autenticità e concretezza” (fa impressione, l’attualità dei termini pasoliniani) iniziata dalla sintonia tra potere, tecnica e sistema delle informazioni.
C’è poi, nell’intelligenza artificiale, un altro elemento che a me pare inedito. Questa tecnologia permetterà di generare sempre di più una quantità enorme di informazioni false che sembreranno vere. Il che si presta bene alla propaganda dei movimenti più autoritari e demagogici. L’avversario politico sarà artificialmente riprodotto in atteggiamenti vergognosi, gli si metteranno in bocca parole che confermeranno le tesi dei suoi detrattori. Si potranno inventare prove apparentemente inconfutabili di crimini orrendi. O, al contrario, dimostrare che i peggiori aguzzini sono in realtà dei benefattori. A poco, temo, varranno le smentite. Quando il confine tra vero e falso sfuma nel nulla, quando la tecnica si fonda proprio sulla confusione tra queste due categorie, inutile sperare che la realtà si imponga da sé sulla menzogna. A questa situazione (già molto vicina a realizzarsi) si reagirà con un bisogno di regolazione (la invoca Sundar Pichai, amministratore delegato di Google, guru dell’intelligenza artificiale, in una recente intervista a Les Échos).
Ma (poiché ogni regolazione suscita le sue violazioni), alle falsità prodotte artificialmente, in barba a ogni regolazione, si sarà costretti a reagire in modo censorio. Data l’enorme quantità di dati in circolazione, questa censura non potrà che essere altrettanto artificiale. Già adesso, sulle reti sociali, per limitare i messaggi di odio o le menzogne, agiscono meccanismi automatici, che però spesso sbagliano bersaglio (ne sa qualcosa questo giornale, più volte vittima di censure assurde), per l’incapacità propria agli algoritmi di cogliere i paradossi o comprendere i contesti. Di fronte al proliferare delle applicazioni dell’intelligenza artificiale, che riscriveranno la storia passata o cercheranno di disegnare quella futura, sarà probabilmente schierato un esercito altrettanto enorme di filtri, controlli, censure, altrettanto automatici. L’umanità rischia di trovarsi ad assistere alla lotta virtuale di due eserciti, entrambi artificiali e (sia pure creati in nome dell’intelligenza artificiale) stupidi e vuoti. Si vedrà allora che, come scrive il filosofo Giorgio Agamben, “le potenze che sembrano guidare e usare ai loro fini lo sviluppo tecnologico ne sono in realtà più o meno inconsapevolmente guidate”.
Maurizio Puppo
“La Pillola” di Febbraio 2024
LINK ALLE ALTRE PILLOLE DI PUPPO
Eccellente articolo. Per quanto riguarda la scrittura, trovo che già adesso si siano appiattiti sia il gusto del pubblico, nutrito dalle frequenti scempiaggini delle fiction televisive, sia la richiesta di agenti letterari ed editori che si curano soltanto di promuovere testi vendibili a tale pubblico e neanche minimamente di formare il pubblico stesso alla buona scrittura e ai buoni contenuti. Così, vanno in giro diversi bestseller pieni di sgrammaticature e di colpi di scena poco credibili. Forse l’intelligenza artificiale potrebbe creare una narrativa ad hoc per massimizzare le vendite ma senza sgrammaticature…
Grazie. Effettivamente la letteratura di consumo, visto quel che c’è in giro, potrebbe persino giovarsi dell’introduzione della produzione artificiale. Resta da capire se ci sarà ancora spazio per qualcosa di diverso.