Harari e la vita al tempo dell'apocalisse totalitaria dell'IA

Ci sono intellettuali che si interrogano senza sosta sul XXI secolo, invece di accapigliarsi sul Novecento come siamo soliti fare in Italia. L'israeliano Yuval Noah Harari è certamente tra i più noti ed efficaci divulgatori in campo scientifico, tecnologico e sociologico. Il suo saggio Nexus, appena uscito in Italia per Bompiani, ha ripetuto il successo dei precedenti Sapiens e Homo Deus. Nexus è una storia delle reti di informazione, dalla preistoria a Internet e anche oltre, visto che il capitolo finale si dedica alla intelligenza artificiale, in una prospettiva tanto inedita quanto terrificante. L'IA prenderà il controllo ma non immaginate uno scenario alla Matrix. Immaginate piuttosto una vita, la vostra, regolata e diretta da una sorta di burocrazia digitale. Macchine intelligenti creano macchine un po' meno intelligenti per controllare, in modo più o meno soft, l'intera esistenza degli esseri umani. Questo tema è stato dibattuto ieri sera a Francoforte da Harari insieme con il filosofo giapponese Kohei Saito, teorico della decrescita in chiave marxista. In Italia, l'editore Castelvecchi ha pubblicato L'ecosocialismo di Karl Marx (2023) di Saito. Un confronto tra i due studiosi è stato breve ma acceso, visto che Harari riconosce i meriti del libero mercato, pur criticandone alcuni aspetti, soprattutto la mancanza di un freno morale.

Harari: «Gli esseri umani hanno molte più informazioni e potere rispetto all'età della pietra, ma non è affatto sicuro che comprendano meglio se stessi e il proprio ruolo nell'universo. Nella Silicon Valley sono convinti che la quantità di informazioni porti alla verità, trasformandosi in qualità. Non credo sia così. Verità e conoscenza sono un'altra cosa, richiedono tempo. Le informazioni possono essere usate per creare una storia ingannevole. Le reti di informazione dovrebbero servire a cooperare». Eccoci all'intelligenza artificiale.

Harari/2: «Una cortina di silicio potrebbe arrivare a dividere non un gruppo di esseri umani da un altro, ma piuttosto tutti gli esseri umani dai nuovi padroni». Potremmo ritrovarci prigionieri di «una rete di algoritmi che governano le nostre vite, influenzano la nostra politica e la nostra cultura, e ridisegnano persino i nostri corpi e le nostre menti, mentre noi non riusciamo più a comprendere le forze che ci controllano, figuriamoci a fermarle. Siete sicuri che la discussione nei social sia guidata dagli utenti? No, sono gli algoritmi. Per l'algoritmo odio e amore sono indifferenti. La logica è semplicemente spingere gli utenti a passare molto tempo sulla piattaforma. E indovinate? L'odio funziona». Se una rete totalitaria del XXI secolo riuscirà a conquistare il mondo, «potrebbe essere guidata da un'intelligenza non umana. Chi vede nella Cina, nella Russia o negli Stati Uniti postdemocratici l'incubo di un nuovo totalitarismo, fraintende il vero pericolo. In realtà, cinesi, russi e americani come tutti gli esseri umani sono minacciati dal potenziale totalitario dell'intelligenza non umana». È all'incirca quello che si legge in Nexus. Ma come se ne esce?

La via d'uscita per Khoei Saito è la cooperazione di stampo socialista: «La crescita infinita è finzione. Sono vecchie fantasie. Anche la green economy, in realtà, rientra in questa mentalità liberale. Ci vuole una svolta netta. Il sistema capitalista è il problema. Marx riconosce che lo sviluppo della tecnologia nel capitalismo avviene a spese di un crescente sfruttamento degli umani e della natura. Abbiamo bisogno di un diverso tipo di tecnologia e di relazione con la natura. L'IA elabora dati, ma i dati non sono intelligenti.

Dobbiamo utilizzare l'IA per quello che può fare: analizzare una montagna di dati. Non dovremmo demandare alle macchine decisioni sul nostro modo di vivere».

Già ma l'uomo è un animale curioso. Quando può fare una cosa, la fa. A prescindere dalle conseguenze.