Ci affidiamo ciecamente all'Ia perché lo facciamo già con lo Stato

C'è un numero di saggi enorme che negli ultimi mesi è stato dedicato all’intelligenza artificiale. Non stupisce. Siamo, secondo molti esperti vicini a quella che viene chiamata la “singolarità”. Ovvero l’avvento di un nuovo tipo di “macchine” superumane che potrebbero mettere in discussione la nostra supremazia. Potremmo dover convivere con algoritmi destinati a breve a diventare molto, ma molto, più potenti e performanti di noi. Secondo molti esperti non avverrà semplicemente che non saremo in grado di fare quello che fanno questi algoritmi, in realtà non riusciremo nemmeno a capire come fanno a farlo. Un rischio enorme.
Il saggio del politologo David Runciman appena pubblicato da Einaudi - Affidarsi (pagg. 310, euro 19) - parla di questi temi ma li collega ad altre riflessioni, meno scontate e meno diffuse. Lo si può intuire dal sottotitolo scelto dallo studioso di Cambridge: «Come abbiamo ceduto il controllo della nostra vita a imprese, Stati e intelligenze artificiali.
La tesi di Runciman, documentata con una serie molto ampia di eventi è che noi siamo di fronte ad una seconda “singolarità”, ne è già avvenuta una prima di cui spesso ci dimentichiamo.
Ovvero che abbiamo già creato delle entità collettive che ragionano con logiche proprie e che controllano larghissima parte della nostra vita. Prima gli Stati e poi le grandi multinazionali del capitalismo moderno si sono trasformati in entità molto distanti dal cittadino o dal consumatore e capaci di comportarsi con logiche proprie, spesso difficilmente comprensibili per il singolo, quasi aliene.
Una esagerazione?
In realtà l’idea è molto antica e si radica nella teoria del Leviatano partorita dal padre di ogni scienza politica moderna, Thomas Hobbes (1588-1679), ma Runciman la declina in forma più moderna ponendo molto l’accento sulle caratteristiche “meccaniche” che hanno questi “leviatani”. Nei primi tre capitoli del libro spiega che cosa li rende simili alle intelligenze artificiali e agli altri tipi di agenti artificiali. La componente umana resta molto forte ovviamente, sono enti che hanno una psicologia, però collettiva. In realtà i singoli inseriti in un meccanismo statale, o in una gigantesca corporation abdicano, molto in fretta e spesso senza accorgersi, alla loro capacità decisionale. Per usare le parole dell’autore: «L’idea che un gruppo di persone possa avere le sue idee, distinte dai pensieri e dalle intenzioni dei singoli membri, è strana e sconcertante. I gruppi possono possedere alcuni tipi di sapere - “La saggezza delle folle” - che i singoli non hanno. Ma ciò significa che tali gruppi hanno una mente loro? Qui occorre fare attenzione. Una conclusione del genere assoggetterebbe gli individui a un fantasmatico potere superiore: magari tu la pensi così, ma il gruppo al quale appartieni la pensa in maniera diversa, quindi stai zitto».
Runciman fa decine di esempi e, soprattutto, sottolinea che gli Stati con la globalizzazione hanno anche sviluppato una tendenza ad uniformare i metodi di controllo che è altamente pericolosa per la libertà dei singoli. Insomma, gli allarmi dei pensatori liberali sul controllo delle coscienze e sui pericoli dello Stato etico in Runciman vengono calati nella pratica politica e dimostrati in modo scientifico.
Spiega ancora: «Gli Stati e le imprese della modernità sono replicabili. Sono organizzazioni che si sono diffuse e sono proliferate in modi che assomigliano alla riproduzione meccanica... sembra esistere un progetto della modernità realizzabile in molte circostanze diverse. Dalla Corea alla Danimarca». Mentre la vita economica e politica premoderna veniva frenata dalla tipicità culturale dei singoli Paesi e territori. Oggi è molto più facile e potenzialmente pericoloso che vengano creati sistemi omologanti. Se alla forza dello Stato e delle multinazionali si somma l’intelligenza artificiale il singolo rischia di essere schiacciato e allontanato definitivamente dalla “stanza dei bottoni”.
Il saggio però cerca di avere anche una pars costruens ovvero di capire come l’individuo può ritagliarsi un ruolo in questo spazio senza più “affidarsi” (il titolo non è un caso) ciecamente a queste super entità che ci controllano o potrebbero controllarci.
Ovviamente nessun complottismo. Solo una riflessione attenta sui paradigmi culturali che è necessario preservare perché le nostre democrazie non diventino dei gusci vuoti. Il sogno dell’Homo deus grazie all’intelligenza artificiale potrebbe generare mostri.

Se invece gli umani imparassero a pensare sul lungo periodo e a riarticolare la democrazia dal basso potrebbe finire in tutt’altro modo. È molto più faticoso? Secondo Runciman ovviamente sì. Però è anche molto più umano