L’incubo si avvera: i robot batteranno l’uomo

Ogni costruttore di «intelligenze artificiali» cova dentro il tarlo della paura. L’adrenalina di creare qualcosa di cibernetico è raffreddata, sotto sotto, dal rovello: «E se si rivolta contro di me? Cosa accadrà se diventa più forte del fabbricante?». A questa domanda hanno tentato di dare una risposta i cervelloni americani dell’informatica che si sono riuniti «in privato» a Monterey Bay in California il febbraio scorso. Pochi giorni fa il New York Times ha cominciato a lasciar trapelare alcuni report della conferenza. Ma vediamo prima la questione dall’inizio.

«Cibernetico» deriva dal verbo greco kybernào, «reggo il timone» di una nave: il kybernètes era il pilota. Un oggetto che si fregia di quel titolo è programmato per dirigere se stesso: anche una lavatrice o un forno a microonde, in termini basilari, sono cibernetici. La prima sa quando azionare la centrifuga (e lo fa); il secondo, quando l’arrosto è a puntino, decide di spegnersi. Facciamo un passo avanti, e parliamo di automi. Un salto di qualità tecnico ed etico spettacolare. Anche «automa» ci riporta alla lingua ellenica. Ma con una profondità e un intrigo di significati che danno qualche brivido. Aytòs, in greco, indica l’identità, che può essere con altro (il latino idem rende bene l’idea: un’uguaglianza tra due cose, come due gocce d’acqua), oppure con se stessi (i latini dicevano ipse, «di per sé», in modo autonomo e, se la faccenda diventa patologica, aberrante, «autistico», fuori controllo, senza più contatti con la realtà circostante, un livello di potenza ad alto rischio, ambiguamente divino). Qui le faccende si complicano, coinvolgono la psiche, scatenano allarmi ancestrali. Il nostro ipotetico costruttore sente che sta dando vita a qualcosa che assomiglia parecchio a se stesso, come un figlio al padre: un doppio, uno specchio di sé. Niente può incutere paure inconsce più di un riflesso della propria identità. E se fosse capace di decisioni autonome? I replicanti di Blade Runner, il film che Ridley Scott trasse nel 1982 da un racconto di Philip K. Dick, sono i magnifici spettri di questa paura: l’ingegnere genetico vi impianta un limitante, quattro anni di vita, prima dell’autoannullamento. Niente di nuovo. Tutto deriva dal mito. Il dio fabbro Efesto aveva già una catena di montaggio di droidi, su nell’Olimpo. Ne era uscito Thalos, un fratello maggiore del Gort di Ultimatum alla terra (Robert Wise, 1951, remake nel 2008 con Keenu Reeves) un custode ciclopico che pattugliava il dominio isolano del re di Creta, Minosse, spappolando gli intrusi o incenerendoli con la sua corazzatura di bronzo rovente. Ma Efesto la sapeva lunga e si era cautelato. Aveva avvitato nel prototipo un limitatore. Un tappo metallico chiudeva il tallone del robot. Se lo si toglieva, la sua forza si disperdeva. Giasone, un blade runner dell’antichità assistito dalla sua esotica girl, la mediorientale Medea, ha buon gioco nel disinnescare l’automa, scoperchiando la vena fatale. Prometeo, istigato da Zeus, forgiò dalla creta, impastata con un misterioso soffio vitale Pandora, la prima femmina, l’affascinante modello di ogni successiva replicante fatale. Ma la corredò con un congegno di autodistruzione, un vaso zeppo di virus e magagne assortite. Il dio era sagace. Presumeva che Pandora avrebbe ceduto alla curiosità, liberando il mefitico contenuto del vaso e condannando la sua stirpe, le donne, al biasimo maschile, a una condizione di umiliante tutela, condita da sensi di colpa e presunzione di inferiorità. Il Terminator, con il ghigno marmoreo inconfondibile di Schwarzenegger, altra creatura della fantasia allucinata di Scott, è il sottoprodotto di Skynet, il sistema di supercomputer ideato per la difesa che andò online il 4 agosto 1997. Skynet cominciò a imparare a ritmo esponenziale. Divenne autocosciente alle 2:14 del mattino, ora dell’Atlantico, del 29 agosto. E si scatenò l’inferno nucleare… Per fortuna, solo sul grande schermo. Che il mondo dei robot avesse bisogno di qualche regola, proprio come quello umano, fu geniale intuizione di Isaac Asimov, che indossò la toga del legislatore e dettò lo schema. Primo: i robot non possono nuocere agli umani. Secondo: devono obbedire ai comandi dei padroni. Terzo: sono tenuti all’autoconservazione, purché questa non contrasti con uno dei precedenti dettami. La più tenera artificial intelligence della fantasia letteraria è Pinocchio, un automa fai da te che, come tutti i suoi simili, crea seri grattacapi al progettista. Nel suo caso è l’etica (e la tensione educativa dell’autore Carlo Collodi) ad agire da congegno limitante. Il robottino sbozzato nell’ordinario legno da catasta è dotato della facoltà di apprendere. Un lato che lo affratella alla supertecnologia della mostruosa Skynet di Scott. Se in un primo tempo sfrutta la qualità per ribellarsi e modellare il comportamento sulle forze truffaldine e malvagie che travagliano l’umanità, il suo software di base è impostato sull’azzurro ottimistico della Fata, che lo depura della materia primordiale, gli dona spirito autentico e ne fa un ragazzo per bene, splendido, fiabesco esorcismo per le fobie di coloro che se la sentono di imitare Dio alla vigilia dell’Eden. Fantastico predone, Spielberg ha trafugato il Pinocchio dalle pagine del libro per farne il «mecca» del suo A.(rtificial ) I.(ntelligence) del 2001. Regole, anche qui, come nel teorema di Asimov: sono quelle del «protocollo di imprinting» che una madre avventata per amore applica al fantoccio di carne sintetica, l’illusione di controllare con il raziocinio un tumulto dei sentimenti per il quale nessuno ha ancora inventato il tasto delete.

L’intelligenza artificiale può farsi coscienza, ritorcere contro gli ideatori un libero arbitrio di aggressione? I cervelloni di Monterey Bay alla fine sembrano pencolare verso il sì. I poeti hanno maggior libertà di manovra. Noi stiamo con i poeti. Ma toccando ferro. Chiedendo di blindare il tutto, di mettere la fiducia, come fanno i governi umani, sulle sacrosante leggi di Asimov.