Asimov, l'uomo che sognò di essere un robot (anarchico)

Mentre il mondo si ferma a riflettere su vantaggi e rischi dell'intelligenza artificiale, la complessità filosofica del tema - escono libri ad un ritmo altissimo (al momento ancora per lo più scritti da umani) - finisce, sempre e comunque per sbattere su quattro rassicuranti leggi che, se fatte introiettare ad una macchina, in teoria dovrebbero garantire gli esseri umani da ogni pericolo. Sono le famose leggi della robotica, formulate non da uno scienziato ma da uno scrittore di fantascienza, ovvero Isaac Asimov. All'inizio Asimov ne formulò tre. Eccole: un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno; un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge; un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge. Nel corso della scrittura dei suoi romanzi di fantascienza Asimov poi arrivò ad aggiungere una quarta legge. Chiamata «legge zero», perché le leggi sono disposte in ordine di importanza e vanno rispettate a patto che non contrastino con la precedente. Ecco la «legge zero»: un robot non può recare danno all'umanità, né può permettere che, a causa del proprio mancato intervento, l'umanità riceva danno.

Tutto semplice? Nemmeno nella fantascienza, perché le leggi potrebbero porre la macchina in situazioni davvero complesse. Sul tema sono tornati cervelloni come il professor Roger Clarke dell'università di Sidney, traendone risposte non così rassicuranti. Per dirla con le parole di Clarke: «Le leggi della robotica di Asimov sono state uno strumento letterario di successo. Forse ironicamente, o forse perché era artisticamente appropriato, la somma delle storie di Asimov confuta la tesi con cui iniziò: non è possibile limitare con certezza il comportamento dei robot, inventando ed applicando un insieme di regole». Non deve stupire. Neanche la definizione stessa di intelligenza artificiale, data questa volta dal primo genio dei computer, Alan Turing, riesce ad aiutarci davvero a penetrare il concetto di intelligenza non umana. Una macchina pensante per il test di Turing è una macchina che riesce a fingersi umana in una conversazione. Ora abbiamo macchine che in parte ci riescono ma palesemente non pensano. Sono al massimo dei dialogatori.

Alla fine dobbiamo forse prendere atto che il problema che Asimov affrontò era per lui semplicemente un problema letterario e non davvero esistenziale. Mentre a molti anni di distanza ora il problema è drammaticamente più reale. E non basta una risposta da romanzo.

Per rendersene conto aiuta anche l'autobiografia di Asimov appena pubblicata da Il Saggiatore: Io, Asimov (pagg. 714, euro 34).

Raccoglie le riflessioni di Asimov su tutta la sua carriera letteraria e le sue frequentazioni nel mondo della fantascienza. Scrive Asimov: «Gli scrittori di fantascienza sono dei ricognitori inviati dall'umanità per indagare il futuro. Fanno ritorno con suggerimenti per il miglioramento mondiale e avvertimenti sulla distruzione del mondo». Lui stesso però non si è mai messo nella pattuglia degli apocalittici: «I miei libri tendono a celebrare il trionfo della tecnologia invece che il suo disastro».

Ottimista quindi, anche se nei suoi romanzi alla fine le leggi della robotica cedono. Ma forse la risposta andrebbe cercata nell'Asimov non romanziere, un Asimov che si legge di meno. Potreste imbattervi in questa frase: «In linea di principio, ogni dettaglio che ti facesse percepire la macchina per l'insegnamento come più umana dovrebbe risultarti gradevole; eppure, non si può mai dire. Una volta mi venne mostrato un dispositivo che ripeteva un certo numero di affermazioni del tipo Sì, signore, Immediatamente - cose del genere. Dopo averlo ascoltato per la decima volta, ti irritava. Quindi suppongo che non sia saggio cercare di capire troppo in anticipo quali o come saranno le cose, ma lasciare piuttosto che la domanda pubblica guidi ciò che si produce».

Niente leggi quindi ma buon senso, applicato un tocchetto alla volta.

Del resto, dalla biografia emerge un Asimov privato molto coi piedi per terra che fantastica poco e fa i conti come tutti con la vita di ogni giorno. Per altro davvero scettico sulla capacità di valutare l'intelligenza di chiunque, non solo delle macchine: «I test di intelligenza non mi piacciono.

Ritengo che testino solo un aspetto dell'intelligenza, la capacità di rispondere al tipo di domande che è probabile pongano le altre persone con il medesimo aspetto intellettivo». Ergo, l'intelligenza artificiale ci sembra tale solo se ci assomiglia. Speriamo di non essere idioti.