Robot senza etica (né patente)

Non è che siamo troppo stupidi. È che siamo molto complicati. Siamo un'equazione difficile da risolvere per la macchina più intelligente del mondo, l'Uomo. Figurarsi se la macchina ha quattro ruote e troppe strade da prendere per scegliere cosa è meglio per noi. La notizia è che Uber, la compagnia nata per costruire la mobilità del futuro, ha deciso di vendere la sua divisione creata per lo sviluppo di automobili a guida autonoma: il 2021 doveva essere l'anno dei robotaxi, sarà invece quello di una frenata annunciata. Perché non c'è nulla di più difficile che trovare il risultato di ciò che va oltre l'umano: l'etica.

Quella di Uber è solo l'ultima delle retromarce in materia, e il problema resta sempre lo stesso: davanti a una scelta dannatamente difficile tu, essere calcolante, come ti comporteresti? Il computer è rimasto lì, assorto, e non ha ancora espulso la sua risposta. E la tecnologia, d'altronde, non è solo una questione matematica: è filosofia, è essenza. La cosa strana è che in un'era in cui il politicamente corretto ci vorrebbe tutti uguali, con lo stesso pensiero, con la stessa morale, con la stessa etica appunto, neppure miliardi di numeri combinati al secondo sanno trovare la soluzione di quello che siamo in realtà. Perché tutto si ferma alla prima domanda: chi decide cosa sia giusto da fare oppure no?

«Fai sempre ciò che è giusto - diceva al riguardo Mark Twain -. Accontenterai la metà del genere umano e stupirai l'altra metà». Il problema è che un robot vorrebbe invece far felici tutti, perché così è stabilito dal creatore. E allora: davanti a un ostacolo improvviso composto da un gruppo di bambini che attraversano la strada, nell'inevitabilità dello scontro chi decidi di sacrificare? Loro o il tuo padrone a bordo, schiantandoti contro un muro? È il paradosso numero uno, scritto nei manuali di coloro che dovrebbero addestrare un'auto a scegliere al posto di Dio. Ci avevano provato quelli di Apple, lo hanno fatto anche a Google, i britannici di Addison Lee avevano promesso la soluzione finale, altre società ci stanno ancora lavorando. «Perché i vantaggi ci sono», assicurano. Ma per ora il risultato è sempre stato lo stesso: l'auto a guida autonoma funziona solo se non ha dubbi, in un percorso protetto, senza ostacoli e senza scelte morali. È stupida più lei di noi, in pratica. Fatta di un'intelligenza sintetica che risponde solo a moltiplicazioni che portano allo stesso esito impossibile. Ad ancora troppe sliding doors da affrontare, senza sapere quale sia la porta da aprire. E per qualcuno questo avverrà non prima del prossimo secolo.

Così Uber rinuncia, per ora. Anche se, per dire, esistono già nei nostri garage veicoli semiautomatici, che ti tengono in strada, frenano davanti a un pericolo, rallentano a velocità di crociera, prevengono per preservarci. Ma non devono decidere, eseguono: l'Uomo ha ancora il volante in mano. Il comando. Tranne che su se stesso, perché l'etica non è un dogma unico e senza confini: Paese che vai, regole che trovi. E se da qualche parte della Terra si potrebbe decidere di travolgere i bambini, in un'altra sarebbe più accettabile eliminare l'incolpevole proprietario. Chi sceglie, appunto? Non la macchina. E nemmeno noi, quasi sempre.

E quindi: siamo rimasti spiazzati, per ora. Nel corso delle evoluzioni abbiamo sempre cercato di delegare a qualche mente superiore i nostri problemi, abbiamo sempre cercato qualcuno che ci guidasse. Trascendente o più in carne ed ossa; dio o dittatore; partito, sovrano o democratico. Qualcuno o qualcosa a cui in fondo dare la colpa, se poi gli algoritmi - anche quelli umani - non funzionano. Solo che ora abbiamo cercato l'infallibilità per scoprire di essere rimasti soli, a prendere decisioni. Nell'era in cui ci viene chiesto di delegare anche il pensiero per non essere fuori posto, abbiamo realizzato di essere troppo diversi davanti a un dilemma.

Uber intanto ha ceduto, per 4 miliardi s'intende: davanti al Dio Denaro certe scelte diventano più facili. Però resta il paradosso numero due: un'intelligenza artificiale pensa logicamente e tende al miglior risultato, ma alla fine lo stesso risultato deve apparire come prodotto di una mente umana. Ed è qui che sta il punto: non siamo stupidi, ma siamo molto complicati. E una macchina non ci può condurre ancora al di fuori della nostra realtà. Il dubbio ci resterà all'infinito, forse. A meno che, come sostiene la Teoria della Singolarità di Ray Kurzweil, Uomo e Macchina non si fonderanno davvero in una nuova specie capace di capire l'uno dell'altro. Così da produrre una nuova società in cui il benessere sarà la certezza assoluta.

Ma per il momento l'etica resta ancora quello che i Romani chiamavano Mores Maiorum: un codice in cui fedeltà, devozione, fierezza, virtù e rispetto erano sopra a tutto. Una strada senza curve che qualsiasi padre avrebbe percorso senza incertezza. Ma che forse oggi sembra ormai troppo antica ai nostri figli. Figuriamoci a un'automobile.