Il tempo dei Nuovi Eroi

Per capire come impostare l'etica dei sistemi di Intelligenza Artificiale, alcuni ricercatori del bostoniano MIT hanno realizzato una piattaforma sperimentale online la Moral Machine - che a fronte di una serie di scenari di incidenti con l'auto a guida autonoma chiede di scegliere chi salvare o chi sacrificare. Ovvero la soluzione migliore o quella più giusta secondo la propria etica. Questo perché ci si aspetta che i computer di bordo reagiscano come fa un essere umano. Ma come reagisce un essere umano?

La piattaforma ha raccolto oltre 40 milioni di risposte da aree diverse del mondo. I risultati, pubblicati sulla rivista Nature, hanno fatto emergere da un lato tendenze generali come l'attitudine a risparmiare il maggior numero di vite, a preferire gli esseri umani rispetto agli animali, a salvare i giovani, in particolar modo i bambini. Ma dall'altro che vi sono differenze sostanziali tra le diverse regioni della Terra. Per chi risiede in Paesi caratterizzati da culture individualiste, come Regno Unito e Stati Uniti, è rilevante il numero di persone che si possono salvare, anche se questo significa sacrificare guidatore e passeggeri. Il blocco orientale (estremo oriente e Paesi islamici) tende a risparmiare i pedoni e chi è dalla parte della ragione, ma non riserva particolare riguardo a giovani e donne, due categorie verso le quali invece propendono i Paesi del blocco meridionale (America Centrale e Meridionale e i territori d'oltremare della Francia e la Francia stessa). Infine chi abita in Paesi molto poveri tollera di più chi attraversa fuori dalle strisce o con il semaforo rosso. Mentre chi vive in Paesi con forti disuguaglianze di reddito tipo Perù o Nigeria sceglie in funzione dello status sociale. Un'altra singolare preferenza morale è salvare le persone in forma rispetto a quelle obese. Tutti però hanno risposto di non volere un'auto etica ma una che le protegga anche a scapito della vita di un numero maggiore di pedoni.

E allora: sulla scorta di ciò i produttori potrebbero programmare i sistemi di IA in modo da ridurre la velocità nei quartieri più ricchi, oppure offrire auto egoiste a prezzi molto maggiori. Ma è la direzione giusta? Credo di no, e mi risuona ancora la risposta di Alberto Senigallia, fondatore di Progetto Arca, ospite di una recente puntata della mia trasmissione radiofonica, alla domanda su quale sia la più grande paura nel suo lavoro di assistenza agli ultimi: «Di fronte alla morte di qualcuno di loro mi chiedo: se avessi fatto un gesto in più?».

oscar.dimontigny@gmail.com

twitter: @OscardiMontigny