Ciclone IA, rischio intercettazioni fake

La domanda più suggestiva è una e una sola: preferireste essere giudicati da un magistrato in carne e ossa o dall'intelligenza artificiale? «Se fossi innocente - risponde Valerio de Gioia, consigliere alla corte d'appello di Roma, autore di numerosi libri e oggi consulente per la Commissione d'inchiesta sul femminicidio - andrei più volentieri davanti all'Intelligenza artificiale, ma se fossi colpevole sicuramente sceglierei l'uomo. L'uomo introduce elementi di pietà, se vogliamo di comprensione umana, che non appartengono al linguaggio delle macchine e degli algoritmi».

Certo, l'intelligenza artificiale per ora è entrata nel mondo della giustizia, e in particolare nel penale, soprattutto attraverso i convegni e i dibattiti, ma la realtà bussa alla porta. E le telefonate del finto Crosetto, che batteva cassa sollecitando i più grandi nomi dell'imprenditoria italiana, ci fanno capire che vantaggi e insidie, in questo caso perfide truffe realizzate utilizzando le tecnologie più avanzate, ormai fanno parte del nostro orizzonte.

Il tema delle contraffazioni, basti pensare al Papa con il piumino, diventa centrale. «Oggi - prosegue de Gioia - ci può essere qualcuno che al telefono promette tangenti o altro ancora, magari spacciandosi per qualcun altro. Con l'aggravante, pesantissima, che la voce può sembrare davvero quella che non è».

Fino ad oggi si discuteva, in sede dibattimentale, sull'utilizzabilità delle intercettazioni, ora la frontiera si sposta altrove: chi parla è davvero chi dice di essere? Voci e video possono essere manipolati con straordinaria disinvoltura e raffinatezza. «Inevitabile pensare - aggiunge de Gioia - che ci saranno molte più perizie e consulenze per stabilire con certezza l'identità di quella persona».

Un tema che è arrivato in Parlamento con un ordine del giorno presentato da Enrico Costa, deputato di Forza Italia: «Va trovato un modo per verificare che le intercettazioni siano realmente attribuibili ad un determinato soggetto e non il frutto di un'elaborazione dell'intelligenza artificiale. Si deve considerare infatti la vasta diffusione di sistemi poco costosi in grado di replicare la voce di chiunque a sua insaputa e in grado di consentire a chiunque di far pronunciare frasi e interi discorsi completamente inventati con la voce dell'inconsapevole vittima».

Se applichiamo questi scenari anche solo per un istante alle possibili strumentalizzazioni sul terreno della lotta politica, c'è da farsi venire i brividi. E si dovranno fissare regole e paletti per evitare che un personaggio, anche famoso e influente, sia buttato giù dal piedistallo con un complotto nato al computer. Si può costruire una macchinazione senza particolari difficoltà.

Ma non ci sono solo le incursioni devastanti nelle vite degli altri. L'intelligenza artificiale potrebbe dare una mano ad una giustizia sempre in affanno e a corto di risorse. Nessuno può seriamente immaginare che l'IA possa sostituire la camera di consiglio. E scrivere le sentenze al posto di questo o quel collegio. Altra cosa è l'aiuto a preparare provvedimenti che compongono la routine di molti magistrati: dalle messa in prova alla sospensione condizionale della pena, fino alle misure cautelari. «Qui - osserva de Gioia - il responso dell'algoritmo sarà solo di supporto per il magistrato che potrà disattendere le indicazioni offerte, dandone adeguata motivazione».

Sul piatto della bilancia c'è però un elemento importante: una sorta di interpretazione uniforme della legge, finalmente a portata di mano. Oggi l'autore di un reato può prendere una pena più alta o più bassa, a seconda del giudice chiamato ad emettere il verdetto. L'algoritmo potrebbe smussare le differenze, talvolta incomprensibili. Il tutto, naturalmente, entro certi limiti: semplificando questioni complesse, sappiamo che nel nostro sistema, a differenza di quello di common law, insomma anglosassone, il magistrato non è vincolato al caso precedente.

Dunque, ogni vicenda fa storia a sé e può avere un finale sorprendente.

Proiezioni su quel che sarà. Ma attenzione: anche i programmi si portano dietro i pregiudizi di chi li ha addestrati. La neutralità non esiste neppure nel mondo delle macchine.