"Il problema dell'IA sarà sempre lo spirito critico degli umani"

Era il Sessantotto. «A quei tempi le ragazze che studiavano matematica sceglievano tutte l'indirizzo didattico. Io, con altri due, scelsi invece quello applicativo: fu il momento di rottura». Era il 1968 l'anno in cui Luigia Carlucci Aiello si laureò alla Normale di Pisa. Oggi è per tutti la madre dell'intelligenza artificiale in Italia, allora era una giovane studentessa guardata di sbieco, «anche perché mi sono beccata un periodo di isolamento maschilista. Ad ogni esame c'erano colleghi fuori dalla porta che aspettavano il mio fallimento». E invece...

Partiamo dall'inizio. Perché la matematica?

«Da bambina l'ho sempre preferita alle altre materie, e a un certo punto è stata una passione che non si metteva più in discussione».

Neanche dai suoi genitori?

«I miei avevano fatto la quinta elementare. Mio padre lavorava in ferrovia, mia madre era casalinga. La sua maestra aveva insistito con mia nonna perché potesse continuare gli studi, ma non c'era stato niente da fare. Sognava per me un futuro, a mia volta, da maestra».

Perché allora l'università?

«Perché all'inizio pensavo che fare la prof sarebbe stato meglio. Poi, a un certo punto, la cosa mi è scappata di mano».

Diceva dei suoi colleghi.

«Quelli che erano entrati con me avevano perso il posto, sono rimasta sola. Di positivo c'è che ho fatto belle amicizie e ho imparato un sacco di cose, ma i professori mi facevano la guerra. E per i normalisti fuori dalla porta c'era, non dico il desiderio che io andassi male, ma la certezza che questo sarebbe successo. Non è stato piacevole».

Invece, la laurea...

«Certo! Ci tenevo molto, però della Normale mi ero stufata. E siccome il mio relatore lavorava al Cnr sono andata lì: è stata la mia fortuna».

Erano i mitici Anni Settanta dell'hi-tech.

«In università di calcolatori praticamente non si parlava. Il Cnr era svincolato da quelle logiche, più di quanto lo sia ora. Mi sentivo finalmente libera di fare ricerca, in particolare su quello che poi da cibernetica è diventato informatica».

Che poi è l'antenata dell'IA.

«A Pisa l'ambiente era molto stimolante, il passaggio è stato naturale. Solo che parlare di intelligenza si considerava facesse paura alle persone, per cui il nostro reparto si chiamava elaborazione dell'informazione non numerica. Capito che gioco di parole?».

Da Pisa il volo verso Stanford...

«Il Cnr lasciava grande autonomia, così ho avuto l'occasione di andare due volte per complessivi quattro anni là dove stava cominciando tutto. Era il periodo dei figli dei fiori diventati nerd, non c'era solo Steve Jobs: spuntavano continuamente garage dove ribollivano le idee. Io sono finita nel laboratorio di John McCarthy, l'uomo che ha coniato la definizione di intelligenza artificiale. Ero già nel futuro».

Un altro mondo.

«Per chi veniva come me dall'Europa, uno choc culturale. In quei laboratori c'era una modalità di lavoro per noi aliena: erano aperti 24 ore su 24, ci si divertiva e c'era un gap tecnologico di almeno cinque anni. Soprattutto c'erano i computer, quelli veri».

Un esempio?

«Quando sono arrivata nel 1973 esisteva già Arpanet. L'idea di poter scambiare documenti con qualche collega del Mit di Boston era incredibile. Certo, c'era meno protezione della privacy. Ma era fantascienza».

Altri ricordi?

«Veder crescere intorno a Stanford quella che è oggi la Silicon Valley. Grandi aziende hanno aperto lì le loro sedi e così dai grossi computer si è passati a quelli personali. Ed è arrivato internet».

Gli Anni '80 e il ritorno in Italia.

«E nel passato: c'era molta resistenza al cambiamento. Per vedere i pc sulla scrivania si è dovuto aspettare la fine del decennio. Io intanto nel 1981 avevo vinto il concorso alla Sapienza di Roma e l'anno dopo entrai nel Dis che oggi si chiama Diag, Dipartimento di ingegneria informatica, automatica e gestionale. Nel 1991, poi, la cattedra di intelligenza artificiale».

L'inizio di tutto.

«In realtà di IA si parla dagli studi di Alain Turing: da un punto di vista non è mai cambiata. Possiamo dare poi inizio al suo sviluppo con l'arrivo dei calcolatori degli Anni Cinquanta, ma il concetto resta quello del sillogismo di Aristotele. Si tratta di voler meccanizzare delle azioni umane utilizzando una logica di buon senso».

Detto così sembra semplice.

«In effetti non lo è. All'inizio lo studio si divise tra software e robotica, ed era divertente vedere cosa faceva chi si occupava di costruire congegni intelligenti. Alla fine del secolo le due parti si sono ricongiunte e si è arrivati a lavorare sull'autonomia delle macchine».

Anche grazie ai suoi studi.

«Il gruppo di cui facevo parte si è sparso a insegnare nelle università di tutta Italia, anche se ancora dell'IA non si aveva grande considerazione. Infatti si parla di inverni dell'intelligenza artificiale».

Come mai?

«Pesava la mancanza di risultati. I teoremi dimostravano che certe cose erano molto difficili, e noi passavamo per essere quelli che perdevano tempo in cose inutili. Una mia ex studentessa recentemente mi ha confessato che suo padre non avrebbe voluto che fossi la sua relatrice perché, le diceva, non troverai mai lavoro. Il padre era un mio collega professore in ambito scientifico».

Poi è arrivata l'estate.

«Sono arrivati i risultati, la velocità che sta cambiando tutto. Per certi versi è impressionante».

L'IA sta ponendo anche dei problemi etici.

«Si dà grande importanza a questo, ma sono problemi sempre esistiti, già quando le prime idee diventavano software. Per esempio: se fai un sistema aperto per la medicina, chi ha la responsabilità se muore un paziente? Chi ha fatto il programma? Il medico? Tutti e due? L'etica dipende dalle persone, che poi sono la chiave di tutto».

In che senso?

«Ai miei studenti dicevo sempre: mettiamo che un sistema di IA vi convinca a investire tutti i vostri soldi nella LCA e voi vi fidate, di chi è la colpa se andate in bancarotta? Ah, LCA sta per Luigia Carlucci Aiello, e non ho mai avuto una ditta».

Le persone però oggi tendono a credere a tutto ciò che arriva sullo smartphone.

«Questa è una cosa molto grave. Dobbiamo reimparare ad avere spirito critico, lo stesso di quando studiavamo sui libri. Per caso allora prendevamo tutto per vero? A scuola ci insegnavano a leggere e ad analizzare. Oggi più che mai serve formazione».

«L'IA è come un martello: dipende da come lo si usa»: questa frase è sua. Non si parla troppo della sua pericolosità e meno dei benefici?

«Verissimo. Ho usato quella metafora per dire che gli strumenti vengono creati con degli obbiettivi, però poi possono essere usati anche per altri scopi. Certo che l'IA può essere pericolosa. Soprattutto se la utilizza un incompetente, oppure un sistema incontrollato e poco trasparente».

Soprattutto adesso che impara da se stessa.

«E allora? Per esempio: lei salirebbe su un'automobile per guidarla se le dicessi che non c'è stato alcun collaudo? Accetterebbe di assumere un farmaco che non è passato da un test? Dietro la macchina che ragiona ci deve essere sempre qualcuno che la indirizza».

Ma un robot potrà mai avere una coscienza?

«Il dibattito è aperto. Dipende da che cosa vuol dire coscienza: se è avere senso di se stessi, si entra nel campo del libero arbitrio. C'è chi è convinto di sì e chi pensa che non sia possibile come Federico Faggin, l'inventore dei microchip. Io tendo a pensarla come lui. E comunque io non mi fido ciecamente delle macchine».

Per cui?

«Credo nella loro potenza, però anche nelle regole. Sa come si dice: l'America inventa, la Cina copia, l'Europa regola. Ecco, che gli Stati Uniti siano un po' refrattari a mettere dei limiti è un problema».

Quella neolaureata alla Normale avrebbe mai pensato di vedere tutto questo?

«Sì e no. Però alla fine in fondo sono sempre algoritmi. Oggi di tutto si dice che è intelligenza artificiale, però non è che si sia inventata da sola. Sono stati i nostri programmi, che arrivano da altri programmi in cui sono stati corretti gli errori. Per cui alla fine sì: era prevedibile l'arrivare fin qui».

Cosa succederà ora?

«Difficile dirlo. Però io sono preoccupata di un'altra cosa».

Quale?

«Si discute troppo dei rischi dell'IA invece di concentrarsi sul clima. Noi possiamo controllare che cosa fanno le macchine, ma per la crisi ambientale si può arrivare un punto in cui non dipende più da noi».

Cosa fare?

«Temo che ci siamo già arrivati».