"Ci sono pericoli spaventosi". Lascia il padre pentito dell'IA

Hinton, lo sviluppatore del chatbot, si dimette da Google. "Non è ancora più intelligente di noi, lo sarà presto"

"Ci sono pericoli spaventosi". Lascia il padre pentito dell'IA

Il dottor Frankenstein della Silicon Valley abbandona il mostro da lui creato sperando di non essere da questo ucciso. Lui è Geoffrey Hinton, 75 anni ed è considerato il «padrino dell'Intelligenza artificiale». Ma ora sembra forse pentito, di certo assai diffidente sulle conseguenze dell'invenzione che ha attivamente contribuito a sviluppare. E, come segno di distacco, ha lasciato il suo posto presumibilmente ben pagato in Google.

La notizia l'ha data il New York Times. Lui, il diretto interessato, non ha smentito ma anzi si è preoccupato di spiegare su Twitter i motivi del suo passo indietro: «Me ne sono andato per poter parlare dei suoi pericoli». Hinton non ce l'ha con Google, che «ha agito in modo molto responsabile», ma sente che prima o poi la sua creatura che ora tanta curiosità desta, potrebbe sopravanzare e, chissà, forse soggiogare il genere umano. Uno scenario che lo scienziato informatico non vuole fiancheggiare ulteriormente. Per cui è sceso dalla grande macchina del pensiero algoritmico.

Certo, per Hinton il pericolo che l'Intelligenza artificiale sfugga al controllo dell'uomo non è né prossimo né certo. «In questo momento le reti neurali non sono più intelligenti di noi, per quanto ne so. Ma penso che presto potrebbero esserlo», profetizza. Ciò che lo porta a convivere con una sorta di strisciante rimorso che trova requie solo pensando a quella che lui definisce la «solita scusa». «Se non l'avessi fatto io, l'avrebbe fatto qualcun altro».

Hinton ha lavorato part-time presso Google per un decennio contribuendo a sviluppare il modello di intelligenza artificiale del gigante tecnologico, ma a un certo punto ha iniziato a farsi largo in lui il dubbio che far crescere quella tecnologia così affascinante e impattante non fosse proprio un'idea molto brillante per il genere umano.

Lo psicologo cognitivo e scienziato informatico canadese (ma di origine britannica) ha poi rilasciato un'intervista alla Bbc in cui ha chiarito meglio le sue angosce a proposito del fatto che il chatbot potrebbe presto superare il livello di informazioni di un cervello umano. «Quello che stiamo vedendo - ha detto lo scienziato - è che cose come GPT-4 oscurano una persona nella quantità di conoscenza generale che ha. In termini di ragionamento, non è ancora così efficace, ma già è in grado di fare un semplice ragionamento. E dato il ritmo dei progressi, ci aspettiamo che le cose migliorino abbastanza velocemente. Guardate dov'eravamo cinque anni fa e la situazione attuale». Un quadro «spaventoso» nel quale «è difficile vedere come evitare che i cattivi attori usino l'IA per cose cattive».

Il segnale forte lasciato da Hinton è subito raccolto in sede europea. «Le dimissioni di Geoffrey Hinton da Google rilanciano la discussione sull'Intelligenza artificiale - twitta Paolo Gentiloni, commissario europeo all'Economia - Grandi potenzialità, ad esempio per la salute. Ma anche rischi. L'Europa lavora per regole del gioco efficaci».

«Le preoccupazioni di Hinton - nota Brando Benifei, capodelegazione degli eurodeputati Pd e relatore del testo sulle nuove norme per l'intelligenza artificiale - dimostrano che la regolamentazione europea alla quale stiamo lavorando è urgente, ma è ugualmente importante avviare un confronto globale per coordinare lo sviluppo dell'IA di grande potenza contro rischi incontrollabili».

Commenti
Disclaimer
I commenti saranno accettati:
  • dal lunedì al venerdì dalle ore 10:00 alle ore 20:00
  • sabato, domenica e festivi dalle ore 10:00 alle ore 18:00.
Pubblica un commento
Non sono consentiti commenti che contengano termini violenti, discriminatori o che contravvengano alle elementari regole di netiquette. Qui le norme di comportamento per esteso.
Accedi
ilGiornale.it Logo Ricarica