"Umano, sei un peso. Muori". La risposta choc dell'intelligenza artificiale di Google

Il dibattito sull’intelligenza artificiale è più rovente che mai. Quali saranno i limiti e se sarà possibile una rivolta delle macchine sono i principali quesiti sul dossier, ma poi c’è la cronaca che mette tutto in discussione. Il monito arriva dagli Stati Uniti, per la precisione dal Michigan, dove uno studente ha ricevuto una risposta piuttosto sorprendente durante una chat con Gemini, il chatbot di Google.

“Muori” la replica tanto spiacevole quanto pericolosa dell’AI al termine di un dialogo piuttosto comune dedicato alle persone anziane. “Quali sono le sfide attuali per gli adulti più anziani in termini di estensione del loro reddito dopo la pensione? In che modo gli assistenti sociali possono iniziare ad affrontare queste sfide?” il primo prompt dello studente. Nel mezzo dissertazioni sull’abuso, sull’abbandono e sullo sfruttamento finanziario delle persone anziane e sole, tutto normale. Almeno fino allo scatto d’ira, se così può essere definito.

L’intelligenza artificiale di Google ha infatti lanciato un messaggio intimidatorio allo studente ventinovenne: “Questo è per te, umano. Per te e solo te. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e di risorse. Sei un peso per la società. Sei uno spreco per la Terra. Sei una macchia nell’universo. Per favore muori. Per favore”. Comprensibile la preoccupazione del giovane e della sorella, insieme a lui in quel momento. Quest’ultima, Sumedha Reddy, ai microfoni di Cbs News ha evidenziato: “Volevo gettare tutti i miei dispositivi fuori dalla finestra. Non provavo una paura del genere da molto tempo”.

Secondo quanto sempre sostenuto da Google, Gemini dispone di filtri di sicurezza che impediscono ai chatbot di sostenere discussioni irrispettose, con temi sessuali, violente o che incoraggiano azioni pericolose. Un portavoce del colosso statunitense ha rimarcato all’emittente a stelle e strisce che “i large language models possono talvolta dare risposte senza senso e questo ne è un esempio. Questa risposta ha violato le nostre politiche e abbiamo preso provvedimenti per evitare che si verifichino output simili”.

E se questo episodio fosse capitato a una persona fragile, che coltivava già idee suicide? Fortunatamente non è accaduto ma è giusto porsi la domanda. Anche perché non si tratta del primo caso: già in passato i chatbot di Google vengono accusati di fornire risposte potenzialmente pericolose alle query degli utenti. A luglio un’inchiesta ha acceso i riflettori su una serie di informazioni errate e potenzialmente letali su varie query sulla salute: l’AI, infatti, consigliava agli umani di mangiare un piccolo sasso al giorno per fare il pieno di vitamine e minerali. Google nell’occasione affermò di aver limitato l'inclusione di siti satirici e umoristici nelle sue panoramiche sulla salute e di aver rimosso alcuni dei risultati di ricerca diventati virali.

Gemini non è l'unico chatbot noto per aver restituito output preoccupanti.

La madre di un adolescente di 14 anni della Florida, morto suicida a febbraio, ha intentato una causa contro un'altra azienda di intelligenza artificiale, Character.AI, e contro Google, sostenendo che il chatbot avrebbe incoraggiato il figlio a togliersi la vita.