L'intelligenza artificiale, le fonti e la spazzatura del web

Strepitosa IA, ma potrebbe cominciare a mostrare qualche limite. D’altra parte in due anni il progresso è stato rapidissimo, non se lo aspettavano neppure gli sviluppatori, che forse si aspettavano un inizio di rallentamento. La CNBC sta riscontrando un’assenza di miglioramenti importanti: tanto Gpt-5 di OpenAI quanto Gemini non hanno prestazioni migliori. Il problema è la spazzatura, e noi umani la produciamo non solo materialmente, ma anche intellettualmente: in rete finiscono dati esatti e dati sbagliati, informazioni esatte e informazioni sbagliate, e per adesso l’AI si è barcamenata bene, ma le fonti a cui attingere si stanno esaurendo e contaminando con la spazzatura del web. Vero che meno di un mese fa ha suscitato clamore lo studio condotto da un team di ricercatori dell’Università di Pittsburgh, dove l’AI ha generato poesie di Shakespeare che sono state sottoposte a lettori i quali non hanno saputo distinguerle da veri testi di Shakespeare. Con un piccolo dettaglio: i lettori non erano esperti di Shakespeare.

Mi torna in mente un celebre volume di Raymond Queneau del 1961, Cent mille milliard de poèmes, e dentro c’erano davvero cento miliardi di poemi. Gli sono bastati dieci fogli divisi in quattordici bande orizzontali spostabili a piacere dal lettore, e ogni volta ne viene fuori un sonetto di senso compiuto. Per Queneau era una macchina per la produzione di poesie, e «chiunque può comporre a piacimento centomila miliardi di sonetti, tutti regolari, s’intende. Perché questa è, dopo tutto, nient’altro che una macchina per la produzione di poesie; e queste sono sì un numero limitato; ma abbastanza da poter permettere in teoria una lettura lunga quasi duecento milioni di anni (leggendo ventiquattro ore su ventiquattro)».

Certo, il libro di Queneau non era un’IA generativa, ma l’uso da parte del lettore generava casualmente miliardi di poesie dotate di senso. Perché ogni striscia aveva un senso che poteva essere accoppiarsi con il senso di qualsiasi altra riga. Ma se un manipolatore, diciamo un hacker di libri, avesse aggiunto delle strisce senza senso, il lettore se ne sarebbe accorto. Vorrei anche aggiungere una piccola riflessione: all’AI puoi chiedere di fare un quadro di Picasso che sembri Picasso, e un non conoscitore di Picasso lo scambierebbe per Picasso. Ma il nostro più grande neuroetologo, Giorgio Vallortigara, è riuscito a insegnare alle api a distinguere per esempio un Monet da un Picasso, e non uno specifico Monet o uno specifico Picasso, ma lo stile di entrambi. E un’ape ha poco meno di un milione di neuroni. Se potesse dipingere per ottenere cibo, produrrebbe un quadro simile a Picasso o simile a Monet che però non sarebbero un Picasso o un Monet, ne riprenderebbe i pattern visivi che ingannerebbero i profani.

Il mio amico Gianluigi Ballarani, esperto di criptovalute e AI, a pranzo da me continuava a consultare l’AI in ogni conversazione, e molte volte mi ha sorpreso (mi ha sorpreso anche il suo essere fuso con l’AI, a tal punto che a un certo punto non capivo più se fosse umano o meno). Tuttavia continuo a vedere il limite delle fonti, c’è sempre qualche dettaglio che non quadra. Un po’ come vedevo il limite in Wikipedia, che però è formata da collettivi umani anonimi, una specie di unico cervello composto da tanti cervelli. Philip Roth non riuscì a far cancellare un’informazione errata che riguardava dove lo stesso Roth si fosse ispirato per un romanzo, e Wikipedia gli rispose che ci volevano terze fonti, la sua non valeva. Io stesso entrai in polemica con Wikipedia: avevo una pagina dedicata a me e realizzata spontaneamente da studenti universitari che avevano scritto tesi di laurea sulle mie opere, quindi con fonti e tutto, di livello accademico, ma veniva continuamente modificata da hater casuali, i quali ci inserivano notizie sbagliate per invalidarla. Io per reazione la definii «un’enciclopedia ideologica del cazzo», e Wikipedia, o meglio la comunità di Wikipedia, per risposta mandò alle ortiche tutto il lavoro degli studenti lasciando solo una scarna pagina di cinque righe. E stiamo parlando di esseri umani, tanto più vendicativi quanto più anonimi. Che tuttavia modificano continuamente le informazioni in rete.

Per cui torniamo al problema iniziale: la spazzatura. Se all’AI continueranno a dare da mangiare piatti raffinatissimi insieme all’immondizia ho l’impressione che difficilmente ne verrà fuori, senza controllo umano, qualcosa in grado di generare informazione attendibile in qualsiasi campo, e al momento il problema mi sembra proprio questo. Immagini, per carità, ne può produrre a miliardi pescando e mescolando dalla rete, ma prendete un esempio banale, la famosa pipa dipinta da Magritte con la scritta “C’est pas une pipe”, per arrivare a un’idea così semplice c’è dietro un ragionamento complesso. Non per altro Umberto Eco, per l’interpretazione di un’opera d’arte (ne I limiti dell’interpretazione) includeva tre elementi: l’intenctio auctoris, l’intenctio operis, e l’intenctio lectoris.

Solo dalla combinazione di queste tre intenzioni (l’autore, l’opera, il lettore) si poteva arrivare all’interpretazione di un’opera. Per cui sì, l’AI può generare infinite immagini, ma difficilmente un’opera. A meno che non diventi autocosciente, cosa da cui siamo ancora lontani. Per ora bisogna insegnarle cosa è la spazzatura.