Fanno foto hard delle compagne di classe con l'ai: ecco perché non possono essere fermati

La tecnologia migliora di giorno in giorno e sarebbe un errore madornale sottovalutare le storture dell’AI. Negli ultimi tempi si sono moltiplicati i siti internet che propongono deepfake porn, ossia immagini e video manipolati sostituendo il volto della protagonista del contenuto hard con quello di una celebrità. Ma purtroppo la criticità non riguarda solo il mondo vip e in New Jersey ne sanno qualcosa. La Westfield High School è stata scossa da un enorme scandalo: alcuni studenti avrebbero realizzato immagini delle compagne di classe nude grazie all’intelligenza artificiale.

Ad ottobre alcune studentesse hanno scoperto che durante l’estate sono state diffuse alcune immagini di nudo con il loro volto. In una e-mail ai genitori, la preside dell’istituto Mary Asfendis ha denunciato “l’incidente molto grave”, sottolineando come le fotografie in questione fossero state cancellate e ritirate dalla circolazione. Per motivi di privacy, la scuola non ha reso noto il numero di adolescenti coinvolti, né è stato rivelato se qualche ragazzo affronterà sanzioni disciplinari per la “bravata”.

Non si tratta di un caso isolato. A settembre è accaduto qualcosa di molto simile in Spagna, per la precisione ad Almendralejo: vittime trenta ragazze di quattro diverse scuole, tutte “immortalate” senza vestiti grazie all’AI. Come anticipato, la pornografia deepfake ha chiamato in causa anche molti volti noti: dalla deputata Alexandria Ocasio-Cortez alla star di Hollywood Scarlett Johansson, passando per influencer e streamer.

Come evidenziato da Qz, il New Jersey non ha alcuna legge che penalizzi produttori e distributori di nudi generati dall’intelligenza artificiale. Il 10 ottobre, il governatore Phil Murphy ha annunciato una task force sull’intelligenza artificiale, affermando che “non lavorerà solo per comprendere i vantaggi dell’intelligenza artificiale, ma anche per analizzarne la crescita e i potenziali rischi”. Alcuni Stati hanno optato per adeguate contromisure, ma negli Stati Uniti manca una legge federale contro i nudi deepfake: l’ordine esecutivo del presidente Joe Biden sulla regolamentazione dell’intelligenza artificiale, emesso il 30 ottobre, definisce le linee guida per il monitoraggio e il rilevamento, la creazione di guardrail e gli investimenti in strumenti tecnologici, ma non implementa una legge a livello nazionale.

I numeri spaventano gli States. I nudi generati dall’AI sono aumentati del 290 per cento dal 2018 ad oggi.

In totale, sono stati generati 143 mila video porno nei quaranti siti web più popolari per video “fake”, toccando il record assoluto. Questi contenuti hanno generato 4,2 milioni di visualizzazioni. E ancora, secondo l’FBI, sono quasi 27 mila gli statunitensi vittime di “sextortion” nel 2023, un aumento del 149 per cento rispetto al 2019.