Riattivati gli account dormienti: così l'Isis torna a minacciarci

Da una settimana lo Stato islamico attiva in sequenza su Twitter degli account dormienti per continuare a diffondere i contenuti nel cyberspazio a seguito dell’operazione di Europol. Dopo le nostre segnalazioni, diversi account dormienti collegati allo Stato islamico sono stati sospesi. Abbiamo notato, infine, che l’IA del social network palesa ancora delle criticità nel rilevare e bloccare i contenuti violenti.

Stato islamico, gli account Twitter dormienti

Lo Stato Islamico continua a diffondere contenuti nel cyberspazio utilizzando dei nuovi account su diverse piattaforme web. Una di queste è Hoop Messenger. Per garantire la preziosa persistenza digitale, lo Stato islamico ha attivato in sequenza su Twitter degli account dormienti. Sono account registrati (ed ereditati) tra il 2012 ed il 2014 e trasformati in canali di backup per la diffusione del materiale ufficiale dello Stato islamico. Nella maggior parte dei casi, tali account non hanno mai pubblicato alcun contenuto fino a poche ore fa, quando sono stati riattivati. Abbiamo proceduto alla loro identificazione tramite cifrario arabo standard. Un secondo cifrario arabo è in fase di test. Lo Stato islamico sta testando diverse procedure per garantire una certa resilienza e persistenza ai suoi canali di diffusione ed un secondo cifrario. Quest’ultimo deve essere intuitivo e semplice. Il processo di transizione verso una nuova piattaforma, infatti, determina un minor numero di follower per un impatto certamente ridotto. Tali profili Twitter andrebbero monitorati attentamente sia per le procedure utilizzate che per la rete follower/following, chiaramente collegata o propensa all’ideologia dell’organizzazione terroristica.

Il problema dei contenuti violenti

L’IA di Twitter è progettata per identificare i contenuti indesiderati come la pornografia, la propaganda terroristica e la violenza estrema tramite segnalazione umana e/o rilevazione automatica. Tuttavia a causa di diversi fattori (come l’enorme volume di dati caricati, la capacità di mascheramento dei terroristi, collegamenti a piattaforme non monitorate e video non in elenco) molti contenuti riescono a sfuggire all’IA di Twitter. Prendiamo a rifermento l’ultimo account Twitter dormiente attivato. Registrato nel luglio del 2012, non ha mai pubblicato alcun Tweet fino a 36 ore fa. Nel momento in cui scriviamo, l’account Twitter in questione ha già pubblicato 32 Tweet. Tra i contenuti pubblicati anche numerosi video di esecuzioni di massa, omicidi, decapitazioni e bambini armati che giurano fedeltà allo Stato islamico. L’IA di Twitter avrebbe dovuto identificare uno o più cadaveri in video e bloccare il contenuto in attesa di una valutazione umana. Perché tali contenuti non sono stati identificati come violenti? L’IA di Twitter potrebbe soffrire delle medesime criticità legate alle lingua araba che abbiamo già evidenziato per YouTube? Se così fosse, il problema sarebbe legato ai contenuti jihadisti pubblicati in lingua araba. Un problema, se così fosse, legato all’incapacità degli algoritmi di Twitter di rilevare i contenuti violenti pubblicati in lingua araba.

Sembrerebbe, infatti, che gran parte degli sforzi si siano concentrati sui contenuti in lingua inglese. I contenuti pubblicati in arabo (la lingua più utilizzata dai terroristi sulla rete), invece, sono identificati con una certa difficoltà.