Riconoscimento facciale di Amazon associa 28 politici Usa a criminali

Il sistema di riconoscimento facciale di Amazon ha scambiato 28 membri del Congresso americano per criminali.

Lo ha affermato l'American Civil Liberties Union (Aclu), un'associazione californiana che si batte per la difesa dei diritti, che aveva effettuato un test, per convincere il Congresso degli Stati Uniti a sostenere una delle sue cause: l'approvazione di una moratoria sull'uso del riconoscimento facciale nella pubblica sicurezza.

L'Aclu aveva creato un archivio, raccogliendovi oltre 25mila foto segnaletiche di persone già note alle forze dell'ordine e aveva chiesto di confrontarle con quelle dei 535 membri del Congresso americano, tramite Rekognition, il software di riconoscimento facciale sviluppato da Amazon. Erroneamente, 28 politici sono stati associati ad altrettanti criminali.

Non solo. Alcuni membri del Congresso di origine afroamericana e latina sono stati identificati, senza che venisse tenuto conto dell'etnia: il software, quindi, non distingue le minoranze etniche. Probabilmente perché gli algoritmi che lo muovono sono stati allenati soprattutto con volti di persone bianche.

Amazon si difende sostenendo che l'Aclu abbia condotto il test accettando un risultato corretto all'80%, mentre per il riconoscimento umano

la soglia dovrebbe essere fissata al 95%. Tre dei parlamentari coinvolti hanno scritto una lettera al colosso dell'ecommerce, per chiedere spiegazioni, sul modo in cui opera l'algoritmo e sull'uso che ne è già stato fatto.