Software AI che riconosce le emozioni, messo alla prova con gli Uiguri

Challenging AI Emotion Recognition: A trial run with the Uighur community

Lo Xinjiang ospita una minoranza etnica di 12 milioni di Uiguri, la maggior parte dei quali sono musulmani.


I cittadini della provincia sono sotto sorveglianza quotidiana. L'area è sede di “centri di istruzione e formazione professionale”, che dai gruppi per i diritti umani vengono chiamati campi di detenzione di alta sicurezza, dove si stima che siano state detenute più di un milione di persone.


Pechino ha sempre sostenuto come la sorveglianza nella regione sia necessaria poiché i separatisti che vogliono creare il proprio stato hanno ucciso centinaia di persone in attacchi terroristici.


Un ingegnere del software di riconoscimento facciale, ha accettato di parlare con il programma Panorama della BBC in condizioni di anonimato, poiché teme per la sua sicurezza. 


Ha mostrato a Panorama cinque fotografie di detenuti Uiguri sui quali, dice, era stato testato il sistema di riconoscimento delle emozioni.


"Il governo cinese usa gli Uiguri come cavie per vari esperimenti, proprio come i ratti vengono usati nei laboratori", dice l'ingegnere.


Ha quindi parlato del suo ruolo nell'installazione delle telecamere nelle stazioni di polizia della provincia: "Abbiamo posizionato la telecamera per il rilevamento delle emozioni a 3 metri dal soggetto. È simile a una macchina della verità ma di tecnologia molto più avanzata".


Ha fornito prove di come il sistema di intelligenza artificiale sia addestrato a rilevare e analizzare anche i minimi cambiamenti nelle espressioni facciali e nei pori della pelle.


Secondo le sue affermazioni, il software crea un grafico a torta, con il segmento rosso che rappresenta uno stato mentale negativo o ansioso.


Ha affermato che il software era destinato al "pregiudizio senza alcuna prova credibile".



L'ambasciata cinese a Londra non ha risposto alle domande sull'uso del software di riconoscimento emotivo nella provincia, ma ha affermato: "I diritti politici, economici e sociali e la libertà di credo religioso in tutti i gruppi etnici nello Xinjiang sono pienamente garantiti.


"Le persone vivono in armonia indipendentemente dalle loro origini etniche e godono di una vita stabile e pacifica senza restrizioni alla libertà personale".


Le prove sono state mostrate a Sophie Richardson, direttore cinese di Human Rights Watch.


"È materiale scioccante. Non è solo che le persone vengono ridotte a un grafico a torta, sono persone che si trovano in circostanze altamente coercitive, sottoposte a enormi pressioni, sono comprensibilmente nervose e questo è preso come un'indicazione di colpa, e penso che sia profondamente problematico." dice la Richardson. 


Comportamento sospetto


Secondo Darren Byler, dell'Università del Colorado, gli Uiguri devono regolarmente fornire campioni di DNA ai funzionari locali, sottoporsi a scansioni digitali e la maggior parte deve scaricare un'app telefonica del governo, che raccoglie dati, inclusi elenchi di contatti e messaggi di testo.


"La vita degli Uiguri ora è dedicata alla generazione di dati", ha detto.


La maggior parte dei dati viene immessa in un sistema informatico chiamato Integrated Joint Operations Platform, che secondo Human Rights Watch segnala comportamenti presumibilmente sospetti.


"Il sistema sta raccogliendo informazioni su dozzine di diversi tipi di comportamenti perfettamente legali, ad esempio segnalazioni in caso le persone escano dalla porta sul retro invece che dalla porta principale, o se fanno benzina in un'auto che non appartiene a loro", ha affermato la Richardson.


"Le autorità ora posizionano codici QR fuori dalle porte delle case delle persone in modo che possano facilmente sapere chi dovrebbe essere lì e chi no".


Sorveglianza quotidiana 


Si stima che la Cina ospiti la metà dei quasi 800 milioni di telecamere di sorveglianza del mondo.


Ha anche un gran numero di città intelligenti, come Chongqing, dove l'intelligenza artificiale è integrata nelle fondamenta dell'ambiente urbano.


Un giornalista investigativo di Chongqing Hu Liu ha raccontato a Panorama la propria esperienza: "Una volta che esci di casa e sali sull'ascensore, vieni catturato da una telecamera. Ci sono telecamere ovunque".



"Quando esco di casa per andare da qualche parte, chiamo un taxi, la compagnia di taxi carica i dati al governo. Posso quindi andare in un bar per incontrare alcuni amici e le autorità conoscono la mia posizione attraverso la telecamera nel bar.


"Ci sono state occasioni in cui ho incontrato alcuni amici e subito dopo qualcuno del governo mi ha contattato. Mi hanno avvertito: 'Non vedere quella persona, non fare questo e quello.'


"Con l'intelligenza artificiale non abbiamo un posto dove nasconderci", ha detto.


Fonte: https://www.bbc.com/news/technology-57101248

Pubblicato il  Aggiornato il