“Vi siete mai chiesti come sarebbe vivere sotto la sorveglianza dell’intelligenza artificiale in Europa?”. Esordisce così “Don’t Spy EU”, campagna di sensibilizzazione che fa luce sugli effetti deleteri del controllo di massa realizzato attraverso le tecnologie di AI.
Prima di entrare nei dettagli dell’iniziativa è utile ricordare che tra i diversi strumenti di sorveglianza biometrica troviamo il riconoscimento facciale, una tecnica che consente di identificare una determinata persona attraverso l’analisi dei tratti somatici. Insieme ad altri sistemi di controllo basati sulla biometria, la facial recognition è oggetto di disciplina normativa all’interno dell’AI Act, ossia la prima legge al mondo di matrice comunitaria che mira a regolamentare l’intelligenza artificiale all’interno degli stati membri.
Approvata con emendamenti il 14 giugno dal Parlamento Europeo in sede plenaria, la bozza del Regolamento ha affrontato finora diverse sessioni negoziali (i cosiddetti triloghi, discussioni inter-istituzionali tra Parlamento, Commissione e Consiglio) e ora attende il confronto del 6 dicembre in vista dell’accordo finale che condurrà alla versione definitiva.
Nonostante il niet del Parlamento europeo all’utilizzo di strumenti di polizia predittiva e al riconoscimento facciale in tempo reale in spazi accessibili al pubblico, vi sono comunque delle perplessità – sollevate da più parti – che riguardano la possibilità di impiegare il riconoscimento facciale ex-post in alcuni casi e a determinate condizioni. Inoltre, diversi stati membri premono per l’allentamento dei divieti secondo la logica della sicurezza nazionale.
Non è difficile immaginare lo scenario che potrebbe presentarsi, con livelli di intrusione massivi nella privacy dei cittadini e una sconsacrazione delle libertà fondamentali e della dignità umana già messe a dura prova.
“Don’t Spy EU” ci illustra cosa potrebbe accadere in concreto. Come? Scegliendo la linea della provocazione. In vista del negoziato del 6 dicembre, la piattaforma simula il riconoscimento facciale, l’identificazione delle emozioni (nonché di altri dettagli quali età, genere) e i deepfake sui volti pubblici di coloro che sono chiamati a regolamentare l’intelligenza artificiale e siedono sugli scranni delle istituzioni europee, per convincerli a vietare la sorveglianza biometrica. E invita quanti più cittadini a fare altrettanto attraverso le sezioni presenti nel sito.
Le tecnologie di mappatura dei volti possono essere usate non solo per il riconoscimento facciale ma anche per produrre contenuti falsi e verosimili. Così nella piattaforma è possibile osservare, ad esempio, un deepfake della premier italiana in veste di rifugiata o del ministro dell’Interno Matteo Piantedosi (sostenitore della linea securitaria basata sull’utilizzo sistematico dell’AI negli spazi pubblici) ritratto in stile trapper. Ancora, il sito mostra cosa potrebbe accadere in caso di riconoscimento delle emozioni, del genere e dell’età. Margini di errore compresi dato che, per fare un esempio, il ministro greco della giustizia Floridis viene classificato come donna con una percentuale dell’85,1%.
La campagna “Don’t Spy EU” è frutto della collaborazione tra Hermes Center, The Good Lobby e info.nodes, associazioni no-profit impegnate nella difesa dei diritti digitali. Si tratta della seconda fase di un progetto partito nel mese di maggio 2023 e denominato “Don’t Spy On Us”: “La fase iniziale della campagna – si legge nel sito – consisteva nell’incoraggiare l’opinione pubblica a sfidare i membri del Parlamento europeo coinvolti nei negoziati sulla legge europea sull’intelligenza artificiale che supportavano la sorveglianza biometrica. Nella vecchia versione del nostro sito web, gli utenti potevano scansionare i volti dei politici con un algoritmo di riconoscimento facciale. Ora siamo orgogliosi di annunciare il lancio di Don’t Spy EU, la nostra nuova campagna, su un sito web completamente nuovo”.
L’obiettivo segue lo stesso filo conduttore: “mostrare come, utilizzando una tecnologia disponibile al pubblico, i governi e le aziende private potrebbero potenzialmente accedere a informazioni sensibili sui cittadini (età, sesso, persino stato emotivo) e utilizzarle a loro piacimento, qualora l’identificazione biometrica a distanza (RBI) diventasse legale nell’UE”.
Chi volesse contribuire al progetto può effettuare una o più simulazioni attraverso la piattaforma e condividerle usando l’hashtag #DontSpyEU.
