ShareArt e rilevamento del volto dei visitatori nei musei: inviata segnalazione al Garante Privacy

Oggi, 23 giugno, abbiamo inviato al Garante privacy una segnalazione in merito al sistema ShareArt, in uso a Palazzo Accursio (Bologna). Il sistema ha lo scopo di misurare “il gradimento di un’opera d’arte” e rilevare il corretto utilizzo di mascherina e distanziamento.

Come descritto in un documento tecnico della stessa ENEA e rinvenuto online dal Centro Hermes, il sistema rileva automaticamente i volti dei visitatori che guardano in direzione dell’opera, acquisendo una serie di informazioni relative al comportamento nell’osservazione delle opere d’arte: percorso per arrivare all’opera, numero di persone che l’hanno osservata, tempo e distanza di osservazione, genere, classe di età e stato d’animo dei visitatori che osservano.

Riteniamo che l’applicazione di tale sistema costituisca un trattamento illecito in tempo reale di dati biometrici che possono essere utilizzati per identificare visitatori, ma non solo. L’idea che lo stato emotivo delle persone possa essere dedotto dalle loro espressioni facciali è senza nessun fondamento scientifico, e rischia di discriminare coloro che non si ritrovano nel binarismo di genere o sono transgender.

Secondo quanto riportato dall’agenzia stampa Ansa, il sistema è frutto di una collaborazione tra Enea e Istituzione Bologna Musei e la città di Bologna è stata scelta in quanto “contesto ideale di sperimentazione e applicazione sul campo per la realizzazione di repository di informazioni eterogenee e personalizzate nelle fasi di acquisizione dati, conservazione e documentazione”.

Chiediamo che l’Autorità Garante per la protezione dei dati personali intervenga immediatamente, valutando in maniera approfondita il sistema ShareArt e in particolare:

  • la legittimità del trattamento di dati biometrici in tempo reale messo in atto dal sistema;
  • la legittimità della classificazione dei visitatori in base all’età e al genere;
  • la legittimità della profilazione tramite il ricorso alla valutazione dello stato d’animo dei visitatori (emotion recognition).

La segnalazione è visionabile QUI

 

Vivere in una #PaperBagSociety

Negli ultimi mesi abbiamo puntato l’attenzione sui pericoli della sorveglianza biometrica di massa. Nel farlo abbiamo anche studiato e capito quanto siano complessi i sistemi che si basano sui dati biometrici. Abbiamo cercato di trovare diversi modi per ingannarli, guardando alle tecnologie di sorveglianza del riconoscimento facciale impiegate nei nostri spazi pubblici. I risultati però sono chiari: come singoli individui, è terribilmente difficile ingannare la sorveglianza biometrica di massa. Non possiamo sfuggire all’algoritmo.

Questo è il motivo per cui uno degli organizzatori della campagna ha scherzato dicendo: “Mettiamoci un sacchetto di carta in testa e saremo al sicuro dalla sorveglianza del riconoscimento facciale.

Allora ci siamo chiesti: come sarebbe vivere la vita di tutti i giorni con un sacchetto di carta sulla testa? Abbiamo bisogno di usare un sacchetto di carta per proteggere i nostri volti dalle inquietanti tecnologie di riconoscimento facciale? È questa la società in cui vogliamo vivere? 

 La #PaperBagSociety è una realtà distopica, una metafora del modo in cui la sorveglianza biometrica di massa sopprime le nostre scelte, la nostra parola e le nostre libertà. 

Ci siamo resi conto che questo potrebbe essere un perfetto esercizio di immaginazione per chiunque voglia capire meglio perché abbiamo bisogno di un mondo libero da tecnologie intrusive che tracciano i nostri corpi e comportamenti. 

Così è nata la #PaperBagSociety challenge

La #PaperBagSociety è una sfida sui social media e fa parte della campagna #ReclaimYourFace. La sfida invita tutti a condividere sui social l’impatto che avrebbe vivere con un sacchetto di carta in testa. 

Creando degli scenari assurdi, questa azione vuole focalizzare l’attenzione sul perché il desiderio di evitare le inquietanti tecnologie di sorveglianza biometrica negli spazi pubblici non dovrebbe essere un pesante fardello che ricade su di noi, le persone. 

Invece, un futuro alternativo è possibile. Ci sono soluzioni per prevenire una società dove tutti indossiamo una busta di carta in testa: dobbiamo vietare la sorveglianza biometrica di massa in tutta l’UE e oltre!

Partecipa alla sfida #PaperBagSociety!

  1. Vai a fare una passeggiata in uno spazio accessibile al pubblico (piazza pubblica, per strada, in una stazione ferroviaria, un supermercato, un caffè, uno stadio, un centro commerciale, ecc);
  2. Mettiti un sacchetto di carta e prova a vivere nello spazio pubblico;
  3. Fai un video o una foto dell’esperienza e condividila sui social media;
  4. Ricorda di taggare #ReclaimYourFace & #PaperBagSociety e spiega ai tuoi amici perché dobbiamo vietare la sorveglianza biometrica di massa;

P.S. Prima di ogni altra cosa: assicurati di non mettere in pericolo te stesso o gli altri. Non fare nulla di pericoloso.

P.P.S. Hai la fortuna di essere cittadino di un paese dell’UE? FIRMA per vietare la sorveglianza biometrica di massa!

Il Centro Hermes e altre 3 associazioni hanno inviato segnalazioni e reclami contro Clearview AI

Una coalizione di associazioni che include il Centro Hermes, Privacy International, Homo Digitalis e noyb – the European Center for Digital Rights ha inviato una serie di segnalazioni contro Clearview AI, Inc., un’azienda di riconoscimento facciale che afferma di avere “il più grande database conosciuto con oltre 3 miliardi di immagini di volti.” I reclami e le segnalazioni sono stati inviati alle Autorità per la protezione dei dati personali di Austria, Francia, Grecia, Italia, e Regno Unito.

Come sottolineato nelle nostre analisi, Clearview AI utilizza un sistema automatico per fare scraping delle immagini, uno strumento che scandaglia il web e raccoglie immagini in cui rileva la presenza di un volto umano. Clearview AI fa scraping di miliardi di immagini dai social media e da altri siti sul web. Tutti questi volti vengono poi analizzati dall’algoritmo di riconoscimento facciale di Clearview AI per costruire un gigantesco database di dati biometrici. Clearview vende poi l’accesso a questo database a forze dell’ordine e aziende private.

A causa della sua natura estremamente invasiva, l’impiego di sistemi per il riconoscimento facciale, e specialmente qualunque modello di business che punta a sfruttarli, solleva gravi preoccupazioni per le società moderne e le nostre libertà individuali. Il mese scorso, il Garante per la protezione dei dati personali italiano ha bloccato i piani della polizia che prevedevano l’impiego del riconoscimento facciale in tempo reale. “Le tecnologie per il riconoscimento facciale mettono in pericolo le nostre vite sia quando siamo su internet che quando siamo in strada,” ha dichiarato Fabio Pietrosanti, Presidente del Centro Hermes. “Raccogliendo di nascosto i nostri dati biometrici, queste tecnologie introducono una sorveglianza costante dei nostri corpi.”

Le Autorità ora hanno 3 mesi di tempo per rispondere ai reclami. Al momento, le Autorità per la protezione dei dati dell’Italia e del Regno Unito stanno già esaminando le attività dell’azienda e ci auguriamo che le nostre segnalazioni possano fornire un supporto alle loro istruttorie. Ci aspettiamo inoltre che le Autorità dei diversi stati uniscano le proprie forze e collaborino insieme per stabilire che le attività di Clearview non sono ammesse in Europa—questo avrebbe ramificazioni importanti anche sulle attività a livello globale dell’azienda.

Clearview AI e la minaccia ai nostri diritti

Clearview è uscita allo scoperto nel gennaio 2020, quando un’inchiesta del New York Times ha rivelato al mondo intero le sue attività. Prima di allora, Clearview aveva operato in gran segreto mentre allo stesso tempo offriva il suo prodotto alle forze dell’ordine in vari paesi, nonché ad aziende private.

Insieme alle immagini dei volti, lo strumento di scraping di Clearview AI raccoglie anche i metadati associati alle immagini, come il titolo dell’immagine o quello del sito web da cui è presa, dati di posizione, e il link della fonte.

“Le leggi europee sulla protezione dei dati sono molto chiare quando si tratta delle finalità per cui le aziende possono usare i nostri dati” ha detto Ioannis Kouvakas, Legal Officer di Privacy International. “Estrarre le nostre caratteristiche facciali uniche o addirittura condividerle con la polizia e altre aziende va ben oltre quello che potremmo mai aspettarci come utenti online”.

“Clearview sembra voler scambiare Internet per uno spazio omogeneo e completamente pubblico dove tutto è lì a disposizione di tutti per essere preso” ha sottolineato Lucie Audibert, Legal Officer di Privacy International. “Tutto questo è chiaramente sbagliato. Tali pratiche minacciano il carattere aperto di Internet e i numerosi diritti e libertà che favorisce.”

Le cinque segnalazioni, alcune delle quali si basano anche su richieste di accesso effettuate dagli interessati, vanno ad aggiungersi a una serie di istruttorie avviate sulla scia delle rivelazioni dello scorso anno. “Solo perché qualcosa è ‘online’ non significa che sia lì per essere presa da altri in qualsiasi modo essi vogliano – e questo vale sia moralmente che legalmente,” ha dichiarato Alan Dahi, Data Protection Lawyer presso noyb. “Le Autorità per la protezione dei dati personali devono intervenire e impedire a Clearview e ad aziende simili di raccogliere i dati personali delle persone che risiedono in Europa.”

Secondo quanto riferito dai giornali, Clearview ha siglato contratti anche con alcune forze dell’ordine europee. In Grecia, a seguito di una richiesta di informazioni inviata da Homo Digitalis, la polizia ha negato la collaborazione con l’azienda. “È importante aumentare l’attenzione e lo scrutinio su questo tema. Le Autorità per la protezione dei dati hanno forti poteri investigativi e abbiamo bisogno di una reazione coordinata a queste partnership pubblico-privato,” ha ribadito Marina Zacharopoulou, Avvocata e membro di Homo Digitalis.

I cittadini e le cittadine europee possono chiedere a Clearview se il proprio volto è contenuto nel database e richiedere che i propri dati biometrici non siano più inclusi nelle ricerche inviando una richiesta all’indirizzo [privacy@clearview.ai] oppure seguendo le modalità offerte dalla piattaforma My Data Done Right.


Qui è disponibile il testo della segnalazione inviata al Garante per la protezione dei dati personali.

Ricorda che puoi firmare anche l’Iniziativa dei cittadini europei per chiedere il ban della sorveglianza biometrica di massa sul sito della campagna Reclaim Your Face.

La proposta di Regolamento sull’AI della Commissione Europea dimostra esattamente il motivo per cui chiediamo un divieto della sorveglianza biometrica di massa

Ieri la Commissione Europea ha presentato una proposta di Regolamento per l’Intelligenza Artificiale (AI) che sottolinea i rischi della sorveglianza biometrica di massa, e propone una nuova regolamentazione per vietare l’uso da parte delle forze dell’ordine di alcune di queste tecnologie —un piccolo passo nella giusta direzione.

In particolare, siamo lieti di vedere che la Commissione riconosca che la sorveglianza biometrica di massa ha un impatto altamente invasivo sui diritti e le libertà delle persone, così come il fatto che l’uso di queste tecnologie possa “influenzare la vita privata di una grande parte della popolazione ed evocare una sensazione di sorveglianza costante (…)“. Questi sono esattamente i motivi che hanno spinto la coalizione Reclaim Your Face a battersi per vietare la sorveglianza biometrica con una campagna pubblica, e dimostra che i nostri punti hanno colpito nel segno.

Purtroppo, però, siamo delusi perché la proposta odierna non fa abbastanza per proteggere le persone da molteplici tipologie di sorveglianza biometrica di massa che abbiamo già visto in azione in Europa. Come risultato la proposta si contraddice, permettendo alcune forme di sorveglianza biometrica di massa che però riconosce essere incompatibili con i nostri diritti fondamentali e con le libertà protette in Europa!

In particolare, la proposta vieta “l’identificazione biometrica da remoto” in “real-time” per finalità di sicurezza. Eppure, riteniamo ci siano ancora grossi problemi:

  • La formulazione è spesso vaga e contiene diversi elementi definiti in maniera poco precisa, lasciando ampio spazio di interpretazione e discrezione. Ciò riproduce molti dei problemi già esistenti nelle leggi sulla protezione dei dati personali che ci hanno portato a chiedere un divieto esplicito;
  • Il divieto si applica solo alle forze dell’ordine, ma non proibisce usi altrettanto invasivi e pericolosi da parte di altre autorità governative e di aziende private, che costituiscono comunque una sorveglianza biometrica di massa;
  • Il divieto per le forze dell’ordine presenta molte eccezioni definite in modo troppo ampio e che quindi potrebbero seriamente minarne lo scopo. In questo modo si lascia ampio spazio per una sorveglianza biometrica di massa continuativa dello spazio pubblico da parte delle autorità di polizia;
  • È vietata solo l’identificazione in “real-time” a fini di sicurezza. È quindi ancora possibile identificare persone dopo che le immagini sono state registrate (il riferimento nel regolamento a “post”, quindi dopo che un evento è avvenuto)—ciò vuol dire, per esempio, che la polizia potrebbe ancora usare il database di Clearview AI;
  • Tutte le altre pratiche di identificazione biometrica—inclusa quella spesso considerata psuedo-scientifica e altamente discriminatoria della “categorizzazione” biometrica—non sono vietate dalla proposta.

La coalizione Reclaim Your Face, composta al momento da 60 associazioni e gruppi che si occupano di diritti umani digitali e di giustizia sociale in tutta Europa, è nata a ottobre 2020 proprio per opporsi alla sorveglianza biometrica di massa in Europa. La coalizione ha sottolineato che questa pratica è invasiva, discriminatoria e antidemocratica.

Se l’Europa non vieterà la sorveglianza biometrica, il rischio di sorveglianza di massa nelle nostre città sarà estremamente reale. La tecnologia non può avere il potere di definire chi siamo, nè di controllarci. Privacy significa potere. Reclamare il possesso delle nostre città e degli spazi pubblici è il primo step per riappropriarci della nostra faccia.
Laura Carrer – Hermes Center for Transparency and Digital Rights

Dal riconoscimento facciale nei parchi e nelle scuole, alla biometria “intelligente” per sorvegliare i manifestanti, fino alla sorveglianza sistemica e oppressiva di gruppi emarginati della popolazione, per noi non c’è posto nelle nostre società per tecnologie biometriche che ci trasformano tutti in sospetti criminali. Le prove raccolte dalle nostre associazioni hanno rivelato che gli attuali abusi sono vasti e sistemici, e la nostra analisi ha dimostrato che l’unico modo per proteggere i diritti delle persone in Europa è quello di vietare queste pratiche. Non dovremmo essere costretti a guardarci le spalle ovunque andiamo.

Qui c’è l’analisi iniziale di EDRi sull’intera proposta di Regolamento— incluse le preoccupazioni per altri casi d’uso che sarebbero dovuti essere vietati ma così non è stato – e disposizioni che permettono a chi sviluppa sistemi di AI di farsi una auto-valutazione.

Per firmare la petizione: https://reclaimyourface.eu/it/  

Primi importanti risultati a due mesi dal lancio di Riprenditi la Faccia

La scorsa settimana abbiamo raggiunto e superato due importanti obiettivi nazionali della campagna contro l’utilizzo di tecnologie biometriche nello spazio pubblico Europeo.

Nella giornata di venerdì 16 aprile il Garante Privacy ha definito il sistema di riconoscimento facciale SARI Real Time, così come progettato, una possibile forma di sorveglianza ed identificazione di massa che non può essere utilizzata dal Ministero dell’Interno. Il Garante ha analizzato la valutazione d’impatto presentata dal Ministero e ha sottolineato come, allo stato attuale, non vi sia una base legale che autorizzi il trattamento di dati biometrici previsto dal sistema SARI.

La decisione, anche se arrivata dopo tre anni dall’apertura dell’istruttoria nata a seguito della pubblicazione di un articolo, è di grande importanza perché vieta l’utilizzo di tecnologie biometriche discriminanti e poco accurate da parte delle forze dell’ordine su tutti i cittadini. 

“Va considerato, in particolare, – afferma il Garante – che Sari Real Time realizzerebbe un trattamento automatizzato su larga scala che può riguardare anche persone presenti a manifestazioni politiche e sociali, che non sono oggetto di “attenzione” da parte delle forze di Polizia. Ed anche se nella valutazione di impatto presentata il Ministero spiega che le immagini verrebbero immediatamente cancellate, l’identificazione di una persona sarebbe realizzata attraverso il trattamento dei dati biometrici di tutti coloro che sono presenti nello spazio monitorato, allo scopo di generare modelli confrontabili con quelli dei soggetti inclusi nella “watch-list”.

Per il Garante questo tipo di sorveglianza biometrica porterebbe “dalla sorveglianza mirata di alcuni individui alla possibilità di sorveglianza universale allo scopo di identificare alcuni individui.” L’autorità però non si è limitata solo a questa valutazione ma ha sottolineato anche alcuni aspetti critici da tenere in considerazione per qualunque norma futura che regoli il riconoscimento facciale: dai “criteri di individuazione dei soggetti che possano essere inseriti nella watch-list o quelli per determinare i casi in cui può essere utilizzato il sistema” alle “eventuali conseguenze per gli interessati in caso di falsi positivi”— inclusi anche i rischi nei confronti di persone appartenenti a minoranze etniche.

Solo due giorni prima, mercoledì 14 aprile, c’è stata anche una prima risposta da parte della politica italiana al tema del riconoscimento facciale negli spazi pubblici: il deputato Filippo Sensi ha infatti depositato una proposta di legge per una moratoria sull’utilizzo di queste tecnologie. Nella proposta si fa riferimento ad una sospensione fino al 31 dicembre 2021 in attesa di un adeguato quadro legislativo a supporto. Indicazioni si aspettano anche il 21 aprile, quando l’Unione Europea si esprimerà nella tanto attesa normativa sull’IA. 

Il Centro Hermes seguirà certamente l’iter di legge puntando l’attenzione soprattutto su due punti: 

  • L’utilizzo di qualsiasi tecnologia di sorveglianza biometrica di massa deve essere vietato all’interno dello spazio pubblico europeo; 
  • Non devono essere fatte eccezioni per i sistemi utilizzati dalle forze dell’ordine. 

Il nostro lavoro in questo senso continua e sabato 17 aprile siamo stati ospiti di SkyTg24 proprio con un componente del Garante Privacy, l’onorevole Filippo Sensi e Privacy Network, associazione che supporta la campagna Riprenditi la Faccia. Sulla base della decisione contraria del Garante Privacy in merito a SARI Real Time, ci è stato assicurato che i 287 comuni che hanno ricevuto finanziamenti dal Ministero dell’Interno per installare nuovi impianti di videosorveglianza non potranno utilizzare tecnologie biometriche. 

 

Per firmare la petizione ed essere aggiornati sulla campagna, che ha già raggiunto quasi 50.000 persone in Europa: https://reclaimyourface.eu/it/ 

 

 

Aziende, scuole, aeroporti e piazze: il riconoscimento facciale è ovunque. E sorveglia i cittadini europei

Spesso sentiamo dire: “Riconoscimento facciale sui cittadini? Solo in Cina, l’Unione Europea è un insieme di paesi democratici. Non potrà mai succedere a noi.

Sfortunatamente, però, sta già succedendo. Di seguito puoi leggere alcuni esempi che documentano una rapida propagazione di sistemi di sorveglianza biometrica in molti paesi europei.

Qual è (l’unico) aspetto positivo? Che possiamo ancora fermarla. 

Negli ultimi anni, governi ed aziende private hanno spinto per installare o sperimentare tecnologie di sorveglianza che collezionano e processano i nostri dati personali, dati unici sui nostri corpi e i nostri comportamenti durante la nostra vita quotidiana. Questa per noi è sorveglianza di massa.

Nonostante l’Unione Europea dica che esistono già leggi che possano prevenire la sorveglianza dei cittadini, è chiaro che ci troviamo davanti a cavilli legislativi che permettono la sperimentazione di tecnologie biometriche che violano i diritti umani e vengono impiegate su tutti noi. Gli esempi parlano da soli. 

In Germania, la polizia ha sperimentato la sorveglianza biometrica di massa sulle persone che attraversavano la stazione Südkreuz di Berlino e ha sorvegliato i manifestanti del G20 ad Amburgo. Inoltre, è stato dimostrato che la famigerata società di riconoscimento facciale ClearviewAI ha raccolto illegalmente e utilizzato i volti delle persone che vivono in Germania da Internet.

In Austria, la polizia ha usato un software per il riconoscimento facciale in una fase di test a partire da dicembre 2019. Inizialmente, il Ministero dell’Interno aveva dichiarato che il confronto dei volti con il loro database sarebbe stato effettuato solo per indagare reati gravi, come ad esempio rapine in banca o omicidi. Invece, le risposte ad alcune interrogazioni parlamentari hanno rivelato un quadro completamente diverso. Nel 2020 il software è stato usato per 931 casi di reati in soli 10 mesi, inclusi reati minori. Stiamo parlando di circa tre ricerche al giorno. Ad agosto 2020 il sistema è entrato ufficialmente in funzione. Poco dopo, a settembre, i giornali hanno rivelato che il sistema è stato utilizzato dalla polizia per individuare persone che hanno partecipato a una manifestazione.

In Repubblica Ceca, la polizia ha acquistato il software di riconoscimento facciale Cogniware in grado di prevedere emozioni e genere e collegare ogni persona con le proprie informazioni finanziarie, i dati del telefono, l’auto che si guida, il posto di lavoro, i colleghi di lavoro, chi incontrano, i luoghi che visitano e cosa acquistano. Inoltre, l’aeroporto della capitale di Praga sta anche effettuando un ampio monitoraggio biometrico di tutte le persone, senza valutare i rischi, come la legge prevede.

Passando all’Italia, siamo rimasti davvero increduli nell’apprendere che la città di Como aveva segretamente installato, sulle videocamere di sorveglianza esistenti, un sistema di riconoscimento facciale real time allo scopo di … rilevare azioni di “vagabondaggio” e “sconfinamento”. L’aeroporto di Roma ha deciso invece di utilizzare il riconoscimento facciale per la gestione delle code. C’è di più: la polizia italiana ha in programma di espandere il proprio sistema di riconoscimento facciale per monitorare l’arrivo di migranti e richiedenti asilo sulle coste italiane, proprio come ha dichiarato in passato di essere disposta a utilizzare il riconoscimento facciale per monitorare i manifestanti

Per quanto riguarda la Grecia, un dato è certo: sappiamo che con l’Italia non condivide solo il Mediterraneo ma anche lo stesso amore delle autorità nazionali per il riconoscimento facciale di massa. L’esperimento distopico iBorderCTRL è un cosiddetto “rilevatore di bugie” che potrebbe capire se una persona mente in base alle proprie espressioni facciali. Inoltre, la polizia greca è stata colta in flagrante con un contratto di riconoscimento facciale “intelligente” da 4 milioni di euro rivelato nel 2020. Ora, l’autorità greca per la protezione dei dati ha iniziato a indagare sulla polizia greca per l’archiviazione e l’elaborazione illegali dei dati biometrici dei cittadini greci in enormi database centralizzati.

Nei Paesi Bassi, le aziende hanno introdotto tecnologie per la sorveglianza biometrica di massa come il riconoscimento facciale in tempo reale all’interno di palazzetti dello sport e per eventi come i concerti, nei negozi/supermercati e sui mezzi del trasporto pubblico. Le aziende sono state così aggressive nell’introduzione di queste tecnologie di sorveglianza che l’Autorità per la protezione dei dati olandese gli ha dovuto ricordare che queste pratiche sono illegali. In aggiunta, la polizia olandese ha incluso 1.3 milioni di persone nel suo sistema di riconoscimento facciale, molte di queste persone sono innocenti che non sono mai state accusate di un crimine. 

Mais oui, la Francia non è nuova alla sorveglianza biometrica di massa. A Marseille una scuola superiore ha introdotto il riconoscimento facciale contro i propri studenti. Anche la città francese di Nizza ha sperimentato il riconoscimento facciale nelle sue strade. Ma c’è di più, il governo francese ha un enorme database per il riconoscimento facciale (TAJ) che contiene 19 milioni di file e 8 milioni di immagini.

Cioccolato, birra e riconoscimento facciale di massa. Questo potrebbe essere il prossimo slogan promozionale del Belgio. Si è scoperto che chiunque camminasse all’interno dell’aeroporto Zaventeem di Bruxelles veniva spiato segretamente (esatto, non per il controllo dei passaporti), raccogliendo ed elaborando dati sui volti delle persone identificabili in maniera univoca.

Danimarca, vi er ikke enig. Nej. Il governo è riuscito a sfruttare i punti ciechi delle leggi europee e permettere la sorveglianza biometrica di massa sui tifosi di calcio. Il prossimo passo? Vendere l’idea come fosse varmt brød. Il Club di calcio Brøndby ha annunciato che a breve il volto di chiunque sarà scansionato per identificare le persone a cui è stato vietato di assistere alle partite di calcio del Brøndby IF. L’Autorità per la protezione dei dati personali danese ha approvato il sistema.

In Slovenia, si è scoperto che la polizia ricorre alla sorveglianza biometrica di massa. Lo stesso tipo di sorveglianza è stata impiegata per monitorare i manifestanti che esercitavano i propri diritti.

Anche la Svezia è nella mappa degli indiziati. La polizia svedese è stata multata per aver usato illegalmente Clearview AI (sì, di nuovo loro). Inoltre, una scuola svedese ha anche introdotto il riconoscimento facciale di massa per monitorare la frequenza scolastica.

In Polonia e Serbia, abbiamo visto persino altri casi. Una scuola polacca ha utilizzato l’impronta digitale biometrica per gestire la mensa scolastica e in Serbia abbiamo assistito al dispiegamento massiccio di videocamere con riconoscimento facciale nelle strade di Belgrado.

Questi sono solo alcuni degli esempi di cui siamo a conoscenza. Quante saranno le sperimentazioni e i progetti in fase di sviluppo, invece? 

Come se non bastasse, alcuni funzionari dell’UE stanno prendendo in considerazione eccezioni che potrebbero consentire l’impiego della sorveglianza biometrica di massa legalmente. Mentre noi stiamo dando l’allarme per i cavilli già esistenti nella legge, i funzionari preferiscono ampliarli e trasformarli definitivamente in legge. 

Chiediamo una normativa che risolva il vuoto legislativo nel quadro europeo, un vuoto che è attualmente sfruttato da aziende e governi per imporre la sorveglianza biometrica di massa su tutti noi. 

L’enorme quantità di prove dimostra di per sé il motivo per cui abbiamo bisogno di una nuova legge che vieti la sorveglianza biometrica di massa in tutta l’Unione Europea.

Aggiungi il tuo nome alla petizione ufficiale europea: https://reclaimyourface.eu/#sign 

Insieme a 61 associazioni chiediamo al Parlamento europeo di proteggere la libertà di espressione

glitch appearing on screen as if the content has been removed

Il 25 marzo, 61 associazioni di giornalisti e di attivisti per i diritti umani hanno inviato una lettera congiunta ai membri del Parlamento europeo, esortandoli a votare contro la proposta di regolamento per affrontare la diffusione di contenuti terroristici online.

La coalizione ritiene che il regolamento proposto, nella sua forma attuale, non ha posto nel quadro legislativo dell’UE in quanto pone gravi minacce alla libertà di espressione e di opinione, alla libertà di accesso alle informazioni, al diritto alla privacy e allo stato di diritto.

Se adottato, il regolamento permetterebbe a qualsiasi autorità di cancellare qualsiasi contenuto online ovunque in Europa entro un’ora. Poiché non richiede il coinvolgimento di un tribunale indipendente, lo strumento potrebbe essere abusato a fini di censura politica. La proposta delega anche agli algoritmi la decisione di ciò che può essere considerato libertà di parola, concedendo ancora più potere alle attuali pratiche di moderazione dei contenuti opache e non responsabili utilizzate dalle piattaforme dominanti. I rischi sono alti perché questi sistemi automatici non possono distinguere il sarcasmo da un’affermazione fatta con convinzione, le notizie dalla propaganda o l’educazione dall’indottrinamento.

Inoltre, creerebbe un pericoloso precedente per qualsiasi futura legislazione dell’UE che regola l’espressione online e l’ecosistema digitale, in particolare se pensiamo al Digital Services Act.

Come ultimo passo del processo legislativo, il Parlamento europeo deve decidere se approvare il testo, che è il risultato di oltre un anno di negoziati con il Consiglio. Il voto è previsto durante la sessione plenaria del Parlamento alla fine di aprile.

La coalizione incoraggia tutte le organizzazioni e gli individui preoccupati per lo stato dei diritti e delle libertà in Europa a riunirsi intorno a questo appello, a contattare i propri rappresentanti al Parlamento europeo e invitarli a respingere questa pericolosa legislazione.

Puoi leggere la lettera congiunta qui in italiano, inglese, tedesco, francese, polacco, rumeno, spagnolo, svedese e olandese.

 

Credits immagine: Photo by Michael Dziedzic on Unsplash 

Un futuro senza sorveglianza biometrica di massa: l’iniziativa europea Reclaim Your Face punta al milione di firme

Lo scopo è arrivare alla Commissione Europea e rendere il divieto sempre più concreto

Mentre la Commissione Europea sta preparando nuove leggi sull’Intelligenza Artificiale, una coalizione in continua espansione di associazioni per i diritti umani e digitali, guidata da European Digital Rights (EDRi), mette in guardia dai molteplici pericoli che la sorveglianza biometrica di massa presenta per la nostra libertà e per la nostra dignità. 

Oggi la coalizione Reclaim Your Face lancia un’iniziativa dei Cittadini Europei (ECI) per chiedere all’Europa di vietare l’uso di algoritmi di IA che possono arrecare danni alla cittadinanza—come appunto la sorveglianza biometrica di massa. L’ECI è uno strumento ufficiale unico nel suo genere offerto dall’Unione Europea ai propri cittadini per organizzare e chiedere tutti insieme nuovi quadri legislativi su molteplici materie.

L’obiettivo dell’ECI, portata avanti in Italia dal Centro Hermes con il supporto di Associazione Luca Coscioni, Certi Diritti, CILD, Eumans, info.nodes, Privacy Network e StraLi, è raccogliere 1 milione di firme in almeno 7 paesi dell’UE nell’arco di un anno, ovvero febbraio 2022. Se avremo successo la Commissione Europea sarà obbligata a rispondere alla nostra richiesta formale per una nuova legge e aprire un dibattito con gli Stati Membri del Parlamento Europeo.

“Le politiche per la sicurezza della città sono legate a doppio filo già da tempo con altri concetti come il degrado e il decoro urbano. Le videocamere e gli strumenti di sorveglianza sono sempre più normalizzati perché la narrazione entro la quale vengono utilizzati si basa sull’assunto che controllare è più facile. Ma lo spazio della città appartiene ai cittadini e sono loro che, vivendo lo spazio pubblico, la rendono più sicura e inclusiva,” dichiara Laura Carrer, ricercatrice del Centro Hermes.

I cittadini europei si trovano di fronte a un momento storico cruciale: fermare la sorveglianza biometrica di massa prima che diventi talmente pervasiva da essere normalizzata nelle nostre società.

I casi di abuso in tutta Europa

La coalizione di associazioni che hanno dato vita a Reclaim Your Face ha già messo insieme prove di abusi sistematici dei dati biometrici delle persone in tutta Europa, e sta contrastando queste tecnologie con successo. In Serbia le autorità stanno sorvegliando la popolazione per le strade di Belgrado, in Italia le autorità hanno cercato di colpire direttamente le comunità con la sorveglianza biometrica nel parco della città di Como, e malgrado quella installazione sia stata dichiarata illegale dal Garante privacy italiano, altre città stanno cercando di introdurre tecnologie simili e persino la polizia vuole usarle per monitorare gli sbarchi dei migranti sulle coste italiane. In Grecia, le autorità nazionali stanno indagando l’uso della sorveglianza biometrica quando la polizia effettua i controlli in strada. 

In Francia, la società civile ha portato in Tribunale l’impiego della sorveglianza biometrica di massa usata nelle scuole e contro i manifestanti. Nei Paesi Bassi, le autorità nazionali hanno criticato la sorveglianza biometrica di massa nei supermercati. La coalizione Reclaim Your Face è stata fondamentale nel far luce e contrastare queste tecnologie, e nel richiedere l’intervento delle autorità di controllo. Ad esempio Homo Digitalis ha fatto partire un’indagine del garante privacy greco in Grecia e Bits of Freedom ha supportato le dichiarazioni dell’autorità garante contro la sorveglianza biometrica nei Paesi Bassi. 

Malgrado ciò, è evidente che dobbiamo agire uniti, in contemporanea su più paesi, e necessariamente a livello europeo.

I dati biometrici sono intimamente collegati ai nostri corpi ed ai nostri comportamenti, e quindi possono rivelare informazioni sensibili su chi siamo. Ad esempio, i nostri volti possono essere sfruttati con il riconoscimento facciale per effettuare previsioni o valutazioni sul nostro conto—e lo stesso vale per i nostri occhi, vasi sanguigni, voci, l’andatura o il modo in cui digitiamo i tasti della tastiera.

I governi, le forze dell’ordine e le aziende utilizzano dispositivi per la registrazione (come le videocamere a circuito chiuso) e software per il riconoscimento facciale per monitorare i nostri spostamenti da un luogo a un altro sfruttando le nostre caratteristiche ed identificandoci. La raccolta indiscriminata di dati biometrici svolta in luoghi pubblici come la strada, i parchi, le stazioni ferroviarie, i negozi o i palazzetti dello sport, solo perché stiamo cercando di vivere liberamente le nostre vite, è una sorveglianza biometrica di massa.

Il trattamento di qualsiasi dato biometrico è già vietato dall’UE. Eppure, l’Unione Europea concede alcune deroghe a questo divieto generale che sono alquanto problematiche. Vediamo continuamente abusi di queste tecnologie, introdotte sfruttando questa confusione legale, e che—spesso senza un controllo democratico—finiscono con l’essere installate nei nostri spazi pubblici, disumanizzandoci e trattandoci come dei codici a barre che camminano.

La soluzione “innovativa” di Torino: Argo

Le città sono lo spazio che abitiamo, dove costruiamo le nostre comunità, dove partecipiamo a eventi pubblici e, soprattutto, dove creiamo legami tra persone per difendere e reclamare i nostri diritti. La città è lo spazio di tutti noi cittadini e cittadine. La giunta comunale di Torino e la polizia locale, però, vogliono trasformare la città in un inferno di sorveglianza. Non sarà possibile camminare liberamente e incontrare altre persone senza che un occhio elettronico sia lì a prendere nota di come siamo vestiti, quali oggetti portiamo addosso e, soprattutto, se siamo uomo o donna. 

Con il progetto ARGO infatti il comune introduce, allo scopo di “controllare la sicurezza urbana, la sicurezza integrata e la governance della mobilità,” una rete di videosorveglianza diffusa che va ad aggiungersi alle videocamere già installate in precedenza, con funzionalità quali la line crossing detection (rilevazione di superamento di una linea predefinita), la intrusion detection (rilevazione di intrusioni in una certa area), la region entrance (rilevazione dell’entrata di una persona/veicolo in una regione predefinita), la region exiting (il contrario della precedente) e la motion detection (rilevazione del movimento di una persona/veicolo). In città saranno presenti in totale 360 videocamere

Facciamo un passo indietro

Ad agosto 2020 la giunta comunale di Torino discute di un possibile finanziamento del progetto ARGO attraverso i fondi ministeriali (Interno) previsti per i comuni per l’anno 2020 (17 milioni di euro): il Comune stanzia 800.000 euro, il Ministero ne metterà 700.000. E così è stato. Con 1.500.000 euro il progetto preliminare è definito e della realizzazione se ne occuperà l’azienda 5T s.r.l., società pubblica che controlla la mobilità torinese. Le due fasi di progetto coinvolgono prima l’area periferica, nella quale confluirà anche la gestione dei sistemi di videosorveglianza realizzati nell’ambito del progetto AxTO (che favoriva già la cosiddetta “sorveglianza partecipata”), e in un secondo momento l’area centrale della città. Il progetto è reso definitivo ad ottobre 2020, momento nel quale si conferma all’azienda 5T s.r.l. l’erogazione dei soldi della prima fase di ARGO, il cui inizio è previsto per gennaio 2021. Negli ultimi giorni il consiglio comunale di Torino (Lega e M5S) ha parlato nuovamente della questione videocamere, chiedendo siano implementati ancora di più i sistemi di videosorveglianza della città: anche in questo caso si parla di zone “degradate” e di “offrire un maggiore senso di sicurezza a cittadini e cittadine.” 

Attraverso le nuove videocamere il sistema permette di identificare ogni persona in tempo reale sfruttando gli algoritmi: siamo di fronte ad un potenziale sistema di sorveglianza biometrica di massa che viene, così come nel caso di Como, definito “progetto innovativo”. Al fine di proteggere e tutelare alcune categorie di persone, l’amministrazione vorrebbe seguire costantemente una persona e prendere nota del suo aspetto, di dove si trova, dell’orario dei suoi spostamenti.

Può non conoscere direttamente il nostro nome ma può facilmente identificarci e conoscere tutti i nostri movimenti: se siamo stati in una clinica medica, se ci siamo incontrati nel parco con i nostri amici, se abbiamo organizzato un evento o siamo stati a una manifestazione.

Un occhio sulla città in tempo reale?

Il Centro Hermes ha ottenuto, grazie a diverse richieste FOIA, copia del progetto definitivo approvato dalla Giunta lo scorso 26 ottobre e diverse versioni precedenti, la prima risalente al giugno 2018

Il progetto ARGO ha l’obiettivo di integrare strumenti per il monitoraggio della mobilità e del traffico con sistemi di videosorveglianza cittadina. Nel documento del progetto definitivo si legge che il sistema sarà in grado di estrarre metadati in tempo reale dai video. Se la parola metadati può non dire molto, gli esempi indicati dalla polizia locale e dalla società 5T, incaricata di svolgere i lavori, sono invece molto chiari: “distinzione tra uomo/donna; colore di abbigliamento e scarpe; presenza di oggetti come borse, zaini, cappelli ecc.”

Con questo tipo di informazioni sarebbe possibile identificare e pedinare le persone riprese in tempo reale: un cappello, una borsa rossa o una semplice maglietta con un logo, combinati con le informazioni sul genere della persona, permettono di seguire i suoi spostamenti.   

Inoltre il sistema rischia di confondere il sesso biologico con il genere, producendo classificazioni sbagliate e discriminando tutte le persone transgender o che non si identificano nel binarismo di genere. Recenti studi hanno dimostrato come anche gli algoritmi più avanzati commettano errori: donne e uomini che presentano una corrispondenza tra la propria identità di genere e il sesso biologico (cisgender) sono rispettivamente identificate correttamente il 98.3% e il 97.6% delle volte. Nel caso di fotografie che ritraggono uomini trans, lo studio ha dimostrato che vengono erroneamente identificati come donne il 38% delle volte. Nel caso però di persone non binarie, agender, genderqueer, l’algoritmo sbaglia il 100% delle volte. Questo aspetto dovrebbe far riflettere sull’effettiva necessità del sistema di Torino di distinguere tra uomo/donna e quali conseguenze può avere.

Nel documento del progetto ARGO si legge inoltre che uno dei punti di forza è: “La data analysis in real time come modello di “un nuovo modo di fare sicurezza” basato sulle analitiche.” Un linguaggio vuoto che ritroviamo nella narrazione della smart city e che non ha nulla a che fare con il mondo dei diritti umani: siamo persone e il nostro spazio urbano non è un laboratorio di esperimenti tecnologici. 

Ma d’altronde, la valutazione d’impatto preventiva che deve essere prodotta dal comune per valutare i rischi per i diritti delle persone legati al sistema—un documento necessario quando si tratta di sistemi che raccolgono e processano questo tipo di dati—è ancora in fase di ultimazione. Sono passati almeno due anni dalla presentazione della bozza del progetto nel giugno 2018, come ha rivelato l’azienda 5T in una risposta al nostro FOIA, ma i diritti umani vengono sempre considerati per ultimi. 

La giunta ha già approvato la spesa di 1.500.000€ di cui 700.000€ finanziati dal Ministero dell’Interno, eppure non è riuscita a rendersi conto che per un sistema che permette di pedinare le persone è necessario effettuare una valutazione sui rischi per la società e per la democrazia.

Probabilmente, un motivo c’è: effettuare una corretta valutazione d’impatto dimostrerebbe che il sistema è al momento illegale e che quindi quei soldi stanziati rischiano di essere sprecati.

Come ricorda l’associazione EDRi nella sua analisi della sorveglianza biometrica, l’European Data Protection Board (EDPB)—il comitato che raccoglie i vari Garanti privacy degli stati europei—ha confermato che l’identificazione non ha bisogno di rivelare il nome o l’identità ufficiale di qualcuno, ma comprende qualsiasi trattamento che permetta di distinguere una persona da altre, e può essere ugualmente invadente. 

Nelle sue linee guida sulla videosorveglianza, l’EDPB ribadisce che se si processano dati anche biometrici per “individuare un soggetto che rientra nell’area o che entra in un’altra area, lo scopo sarebbe quindi quello di identificare in modo univoco una persona fisica, il che significa che l’operazione rientrerebbe fin dall’inizio nell’ambito di applicazione dell’articolo 9 del GDPR.

Un sistema di videosorveglianza cittadino che analizza in tempo reale e salva i dettagli delle persone riprese fa proprio questo: permette di identificare la stessa persona in luoghi diversi. Il progetto definitivo, approvato dalla Giunta di Torino, lo chiarisce senza troppi dubbi: “a partire dalla descrizione di una persona e del suo abbigliamento se ne potranno individuare la presenza e gli spostamenti nelle varie zone della città grazie alla ricerca in real time da parte degli algoritmi di analisi.”

Come ricorda il provvedimento del Garante privacy italiano sul sistema di riconoscimento facciale di Como, al momento non c’è una base legale per il trattamento di quei dati che ricadono nell’articolo 9 del GDPR da parte della polizia locale in Italia. 

Per questo motivo abbiamo inviato richiesta al Garante per la protezione dei dati personali di intervenire subito e valutare in maniera approfondita il progetto ARGO, prima che vengano sprecati inutilmente ulteriori soldi pubblici in un sistema che rischia di normalizzare una sorveglianza biometrica di massa in tempo reale. 

Lettera al Garante privacy

 

Il Ministero dell’Interno vuole utilizzare il riconoscimento facciale su migranti e richiedenti asilo

L’introduzione del riconoscimento facciale in Italia continua a mostrare gli stessi sintomi che denunciamo nella campagna intereuropea Reclaim Your Face: mancanza di trasparenza, assoluto disinteresse per il rispetto dei diritti umani e incapacità di ammettere che alcuni impieghi di questa tecnologia siano troppo pericolosi.  

L’ultimo episodio riguarda il Sistema Automatico Riconoscimento Immagini (SARI), acquistato dalla polizia scientifica nel 2017 e che ora, come rivela in un’inchiesta IrpiMedia, è stato oggetto di un appalto con lo scopo di potenziare il sistema e impiegarlo per monitorare le attività di sbarco. In sostanza, il ministero vuole usare il riconoscimento facciale direttamente su migranti e richiedenti asilo.  

Lo scontro Viminale-Garante della privacy sul riconoscimento facciale in tempo reale

“Per farlo, il Ministero ha usato due strategie: sfruttare i fondi europei per la Sicurezza Interna e, come mostrano alcuni documenti ottenuti da IrpiMedia grazie a una richiesta FOIA, ignorare le domande del Garante della privacy che da due anni attende di chiudere un’istruttoria proprio sul sistema di riconoscimento facciale che vuole usare la polizia,” scrive IrpiMedia.

Fra le richieste che avanziamo attraverso la campagna Reclaim Your Face chiediamo in modo urgente e deciso che il Ministero dell’Interno pubblichi tutte la valutazioni degli algoritmi utilizzati, i numeri sull’utilizzo del sistema, e tutti i dati relativi alla tipologia di volti presenti nel database usato da SARI.

Queste informazioni sono di fondamentale importanza per capire quali sono gli effetti degli algoritmi che agiscono su un database già fortemente squilibrato e discriminatorio: ricordiamo infatti che, come rivelato quasi due anni fa da Wired Italia, 8 schedati su 10 da SARI sono persone straniere. Non è però altrettanto chiaro quante di queste siano migranti e richiedenti asilo. 

In merito al trattamento biometrico e dell‘identità digitale dei migranti e dei rifugiati anche in Italia, esemplare è la ricerca sul campo realizzata nel 2019 dal ricercatore Mark Latonero in partner con CILD. L’analisi sul campo ha portato alla luce un intero ecosistema composto da ONG, Governo, ricercatori, media e settore privato che raccoglie, analizza e gestisce informazioni digitali su migranti e rifugiati per fornire loro supporto, normarli, studiarne i comportamenti. La raccolta di questi dati può portare a vari gradi di discriminazione dovute ad esistenti bias relativi alla vulnerabilità di migranti e rifugiati. Memori di questo studio, immaginiamo come possa essere pervasivo e privo di tutele un sistema di riconoscimento facciale adottato proprio su una categoria di persone specifiche. Un ulteriore livello di scrutinio che non vogliamo sia normalizzato e diventi parte della vita quotidiana di tutti noi.

Mentre le richieste di trasparenza su SARI non vengono ascoltate e persino il Garante è ancora in attesa di ricevere una valutazione di impatto sul sistema, il Ministero sfrutta anche soldi europei del Fondo Sicurezza Interna.

IrpiMedia ricostruisce così l’oggetto dell’appalto: “Il budget stanziato per il potenziamento del sistema è di 246 mila euro e il potenziamento include l’acquisto della licenza per un software di riconoscimento facciale di proprietà della società Neurotechnology, fra le produttrici più conosciute al mondo, in grado di processare il flusso video proveniente da almeno due videocamere e la gestione di una watch-list che include fino a 10 mila soggetti. Inoltre la configurazione hardware e software deve essere di ridotte dimensioni, da inserire in uno zaino e permettere di «effettuare installazioni strategiche in luoghi difficilmente accessibili con le apparecchiature in dotazione», si legge dalla scheda tecnica del Ministero.”

La sorveglianza biometrica ci disumanizza in bit di dati senza vita, privandoci della nostra autonomia e della capacità di esprimere chi siamo. Ci costringe in un sistema automatizzato e inspiegabile in cui siamo ingiustamente classificati e schedati. 

Solo il divieto della sorveglianza biometrica di massa può garantire che comunità forti, aperte e organizzate possano prosperare.