Clearview AI ha monitorato i cittadini italiani. Garante privacy: illegale
L’ordinanza di ingiunzione e la sanzione amministrativa di 20 milioni di euro, la più alta prevista, originano anche da una segnalazione inviata dal Centro Hermes nel maggio 2021
Una sanzione da 20 milioni di euro per trattamento illecito di dati biometrici per finalità di riconoscimento facciale, e l’ordine di cancellare i dati relativi a soggetti che si trovano in Italia. Questa la decisione espressa dal Garante privacy nell’ordinanza di ingiunzione resa nota ieri dall’Autorità nei confronti della compagnia Clearview AI. L’azienda americana utilizza sistemi automatici per effettuare lo scraping di immagini, scandagliando il web e i social media raccogliendo foto in cui rileva la presenza di un volto umano. Questi volti sono poi analizzati dall’algoritmo di riconoscimento facciale creato da Clearview AI per costruire un gigantesco database di dati biometrici (secondo stime dell’azienda si aggirerebbe intorno a 10 miliardi di immagini facciali), di cui spesso vende l’accesso a forze dell’ordine e aziende private. Tutte le immagini possono poi essere collegate anche ai metadati associati: titolo dell’immagine o della pagina web, geolocalizzazione, data di nascita, link della fonte, nazionalità, genere.
L’istruttoria del Garante italiano è iniziata anche grazie alla segnalazione inoltrata dal Centro Hermes in un’azione congiunta con Privacy International, Homo Digitalis e Noyb a maggio 2021 (oltre ai reclami di alcuni soggetti individuali), e che si è aggiunta ad una serie di istruttorie avviate sulla scia delle rivelazioni del 2020. In continuo aggiornamento, lo stato delle segnalazioni inviate dai partner europei è diverso: nel Regno Unito la decisione è ancora pendente e si aspetta a metà 2022 con una multa che raggiunge la cifra massima; in Francia l’autorità garante ha ordinato lo stop nella raccolta dei dati e la cancellazione di questi ultimi, minacciando sanzioni in caso di inottemperanza; per quanto riguarda Grecia e Austria, la decisione è ancora pendente.
Come emerge dall’ingiunzione, al contrario di quanto dichiarato dall’azienda, ovvero che Clearview AI sarebbe “un’applicazione per la ricerca di immagini che fornisce risultati di ricerca con collegamenti a siti web di terze parti”, la compagnia americana effettua il tracciamento di cittadini italiani o di persone che sono in Italia, detenendone i dati biometrici e di geolocalizzazione illecitamente. Come sottolineato dal Garante, l’azienda non solo raccoglie immagini dal web per renderle disponibili ai propri clienti (ad esempio come Google) ma le tratta attraverso un algoritmo proprietario che permette la ricerca di una corrispondenza tra un volto che si sta ricercando e quelli presenti nel suo enorme database. Clearview AI elabora le immagini con tecniche biometriche, crea di esse delle impronte (hash) e le associa ai metadati eventualmente a disposizione. Non è pertanto un semplice motore di ricerca, anche e soprattutto perché non fornisce il proprio servizio a tutti bensì ad alcune categorie di clienti come le forze dell’ordine.
“Siamo soddisfatti della decisione del garante privacy e del lavoro svolto con le associazioni che tutelano i diritti digitali in Europa da anni. Internet è un luogo aperto nel quale sono favoriti diritti e libertà importanti, e ciò non dev’essere minacciato da un’azienda come Clearview AI. Internet non può e non dev’essere considerato uno spazio nel quale le informazioni e i dati delle persone sono considerati a disposizione di chiunque, e per essere utilizzate a qualunque scopo.”
Laura Carrer, Head of Digital Rights Unit – Hermes Center
In Italia il Ministero dell’Interno non ha ancora chiarito se abbia utilizzato Clearview, e un’interrogazione parlamentare proprio su questo tema ha visto il Ministero dell’Interno eludere la risposta. Inoltre, viste le pratiche di marketing aggressive messe in pratica da Clearview, non si può escludere che singoli funzionari abbiano effettuato dei test, o che altre forze dell’ordine italiane, non facenti capo al Ministero dell’Interno, abbiano usato Clearview. L’incertezza e la mancanza di trasparenza intorno all’uso della tecnologia di riconoscimento facciale negli spazi privati e pubblici in Italia è inaccettabile, considerando la grave interferenza, senza precedenti, che questa tecnologia presenta nei confronti della privacy.
Le modalità di funzionamento e impiego attuale di queste tecnologie favoriscono i medesimi danni a cui la normativa intende porre rimedio. Se non sanzionate, queste pratiche potrebbero avere gravi ripercussioni sulla nostra società. Nell’era digitale, tra tali ripercussioni possiamo includere: un effetto deterrente sulla partecipazione delle persone ai processi democratici mediante Internet, limitazioni allo sviluppo delle identità socio-politiche dei cittadini e danni nella “vita reale” come ad esempio la vulnerabilità allo “stalking” e l’impossibilità di svolgere le attività quotidiane senza la paura di essere sorvegliati.
La mappa della sorveglianza di Clearview AI
Al momento, i paesi che hanno dichiarato illecito l’utilizzo del sistema di web scraping e riconoscimento facciale sono il Canada, l’Italia, la Francia, l’Australia, il Regno Unito.
In Canada, a febbraio 2020 l’Ufficio del Commissario in materia di protezione dei dati, insieme alle autorità preposte alla regolamentazione sulla privacy a livello provinciale, ha avviato un’indagine sulla condotta di Clearview. Il rapporto sui risultati di tale indagine è stato pubblicato il 2 febbraio 2021 con la raccomandazione che Clearview (i) cessi di offrire i suoi servizi in Canada, (ii) “interrompa la raccolta, l’utilizzo e la divulgazione di immagini e matrici biometriche facciali di soggetti in Canada”, e (iii) “cancelli le immagini e le matrici biometriche facciali raccolte dagli individui canadesi in suo possesso”.
Nel Regno Unito e in Australia, a luglio 2020 le autorità preposte alla regolamentazione in materia di protezione dei dati hanno avviato un’indagine congiunta sulle “pratiche di gestione delle informazioni personali” di Clearview. I paesi nei quali si stanno portando avanti dispute giudiziarie sono gli Stati Uniti, paese di provenienza di Clearview AI, la Svezia (dove è stato scoperto che la polizia di stato ha utilizzato illegalmente il sistema), la Grecia, la Germania e l’Austria.
La quantità di casi diversi sollevati in Europa e altrove dimostra che le singole persone e le autorità preposte alla regolamentazione nutrono una viva e diffusa preoccupazione con riferimento alla condotta di Clearview. Tuttavia, ad oggi non sono stati profusi sforzi per adottare un approccio coordinato a questo problema prettamente globale. Un approccio coordinato è atteso da tempo in Europa, continente che vanta uno dei quadri normativi sulla privacy e la protezione dei dati più stringente al mondo.
Come funziona questa tecnologia
Il brevetto depositato dall’azienda lo scorso anno, utilizzato dall’Autorità garante italiana nell’istruttoria, così come l’indagine svolta dal Centro Hermes attraverso fonti pubblicamente disponibili e competenze tecniche, hanno permesso di definire il funzionamento della tecnologia di Clearview AI in cinque passaggi:
1. Web scraping automatico delle immagini: un sistema ricerca all’interno delle pagine Internet pubblicamente accessibili volti umani. Oltre alle immagini il sistema raccoglie anche i metadati ad esse associati.
2. Conservazione dell’immagine e dei metadati: le immagini e i relativi metadati raccolti mediante il processo di web scraping vengono conservati sui server di Clearview. La conservazione è a tempo indeterminato, cioè permane anche dopo che la foto precedentemente raccolta o la pagina web su cui si trovava è stata rimossa o resa privata.
3. Estrazione delle caratteristiche facciali mediante reti neurali di elaborazione delle immagini: ogni volto contenuto in ciascuna immagine raccolta viene scansionato ed elaborato per estrarne le caratteristiche identificative. I volti vengono tradotti in rappresentazioni numeriche qui denominate “vettori”. Questi vettori sono costituiti da 512 punti dati che rappresentano le diverse linee uniche che formano un volto. A questo punto, i volti vengono convertiti da immagini riconoscibili all’occhio umano a identificatori numerici biometrici unici, leggibili elettronicamente dalle macchine.
4. Conservazione e indicizzazione/hashing delle caratteristiche facciali: Clearview conserva i vettori in un database sui propri server, lì sono associati alle immagini e alle altre informazioni raccolte tramite web scraping. Questi vettori vengono quindi sottoposti ad hashing per due finalità correlate: l’indicizzazione del database e l’identificazione futura dei volti. Ciascuna foto di un volto nel database ha un diverso vettore e un valore hash a esso associato per permetterne l’identificazione e il matching.
5. La quinta e ultima fase nel ciclo del prodotto Clearview è il matching: viene eseguito quando un utente di Clearview desidera identificare una persona e a tale scopo carica un’immagine del soggetto stesso e avvia una ricerca. A questo punto la piattaforma analizza l’immagine, estrae un vettore dal volto del soggetto, lo sottopone quindi ad hashing e lo confronta con tutti i vettori hash precedentemente salvati nel database. Infine, lo strumento Clearview estrae dal database dei vettori tutte le immagini che presentano una stretta corrispondenza e le mostra all’utente come risultato della ricerca, insieme a tutti i metadati associati, permettendo all’utente di vedere la pagina sorgente originale da cui sono state estratte le immagini risultanti dal matching.