Approvato l’AI Act dal Parlamento europeo, ora tocca agli Stati membri garantirne la corretta applicazione creando un’autorità nazionale per il governo dell’IA indipendente.
Insieme a Privacy Network, The Good Lobby, e molte altre organizzazioni italiane, abbiamo pubblicato un documento con le nostre raccomandazioni a politici e istituzioni che presto dovranno decidere quali caratteristiche dovrà avere l’autorità italiana.
Di seguito riportiamo in sintesi le caratteristiche principali che l’autorità nazionale per l’intelligenza artificiale dovrà possedere, per essere in gradi di affrontare il compito che la attende:
Indipendenza e Autonomia Politica.
Questa Autorità dovrebbe, innanzitutto, essere indipendente e autonoma da influenze politiche e interessi economici. Per questo raccomandiamo che i componenti del collegio vengano nominati attraverso un percorso parlamentare trasparente e possibilmente partecipativo.
Multidisciplinarietà.
L’autorità dovrà disporre di personale competente ed esperto con una conoscenza approfondita e multidisciplinare dell’IA, dei dati e dell’informatica, dei diritti fondamentali, dei rischi per la salute e per la sicurezza ,delle norme e dei requisiti giuridici esistenti. Devono essere inclusi esperti in scienze sociali e umanistiche per assicurare un’analisi esaustiva degli impatti dell’IA sulla società.
Etica e Standardizzazione.
Con un’autorità indipendente per l’IA ci sarebbe maggiore chiarezza nella distribuzione delle competenze, facilitando e uniformando l’applicazione delle norme. Un ente ad-hoc potrebbe concentrarsi sulle implicazioni etiche e legali, fornendo linee guida e supporto alle organizzazioni che sviluppano e impiegano l’IA.
Trasparenza e Accesso alle Informazioni.
La nuova autorità indipendente per l’IA dovrebbe sfruttare il proprio mandato per offrire una supervisione trasparente e mettere cittadine e cittadini nelle condizioni di comprendere le applicazioni dell’IA, i dati coinvolti e le decisioni adottate. Per questo suggeriamo all’autorità di istituire un registro algoritmico nazionale.
Apertura.
In linea con i principi dell’open governmenti, è importante che l’autorità si doti anche di meccanismi di apertura nei confronti della società civile. Tavoli di lavoro, commissioni miste, protocolli di intesa, sono “strumenti” che possono facilitare il dialogo tra l’autorità e i soggetti che da anni si occupano del tema, rendendone l’operato più efficace.
Capacità Finanziaria.
Ci auguriamo che l’autorità sia fornita di risorse economiche e strumentali adatte: questo significa disporre di personale interno adeguato, formato e remunerato adeguatamente. Consigliamo anche di prevedere fondi per realizzare studi finalizzati ad aggiornare periodicamente la fotografia dello stato dell’arte dell’IA in Italia.
Rappresentatività del Collegio.
Le persone nominate nel board dell’autorità dovranno rappresentare il più ampio spettro sociale possibile, anche in termini di genere, etnia, background culturale e di rappresentazione generazionale.
Agilità Operativa.
L’autorità indipendente si troverà nelle condizioni di dover rispondere con immediatezza alle sfide poste dalle rapide innovazioni nel campo dell’IA. Per questo servono validi meccanismi di controllo per verificare che ciò avvenga in maniera etica e rispettosa dei diritti fondamentali.
Meccanismi di controllo.
L’Agenzia nominata dovrà essere in grado di implementare misure e linee guida a supporto di chi sviluppa o adotta sistemi di IA. Dovrà, inoltre, sviluppare meccanismi di controllo per intervenire quando non vengono rispettate. Questi meccanismi di controllo dovranno essere tanto reattivi quanto accurati, assicurando che le decisioni automatizzate siano prese con una piena consapevolezza di tutte implicazioni etiche e sociali.