Call My Legal –
L’AI Act approvato
dal Parlamento Europeo

Il Parlamento Europeo in data 14 giugno 2023 ha approvato l’Artificial Intelligence Act, che regolerà l’Intelligenza Artificiale nel rispetto dei diritti e dei valori dell’Unione Europea.

Si tratta della prima regolamentazione sull’Intelligenza Artificiale, la cui approvazione definitiva, da parte dell’Unione Europea, dovrebbe arrivare a fine anno per poi entrare in vigore tra il 2024 e il 2025.

Così si legge, nella relazione introduttiva della Bozza:

“La presente proposta risponde altresì alle richieste esplicite del Parlamento europeo e del Consiglio europeo, che hanno ripetutamente chiesto un intervento legislativo che assicuri il buon funzionamento del mercato interno per i sistemi di intelligenza artificiale (“sistemi di IA”), nel contesto del quale tanto i benefici quanto i rischi legati all’intelligenza artificiale siano adeguatamente affrontati a livello dell’Unione. Essa contribuisce all’obiettivo dell’Unione di essere un leader mondiale nello sviluppo di un’intelligenza artificiale sicura, affidabile ed etica, come dichiarato dal Consiglio europeo, e garantisce la tutela dei principi etici, come richiesto specificamente dal Parlamento europeo”.

Il voto sull’AI Act è passato con una maggioranza schiacciante ed è stato annunciato come uno degli sviluppi più importanti al mondo nella regolamentazione dell’IA, tant’è che la presidente del Parlamento europeo, Roberta Metsola, l’ha descritta come “una legislazione che senza dubbio stabilirà lo standard globale per gli anni a venire”.

Come già noto, le norme seguono un approccio basato sul rischio e stabiliscono obblighi per i fornitori e per coloro che impiegano sistemi di IA a seconda del livello di rischio che l’IA può generare. Saranno quindi vietati i sistemi di IA che presentano un livello di rischio inaccettabile per la sicurezza delle persone, come quelli utilizzati per il social scoring (classificazione delle persone in base al loro comportamento sociale o alle loro caratteristiche personali).

La novità odierna è il bando totale di sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico. Sono stati bocciati emendamenti che prevedevano eccezioni. Saranno consentiti i sistemi di identificazione biometrica a distanza “a posteriori”, ma solo per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria.

Inoltre, i modelli di Intelligenza Artificiale generativa, come ChatGPT di OpenAI e Bard di Google, sarebbero autorizzati a operare a condizione che i loro output siano chiaramente etichettati come generati dall’IA.

Il sistema di intelligenza artificiale è definito come “un software sviluppato con una o più delle tecniche e degli approcci elencati nell’allegato I, che può, per una determinata serie di obiettivi definiti dall’uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono”.

L’AI Act prosegue con le pratiche di AI vietate, cui è dedicato il Titolo II.

Il regolamento segue un approccio basato sul rischio, differenziando tra gli usi dell’IA che creano:

i) un rischio inaccettabile;

ii) un rischio alto;

iii) un rischio basso o minimo.

L’elenco delle pratiche vietate di cui al titolo II comprende tutti i sistemi di IA il cui uso è considerato inaccettabile in quanto contrario ai valori dell’Unione, ad esempio perché viola i diritti fondamentali.

Sono infatti vietati:

• sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico;
• sistemi di identificazione biometrica a distanza “a posteriori”, con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
• sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, sesso, razza, etnia, cittadinanza, religione, orientamento politico);
• sistemi di polizia predittiva (basati su profili, ubicazione o comportamenti criminali passati);
• sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni scolastiche;
• lo scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).

Il tema dell’impiego della tecnologia a riconoscimento facciale combinata con l’AI è cruciale. L’attuale testo oggi lo vieta nei luoghi pubblici in senso assoluto se è quello in tempo reale.

Il riconoscimento “biometrico” (facciale ma non solo) ex-post (su video registrati) è possibile ma solo con autorizzazione del giudice; solo per crimini gravi e solo per reati già commessi (vietato il predicting policing).

Sarebbe vietato qualunque impiego di AI connessa al riconoscimento facciale in luogo pubblico, salvo ipotesi in cui questa non sia necessaria per ricerca di persone scomparse o potenzialmente tali; per le ipotesi di impiego in caso di calamità naturali o per attacchi terroristici o per procedere penalmente nei confronti di persone nei confronti delle quali sia stato emesso un mandato di arresto europeo.

L’AI Act è certamente il testo normativo più avanzato sull’intelligenza artificiale al mondo.

La regolamentazione appare chiara, e i diritti dei cittadini sono bilanciati, almeno sulla carta, in modo corretto, anche nelle ipotesi di compressione più ampia del diritto alla protezione dei dati personali.

La tutela del cittadino dall’impiego di AI per veicolare messaggi subliminali attraverso media tradizionali e non è un elemento di assoluto rilievo e va salutato con favore.

Tuttavia, la scelta di utilizzare i sistemi di riconoscimento facciale remoto in spazi pubblici è estremamente gravosa: c’era chi sosteneva andasse disposto una interdizione totale dello strumento.

Il legislatore europeo ha dichiarato apertamente di aver adottato un modello di ragionamento per impostare l’AI Act basato sul rischio e sulle opportunità (risk based thinking).

La scelta è, sostanzialmente, corretta: i processi innovativi vanno governati ove possibile e non solo assecondati.

L’applicazione pratica ci darà le risposte alle domande che oggi ci poniamo, sul rispetto da parte del testo, per gli aspetti delicati che contiene, di tutti i diritti e valori, conquistati dopo anni di battaglie e condivisi a livello europeo.