L'Intelligenza artificiale contro terroristi e rapitori di bambini divide l'Ue

Nell'Unione europea si prepara uno scontro sulla possibilità di utilizzare o meno il riconoscimento facciale in tempo reale da parte delle forze di polizia, seppur in occasioni estreme come il possibile rapimento di un bambino o la caccia a un terrorista in fuga. Oggi il Parlamento europeo ha approvato la sua posizione sull'Artificial Intelligence Act, il regolamento comunitario che mira a creare un quadro normativo intorno alle nuove tecnologie come Chat Gpt, tecnologie che sempre più stanno entrando a far parte in maniera importante delle nostre vite. Il testo dell'Aula è stato approvato con una forte maggioranza di 499 voti a favore, 28 contrari e 93 astensioni, ed ora dovrà essere negoziato nel Trilogo con il Consiglio Ue, che rappresenta i governi dei 27 Paesi membri. "Oggi tutti gli occhi sono puntati su di noi. Mentre le Big Tech lanciavano l'allarme per le loro creazioni, l'Europa è andata avanti e ha proposto una risposta concreta ai rischi che l'IA sta iniziando a rappresentare. Vogliamo che il potenziale creativo e produttivo dell'IA venga sfruttato. Tuttavia, durante i negoziati con il Consiglio ci batteremo per proteggere la nostra posizione e contrastare i pericoli per la democrazia e la libertà", ha promesso il democratico italiano, Brando Benifei, uno dei due relatori per l'Aula.

Secondo la proposta di Strasburgo devono essere vietati i sistemi di IA che presentano un livello di rischio ritenuto "inaccettabile" per la sicurezza, i diritti e la privacy delle persone, come quelli utilizzati per il punteggio sociale (classificare le persone in base al loro comportamento sociale o alle loro caratteristiche personali). I deputati hanno ampliato l'elenco per includere divieti sugli usi intrusivi e discriminatori dell'IA, come l'uso di sistemi di identificazione biometrica remota "in tempo reale" e "a posteriori" in spazi accessibili al pubblico (tranne in quest'ultimo caso se c'è l'ok di un giudice), sistemi di categorizzazione biometrica basati su caratteristiche sensibili (ad esempio genere, razza, etnia, cittadinanza, religione, orientamento politico), di polizia predittiva (basati su profilazione, ubicazione o comportamenti criminali passati), sistemi di riconoscimento delle emozioni utilizzati dalle forze dell'ordine in interrogatori e nella gestione delle frontiere, nel luogo di lavoro e negli istituti d'istruzione nonché l'estrazione non mirata di dati biometrici da Internet, social media o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale (in violazione dei diritti umani e del diritto alla privacy).

Bruxelles propone il riconoscimento facciale per i reati gravi. Ma la lista potrebbe essere lunga

Bocciati alcuni emendamenti del Partito popolare europeo che chiedevano un'esclusione dal divieto di riconoscimento facciale in luoghi pubblici in tempo reale "nelle situazioni che riguardano la ricerca di minori scomparsi o di altre persone o per quanto concerne le attività volte a prevenire un imminente attentato terroristico o una minaccia per la vita". Questo emendamento era in parte in linea con quanto proposto dalla Commissione e con quanto richiesto anche dal Consiglio Ue. "Quando abbiamo sviluppato la proposta il nostro approccio era di avere un divieto di principio del riconoscimento biometrico in tempo reale negli spazi pubblici, ma con alcune eccezioni molto specifiche, per esempio se la polizia cerca un bambino scomparso, se c'è una situazione di terrorismo e se ci sono persone in fuga che devi cercare", ha detto la vicepresidente della Commissione, Margrethe Vestager, nel commentare il voto.

Il Trilogo, cioè le trattative tra Parlamento e Consiglio con la mediazione dell'esecutivo comunitario, inizierà proprio stasera, per non perdere tempo e provare ad arrivare a un'approvazione definitiva del testo prima delle elezioni europee del prossimo giugno. "Nei negoziati non ci saranno linee rosse, ma il nostro mandato è chiaro", ha detto l'eurodeputato Dragoş Tudorache, altro relatore per l'Aula, che ha spiegato che con le regole approvate oggi "se c'è un terrorista in fuga o se la polizia afferma che un bambino è sparito e potrebbe essere stato rapito, si può andare da un giudice e chiedere di usare il riconoscimento su immagini registrate da telecamere". I deputati insomma non vogliono il riconoscimento facciale in tempo reale, e quello retroattivo lo vogliono consentire solo dopo l'ok di un giudice.

Bocciati anche alcuni emendamenti che chiedevano di vietare i sistemi di Intelligenza Artificiale per il controllo dei flussi migratori e delle frontiere, come richiesto da diverse Ong, come anche Amnesty International. "La nostra decisione, supportata da tutti gruppi politici, è di inserire l'Intelligenza artificiale legata a controllo dei confini e dei flussi migratori, nelle applicazioni ad alto rischio", ha dichiarato Tudorache. Questo significa che queste tecnologie saranno tenute a rispettare limiti più stringenti delle altre, e le aziende che le producono saranno tenute a presentare una documentazione dettagliata che fornisca tutte le informazioni necessarie sul sistema e sul suo scopo affinché le autorità possano valutarne la conformità. Ci dovranno poi essere adeguate misure di supervisione umana per ridurre al minimo i rischi e gli esiti discriminatori.

L'intelligenza artificiale per controllare i migranti, violando i diritti umani

Secondo il testo approvato oggi poi i gli sviluppatori di applicazioni come ChatGPT, dovrebbero rispettare i requisiti di trasparenza (dichiarando che il contenuto è stato generato dall'IA), aiutando anche a distinguere le cosiddette immagini deep-fake e da quelle reali, e fornire salvaguardie per evitare la generazione di contenuti illegali. Dovrebbero inoltre essere pubblicate le sintesi dettagliate dei dati protetti dal diritto d'autore utilizzati per la produzione dei contenuti. Per stimolare l'innovazione nel campo dell'IA e sostenere le Pmi, i deputati hanno previsto esenzioni per le attività di ricerca e le componenti dell'IA fornite con licenze open-source. La nuova legge promuove i cosiddetti spazi di sperimentazione normativa, o ambienti di vita reale, creati dalle autorità pubbliche per testare l'IA prima che venga implementata. Infine, i deputati intendono rafforzare il diritto dei cittadini di presentare reclami sui sistemi di IA e di ricevere spiegazioni sulle decisioni basate su sistemi di IA ad alto rischio con un impatto significativo sui loro diritti fondamentali.

Continua a leggere su Europa.Today.it