AI ACT: cosa prevede la normativa europea sull’intelligenza artificiale

L’Unione Europea è all’avanguardia nella regolamentazione delle nuove tecnologie, e l’AI Act (Artificial Intelligence Act) è una delle iniziative più ambiziose per governare l’intelligenza artificiale (AI). Presentata nel 2021 e finalizzata nel 2024, questa normativa mira a creare un quadro giuridico per l’uso sicuro, trasparente e responsabile di questa tecnologia all’interno dei confini dell’UE. L’obiettivo è duplice: promuovere l’innovazione e garantire la protezione dei diritti fondamentali dei cittadini.

Il cuore della normativa è il principio di rischio: l’AI Act classifica i sistemi di AI in base al rischio che rappresentano per i diritti umani, la sicurezza e il benessere degli individui. Questo approccio pragmatico riconosce che non tutte le intelligenze artificiali hanno lo stesso impatto e permette una regolamentazione proporzionata. Il testo dell’AI Act copre una vasta gamma di ambiti, dalla tecnologia utilizzata in contesti sanitari e giudiziari, fino a quella impiegata per la pubblicità e i giochi online.

Dal punto di vista legislativo, l’AI Act si inserisce in un quadro giuridico più ampio, che include normative come il GDPR (Regolamento generale sulla protezione dei dati). L’UE sta cercando di stabilire uno standard globale per l’AI, e molte aziende internazionali che operano nel mercato europeo dovranno adeguarsi a queste regole, con ripercussioni significative per lo sviluppo e l’implementazione di tecnologie AI in tutto il mondo.

AI Act: come funziona la classificazione dei rischi 

Il principio cardine del AI Act è la suddivisione dei sistemi AI in quattro categorie di rischio: rischio inaccettabile, rischio elevato, rischio limitato e rischio minimo. Queste categorie stabiliscono il livello di controllo e le misure di conformità necessarie per l’utilizzo di ciascun tipo di AI. I sistemi considerati ad “alto rischio” sono soggetti alle regole più rigide, mentre quelli a “basso rischio” possono operare con una supervisione più leggera.

I sistemi AI ad alto rischio includono applicazioni in settori cruciali come l’istruzione, la sicurezza, la gestione del lavoro e la finanza. Ad esempio, i sistemi che influenzano l’accesso al lavoro, come i software di selezione del personale, oppure gli algoritmi utilizzati per la valutazione del credito, rientrano in questa categoria. Per questi sistemi, il regolamento impone una serie di obblighi, tra cui la necessità di trasparenza, audit regolari e valutazioni rigorose per garantire che non compromettano i diritti dei cittadini.

Dall’altro lato, i sistemi a rischio minimo o limitato richiedono meno supervisione. Ad esempio, i chatbot o gli assistenti vocali ricadono spesso in questa categoria, purché non vengano utilizzati in contesti critici o decisionali. In questi casi, il regolamento si limita a richiedere che l’utente sia informato dell’interazione con un sistema automatizzato. Questa distinzione evita un’eccessiva burocratizzazione delle tecnologie che non rappresentano una minaccia diretta alla sicurezza o ai diritti umani.

Regole per i sistemi AI ad alto rischio

I sistemi di intelligenza artificiale ad alto rischio sono soggetti a una serie di obblighi stringenti, volti a garantire che siano sicuri, trasparenti e non discriminatori. Un punto cruciale della normativa è la trasparenza: gli utenti devono essere informati quando stanno interagendo con un sistema di AI e devono sapere in che modo questo sistema prenderà decisioni che li riguardano. Ciò include l’obbligo di fornire spiegazioni comprensibili e accessibili, specialmente in settori come la sanità e la giustizia.

Oltre alla trasparenza, l’AI Act impone verifiche regolari sui sistemi ad alto rischio per garantire la loro conformità alle normative. Le aziende che sviluppano o utilizzano queste tecnologie devono effettuare una valutazione di impatto, simile a quella richiesta dal GDPR per il trattamento dei dati personali. Questo processo include l’analisi dei potenziali rischi legati all’utilizzo della tecnologia artificiale e l’adozione di misure correttive in caso di malfunzionamenti o decisioni errate.

Un altro obbligo fondamentale è la non discriminazione. Gli algoritmi, per natura, apprendono dai dati forniti e potrebbero ereditare pregiudizi presenti nei dataset. L’AI Act impone che i sistemi AI vengano progettati in modo tale da minimizzare il rischio di discriminazioni ingiuste, ad esempio nei processi di assunzione o nelle decisioni giudiziarie. Le aziende dovranno dimostrare che i loro modelli sono stati testati e non contengono bias pregiudizievoli, il che rappresenta una sfida significativa, soprattutto in settori altamente sensibili.

Sanzioni e conformità: cosa sapere

L’Ai Act prevede un programma strutturato di sanzioni simile a quello introdotta dal GDPR, con multe che possono arrivare fino al 6% del fatturato globale annuo per le violazioni più gravi. La severità delle sanzioni riflette l’importanza che l’UE attribuisce alla regolamentazione delle AI, e mira a incentivare le aziende a prendere sul serio gli obblighi previsti dalla normativa. Le sanzioni saranno applicate non solo per il mancato rispetto delle regole, ma anche per la mancata trasparenza e per l’utilizzo dell’intelligenza artificiale in settori considerati ad alto rischio senza le necessarie autorizzazioni.

Un aspetto interessante è che l’AI Act introduce anche la possibilità per le autorità nazionali di vietare l’utilizzo di tecnologie artificiali specifiche considerate troppo pericolose. Ad esempio, l’uso di sistemi di riconoscimento facciale in tempo reale in spazi pubblici è vietato, salvo rare eccezioni legate alla sicurezza nazionale o alla prevenzione di crimini gravi. Questa misura vuole garantire che i sistemi di AI non siano utilizzati in modo indiscriminato o senza un adeguato controllo democratico.

Per aiutare le aziende ad adeguarsi, l’UE ha introdotto un sistema di sandbox  regolamentari, che permettono di testare nuove tecnologie AI in un ambiente controllato e con il supporto delle autorità competenti. Questa misura è pensata per facilitare l’innovazione senza mettere a rischio la sicurezza e i diritti fondamentali, permettendo ai creatori di IA di sperimentare senza timore di incorrere immediatamente in sanzioni.

AI Act: quali sono le implicazioni per le aziende?

Le aziende che operano nell’UE dovranno rivedere i propri processi di sviluppo e utilizzo dell’intelligenza artificiale alla luce dell’AI Act. Sarà fondamentale integrare fin dall’inizio i principi di trasparenza, sicurezza e non discriminazione nello sviluppo degli algoritmi, per evitare di dover intervenire in un secondo momento con costose correzioni. Questo potrebbe significare un aumento iniziale dei costi di sviluppo, ma garantirà alle aziende di essere conformi a una normativa che è destinata a diventare lo standard a livello globale.

L’AI Act avrà un impatto particolarmente significativo sulle aziende che sviluppano software per settori ad alto rischio, come la finanza, la salute e la pubblica amministrazione. Queste aziende dovranno investire in strumenti di audit, documentazione e valutazione del rischio per garantire la conformità con le nuove regole. Tuttavia, le aziende che riusciranno a rispettare la normativa potranno beneficiare di una maggiore fiducia da parte dei consumatori e delle autorità, guadagnando un vantaggio competitivo.

Oltre alle sfide, l’AI Act apre nuove opportunità per le imprese che forniscono servizi di conformità, audit e valutazione della tecnologia artificiale: saranno particolarmente richieste società di consulenza e i fornitori di strumenti di verifica dell’intelligenza artificiale, poiché molte aziende cercheranno assistenza per adeguarsi alla normativa. Questo creerà un intero ecosistema di supporto attorno alla regolamentazione dell’AI, che potrebbe trasformarsi in un nuovo settore industriale.

Conclusione

L’AI Act segna un passo cruciale per la regolamentazione dell’intelligenza artificiale, ponendo l’UE come leader globale nella governance tecnologica. La normativa stabilisce standard elevati per garantire che l’intelligenza artificiale venga utilizzata in modo sicuro e responsabile, senza compromettere i diritti fondamentali dei cittadini.  

Nel lungo termine, l’AI Act potrebbe diventare un modello per altri paesi e regioni che vogliono regolamentare l’uso dell’intelligenza artificiale. L’armonizzazione delle normative a livello globale potrebbe aiutare a creare un mercato più sicuro e affidabile per lo sviluppo e l’uso delle tecnologie di intelligenza artificiale, facilitando l’innovazione e la collaborazione internazionale. Ma il vero successo dell’AI Act si misurerà nella sua capacità di bilanciare la protezione dei diritti umani con la promozione dell’innovazione.

Per maggiori informazioni consultare il sito: https://www.europarl.europa.eu