AI ACT IN AZIONE: dal 2 febbraio il divieto per i sistemi AI a rischio inaccettabile
All’interno dell’AI Act, entrato in vigore in data 1 agosto 2024, è prevista una roadmap di applicazione della normativa fino alla data del 2 agosto 2027.
La prima scadenza è quella del 2 febbraio 2025 da cui decorre l’efficacia del divieto contenuto nell’art. 5 che riguarda i cosiddetti sistemi di Intelligenza Artificiale a rischio inaccettabile, ovverosia tutte le pratiche che:
- utilizzano tecniche subliminali o volutamente ingannevoli o manipolatorie in grado di pregiudicare in modo considerevole la capacità decisionale di una persona o un gruppo di persona, da cui consegue ragionevolmente un danno significativo;
- sfruttano le vulnerabilità dovute a fattori quali età, disabilità, situazione sociale o economica, con l’obiettivo di distorcere il comportamento e provocando un danno significativo;
- attribuiscono a comportamenti e caratteristiche note, inferite o previste un punteggio sociale (social scoring) e classificano così persone o gruppi di persone con l’effetto di un trattamento pregiudizievole o sfavorevole in contesti sociali non collegati con quelli della raccolta o generazione, e/o in modo sproporzionato o ingiustificato;
- valutano il rischio di commissione di reato unicamente sulla base della profilazione o della valutazione di tratti e caratteristiche della personalità, slavo non siano applicati a sostegno di un’analisi della condotta criminosa fondata su fatti oggettivi e verificabili;
- creano o ampliano banche dati di riconoscimento facciale tramite scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso;
- possono inferire le emozioni di una persona nell’ambito del lavoro e dell’istruzione, salvo che per motivi medici o di sicurezza;
- classificano tramite categorizzazione biometrica per trarre deduzioni o inferenze in merito a razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale, fatta eccezione per l’etichettatura o filtraggio di set di dati biometrici legalmente acquisiti (ad es. per attività di contrasto);
- forniscono identificazione biometrica remota in tempo reale in spazi accessibili al pubblico a fini di attività di contrasto, salvo che la ricerca non sia svolta per individuare specifiche vittime di sottrazione, tratta di esseri umani o sfruttamento sessuale, persone scomparse, o altrimenti per prevenire una minaccia specifica, sostanziale e imminente o un attacco terroristico, o infine la localizzazione o identificazione di una persona sospettata di aver commesso un reato punibile con una pena o una misura di sicurezza detentiva di almeno quattro anni.
Pertanto, a far data dal 2 febbraio è oggetto di divieto per tutte le organizzazioni pubbliche o private, ivi inclusi i soggetti che svolgono il ruolo di fornitori o deployer*, ogni pratica quale l’immissione sul mercato, la messa in servizio o l’impiego di tali sistemi di IA ed è inoltre precluso anche lo svolgimento di prove in condizioni reali. Tali conseguenze derivano da una valutazione svolta dalla stessa norma della sussistenza di un rischio intrinseco non sostenibile per i diritti e le libertà fondamentali delle persone fisiche. È bene ricordare però che questa valutazione potrà comunque essere riesaminata da parte della Commissione o altrimenti del consiglio per l’IA sulla base di evidenze concrete e sviluppi tecnologici. Di conseguenza, l’elenco deve essere inteso come potenzialmente oggetto di modifiche nel tempo e molto probabilmente sarà inevitabilmente destinato ad evolversi.
Nel caso in cui si incorra nella violazione della norma, l’organizzazione è soggetta ad una sanzione amministrativa pecuniaria fino a 35 milioni di euro o il 7% del fatturato mondiale totale annuo dell’esercizio precedente, se superiore.
*deployer: persone o entità (anche P.A.) che utilizzano o rendono disponibili sotto la propria autorità sistemi di AI agli utenti sul mercato, esclusi i fornitori o gli importatori, tranne nei casi di utilizzo personale non professionale.
