Uno dei concetti più importanti introdotti dall’AI Act riguarda la classificazione dei sistemi di Intelligenza Artificiale in base al livello di rischio.
Non tutte le AI vengono trattate allo stesso modo.
Sarebbe assurdo applicare le stesse regole a un chatbot che suggerisce titoli per una newsletter e a un algoritmo che decide l’accesso a un mutuo, valuta candidati per un’assunzione o supporta diagnosi mediche.
L’Unione Europea ha quindi scelto un approccio “risk based”: più aumenta il rischio per persone, diritti e sicurezza, più aumentano gli obblighi normativi.
È un po’ come nel calcio: una partitella tra amici non richiede arbitri, VAR e controlli antidoping. Una finale europea invece sì. Più alta è la posta in gioco, maggiore deve essere il livello di controllo.
I sistemi AI ad alto rischio sono quelli che possono incidere in modo significativo:
Secondo l’AI Act, questi sistemi saranno soggetti agli obblighi più severi in termini di:
Tra gli esempi più rilevanti troviamo:
Qui il rischio è evidente: bias algoritmici, discriminazioni e decisioni opache possono influenzare direttamente il futuro professionale delle persone.
Un algoritmo che “taglia fuori” candidati senza trasparenza equivale a un arbitro che assegna rigori senza spiegazioni e senza VAR.
I sistemi AI utilizzati:
rientrano spesso nella categoria ad alto rischio.
La normativa italiana stessa enfatizza il ruolo centrale della decisione umana in ambito sanitario.
L’AI può supportare il medico, ma non sostituire completamente il controllo umano.
Le banche e le assicurazioni utilizzano già AI per:
Qui il rischio riguarda:
Sistemi che influenzano:
vengono considerati estremamente delicati.
AI utilizzate in:
possono generare impatti enormi in caso di errore o attacco cyber.
Se un’azienda utilizza AI ad alto rischio, non può improvvisare.
L’AI Act richiede:
In pratica non basta “comprare il software”, serve una vera governance organizzativa.
Uno dei pilastri dell’AI Act è la supervisione umana.
L’AI non può diventare un pilota automatico incontrollato.
L’essere umano deve:
Nel calcio moderno il VAR aiuta l’arbitro, ma la decisione finale resta umana. L’AI Act segue la stessa logica.
Molte aziende stanno già utilizzando AI senza sapere se rientrano nei casi ad alto rischio.
Il fenomeno della Shadow AI — uso non autorizzato di strumenti AI da parte dei dipendenti — è uno dei problemi più pericolosi.
Il rischio reale?
È come avere giocatori che cambiano modulo tattico durante la partita senza dirlo all’allenatore.
L’AI Act introduce anche l’obbligo di AI Literacy.
Le aziende devono garantire che chi utilizza AI:
Le aziende dovrebbero partire da:
L’AI Act non vieta l’innovazione ma pretende che le aziende utilizzino l’Intelligenza Artificiale con consapevolezza e controllo.
Chi si organizzerà per tempo giocherà in anticipo.
Chi ignorerà il problema rischia invece di trovarsi in campo senza difesa… contro attaccanti velocissimi chiamati sanzioni, incidenti reputazionali e perdita di fiducia.