Integrare l’IA nei processi aziendali non è più una scelta rimandabile, ma un percorso che il legislatore italiano ed europeo ha iniziato a regolamentare con due quadri normativi di sicuro interesse.
Cosa accade se un sistema di Intelligenza artificiale ad alto rischio cagiona un danno e, da verifiche, si riscontra che l’impresa non ha adottato in maniera preventiva idonee misure di sicurezza? Di chi è la responsabilità?
Oggi il perimetro entro il quale le imprese possono progettare, acquistare e utilizzare sistemi di Intelligenza Artificiale (IA) è delineato da due interventi normativi complementari: il Regolamento (UE) 2024/1689 (l’AI Act) e la Legge 23 settembre 2025, n. 132, primo intervento organico del legislatore italiano in materia di IA, volto a integrarne la disciplina e a coordinarne l’attuazione nei settori rimessi al diritto nazionale dal legislatore europeo.
Capire come questi due assetti normativi si integrano tra di loro è il primo passo per costruire una governance aziendale dell’IA che sia sicura, conforme e trasparente.
L’approccio basato sul rischio dell’IA nei processi aziendali
L’AI Act non regola l’Intelligenza artificiale in astratto, ma il suo uso, adottando un approccio basato sul rischio per l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di IA, tale per cui maggiore è il rischio di arrecare danno all’impresa, più rigorosa sarà la disciplina applicata.
In tal senso, il legislatore europeo opera una classificazione dei modelli di Intelligenza artificiale collocandoli in quattro fasce di rischio. In concreto, l’AI Act distingue tra pratiche vietate, sistemi ad alto rischio, sistemi soggetti a specifici obblighi di trasparenza e sistemi non rientranti nelle categorie precedenti.
Sistemi e pratiche a rischio inaccettabile
Prevede sistemi di IA vietati (sistemi di scoring su base comportamentale, manipolazione emotiva, profilazione biometrica, campagne marketing che sfruttano modelli di IA capaci di manipolare le decisioni dei soggetti in modo ingannevole) considerati inconciliabili con i valori dell’Unione Europea, perché entrano in contrasto con i principi fondamentali.
Sistemi ad alto rischio
I sistemi di IA ammessi, ma sottoposti a regole stringenti, in quanto il loro impiego può gravare in modo significativo sulla salute, sicurezza e diritti fondamentali del soggetto interessato (ad esempio, software screening di CV per la selezione del personale, sistemi di IA che valutano le componenti di rischio di sicurezza della rete).
È in questo contesto che si concentra la maggior parte del lavoro della compliance aziendale.
Nei processi aziendali l’utilizzo di questi modelli si fa carico di importanti adempimenti, come le valutazioni di conformità e d’impatto sui diritti fondamentali, la definizione di sistemi di gestione del rischio.
In questi sistemi gli obblighi principali gravano non solo sullo sviluppatore del software, ma anche sull’azienda che lo utilizza (il “deployer”).
Questa deve garantire l’applicazione della sorveglianza umana, ovvero assicurare che sia sempre presente una persona in grado di controllare l’operato dell’Intelligenza artificiale a tutela dei diritti fondamentali, come la stessa dignità umana.
Sistemi con rischio limitato
Sistemi di IA il cui rischio primario risiede nel fatto che i soggetti interessati non si rendano conto di interagire effettivamente con un’Intelligenza artificiale o di trovarsi di fronte a contenuti generati o manipolati dall’ IA, con il concreto rischio di essere ingannati.
Pertanto, si richiedono obblighi di trasparenza, tramite idonea informativa agli utenti che si stanno interfacciando con un’IA o quando sono esposti a contenuti generati o manipolati artificialmente.
Un esempio pratico rimanda alla chatbot del servizio clienti di un’azienda, per cui chi fornisce tale esercizio deve necessariamente progettarlo in modo tale che l’utente sia consapevole di parlare con una macchina.
Lo stesso vale, nei casi previsti, per i contenuti generati o manipolati con l’IA e pubblicati per informare il pubblico su questioni di interesse pubblico, salvo che siano stati sottoposti a revisione umana o controllo editoriale.
Sistemi con rischio minimo
La maggior parte dei sistemi IA oggi in uso (come, ad esempio, la manutenzione predittiva degli impianti, la previsione di domande per la gestione del magazzino) si colloca in questa fascia, in cui appunto si consente l’uso dell’IA secondo questo livello minimo.
Su questi sistemi non vi è un obbligo specifico, ma rimane il dovere di rispettare le leggi generali, come la protezione dei dati personali e dei diritti dei consumatori.
Ad integrazione delle suddette fasce, occorre considerare l’importanza dell’”alfabetizzazione” degli utenti, ovvero l’imprenditore deve assicurarsi che il personale addetto a questi strumenti ne abbia specifica competenza e specializzazione, necessarie a comprenderne funzionamento, limiti e rischi.
Pertanto, si assume che a tutela dell’azienda sia opportuno effettuare una mappatura degli strumenti di IA interni, individuando il livello di rischio, allo scopo di comprendere sin da subito dove sia necessario intervenire.
Legge 132/2025: la guida per l’IA nei processi aziendali
Questa legge non ha il compito di sostituire l’AI Act, quanto piuttosto di integrarlo negli specifici settori del lavoro, giustizia, Pubblica amministrazione, diritto d’autore.
Come ricorda l’art.3 della Legge «la ricerca, la sperimentazione, lo sviluppo, l’adozione, l’applicazione e l’utilizzo di sistemi e di modelli di intelligenza artificiale per finalità generali avvengono nel rispetto dei diritti fondamentali e delle libertà previste dalla Carta Costituzionale».
In tal modo, si definiscono i principi generali che guidano ogni impresa nella gestione dei processi aziendali, considerando che lo sviluppo e utilizzo degli algoritmi deve avvenire nel rispetto dell’autonomia decisionale dell’uomo e della sorveglianza umana.
Questo significa che la tecnologia, l’algoritmo non può sostituirsi all’uomo.
Impatto dell’IA nei processi aziendali
La Legge prevede sia circostanze aggravanti per illeciti commessi tramite l’IA, sia una disciplina che regolamenti nel dettaglio il reato di diffusione illecita di contenuti manipolati, alterati (come ad esempio il “deepfake”).
Questi aspetti innovativi, in un contesto marcatamente digitalizzato, si riflettono direttamente sulla specifica responsabilità amministrativa dell’ente connessa all’uso di sistemi di IA e sull’adeguatezza e applicazione di un valido ed efficace Modello 231.
Come deve agire l’impresa?
Da questi presupposti, è opportuno che l’azienda si muova in maniera tempestiva su quattro linee operative:
- mappare i sistemi di IA in uso o in fase di implementazione, valutandoli e suddividendolo per livelli di rischio:
- aggiornare le informative privacy e le procedure/policy interne;
- formare il personale sugli specifici principi di trasparenza, tracciabilità, riservatezza e sorveglianza umana;
- monitorare l’evoluzione normativa applicata e applicabile.
In questo scenario, gli aspetti in esame possono incidere anche sul Modello 231, imponendo una verifica dei rischi di commissione dei reati-presupposto connessi all’uso dei sistemi di IA e dell’adeguatezza dei relativi protocolli di controllo.
Come si vedrà nel prossimo contributo, infatti, si impone alle imprese un tempestivo aggiornamento della mappatura dei rischi e dei relativi protocolli di controllo interno.
Gestire l’impatto dell’Intelligenza artificiale nei processi aziendali richiede pianificazione e conformità. Il nostro Studio affianca le imprese nella definizione e realizzazione di modelli organizzativi validi ed efficaci.
