AI Act: Regolamento UE sull’intelligenza artificiale

L’AI Act è il Regolamento Europeo che disciplina lo sviluppo e l’utilizzo dell’Intelligenza Artificiale, con un quadro comune di regole, requisiti e responsabilità per le aziende che sviluppano, forniscono o utilizzano sistemi di IA.

La normativa adotta un approccio basato sul rischio, prevedendo obblighi differenti in funzione delle caratteristiche, delle finalità e dell’impatto dei sistemi utilizzati. Dagli strumenti di AI generativa alle applicazioni integrate nei processi aziendali, diventa quindi essenziale comprendere quali regole si applicano, quali sono gli adempimenti richiesti e quali responsabilità ricadono sull’impresa.

In questo articolo analizziamo cosa prevede l’AI Act, a chi si applica, come vengono individuati i diversi livelli di rischio e quali sono i principali obblighi per fornitori e aziende che utilizzano sistemi di Intelligenza Artificiale.

Cos’è l’AI Act 

Il Regolamento UE 2024/1689 o Regolamento sull’Intelligenza Artificiale (noto come AI Act) è entrato in vigore il 01 agosto 2024, con l’obiettivo di garantire che lo sviluppo e l’utilizzo dell’IA avvengano in modo sicuro, etico e rispettoso dei diritti fondamentali e dei valori europei.

È il primo regolamento europeo dedicato all’intelligenza artificiale, che segna un punto di svolta fondamentale e si inserisce nella strategia digitale UE per promuovere innovazione e competitività, garantendo al tempo stesso la tutela dei cittadini e dei loro diritti.

La norma si compone di 113 articoli suddivisi in 13 capi e 180 considerando iniziali che precedono gli articoli, spiegando le ragioni che ne hanno portato all’adozione.

Il Regolamento adotta un approccio basato sul livello di rischio associato ai sistemi di IA, prevedendo specifici requisiti e obblighi per fornitori e utilizzatori in base al livello di rischio associato a ciascun sistema, particolarmente stringenti per i sistemi considerati “ad alto rischio“, che devono soddisfare requisiti di sicurezza, trasparenza e supervisione umana per poter essere messi in servizio.

Cosa devono fare le aziende per adeguarsi all’AI Act

Per adeguarsi all’AI Act, le aziende devono innanzitutto conoscere e mappare i sistemi di Intelligenza Artificiale sviluppati o utilizzati all’interno dell’organizzazione, individuando per ciascuno di essi finalità, livello di rischio e ruolo ricoperto dall’impresa – ad esempio provider, deployer, importatore o distributore.

Da questa classificazione dipendono gli obblighi applicabili.

Fatto ciò, ogni azienda deve definire una governance interna dell’IA, con procedure per valutare e autorizzare l’adozione di nuovi strumenti, verificarne la conformità, gestire i rischi e documentarne l’utilizzo. Particolare attenzione deve essere dedicata ai sistemi ad alto rischio, per i quali sono previsti requisiti e responsabilità più stringenti, e ai sistemi soggetti agli obblighi di trasparenza dell’articolo 50.

Elemento centrale è inoltre l’AI literacy: provider e deployer devono adottare misure a sostegno dello sviluppo delle competenze di tutte le persone che utilizzano sistemi di IA per loro conto, calibrate sulle conoscenze, sull’esperienza e sul contesto di utilizzo.

L’adeguamento all’AI Act non deve quindi essere considerato un adempimento isolato, ma un processo che coinvolge tecnologia, organizzazione, persone e procedure aziendali, da integrare con le altre normative applicabili, a partire dal GDPR quando vengono trattati dati personali.

AI Act in breve

Riepiloghiamo i punti salienti della normativa:

Quali sono le principali definizioni dell’AI Act

L’AI Act introduce un quadro terminologico comune, definendo nell’articolo 2 e articolo 3 i principali concetti cui si applica la normativa, e nell’articolo 4  l’importanza di gestire le nuove tecnologie con la giusta consapevolezza.

Definizione di “Sistema di IA”

La definizione giuridica di Sistema di Intelligenza Artificiale è contenuta nel comma 1 dell’articolo 3 del regolamento:

Art. 3 (1) «sistema di IA»: un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali;

I soggetti e gli operatori dell’AI Act

Gli articoli 2 e 3 definiscono l’ambito di applicazione del regolamento, individuando come “operatori” tutti i soggetti coinvolti. In particolare, nel comma 8 dell’articolo 3 la norma definisce:

Art. 3 (8) «operatore»: un fornitore, un fabbricante del prodotto, un deployer, un rappresentante autorizzato, un importatore o un distributore;

L’articolo elenca tutti i soggetti che devono aderire agli obblighi dell’Ai Act. La prima importante distinzione, su cui ci soffermiamo nel nostro articolo, è tra Provider o Fornitori di sistemi o modelli AI e Deployer o Utilizzatori, ovvero tra chi fornisce il sistema, perché lo realizza o lo mette a disposizione, e chi lo utilizza. La norma definisce delle responsabilità diverse in capo ad ognuno.

Va fatta un’osservazione importante: chi sviluppa o mette sul mercato UE un sistema di IA assume precise responsabilità legali.

Non è importante dove il soggetto abbia la sua sede legale: se il sistema viene immesso nel mercato europeo o se il suo output è utilizzato nell’Unione Europea, sarà tenuto a rispettare il regolamento. È lo stesso principio affermato nel GDPR, noto come “effetto Bruxelles”, ossia la capacità delle normative europee di estendere la propria influenza anche al di fuori dei confini dell’UE.

Collegati al Provider, la norma individua altri operatori che sono tenuti a verificarne l’assunzione di responsabilità:

Uso improprio ragionevolmente prevedibile

L’articoli 3, nel comma 13 definisce un concetto molto importante:

Art. 3 (13) «uso improprio ragionevolmente prevedibile»: l’uso di un sistema di IA in un modo non conforme alla sua finalità prevista, ma che può derivare da un comportamento umano o da un’interazione con altri sistemi, ivi compresi altri sistemi di IA, ragionevolmente prevedibile;

L’AI Act contempla espressamente il concetto di un utilizzo diverso dalla finalità prevista, ma prevedibile sulla base del comportamento umano oppure di problematiche tecnico-sistemiche. Mappare questi scenari e adottare adeguate misure di prevenzione diventa quindi una componente importante della governance e gestione dei rischi legati all’IA.

Definizione di “GPAI”

L’AI Act introduce il concetto di modelli di intelligenza artificiale per finalità generali (general-purpose AI model o GPAI model), dandone la definizione giuridica nel comma 63 dell’articolo 3:

Art. 3 (63) «modello di IA per finalità generali»: un modello di IA, anche laddove tale modello di IA sia addestrato con grandi quantità di dati utilizzando l’autosupervisione su larga scala, che sia caratterizzato da una generalità significativa e sia in grado di svolgere con competenza un’ampia gamma di compiti distinti, indipendentemente dalle modalità con cui il modello è immesso sul mercato, e che può essere integrato in una varietà di sistemi o applicazioni a valle, ad eccezione dei modelli di IA utilizzati per attività di ricerca, sviluppo o prototipazione prima di essere immessi sul mercato;

I modelli GPAI sono caratterizzati da un significativo grado di generalità, capaci di svolgere molteplici compiti e di essere integrati in diversi sistemi o applicazioni. Successivamente, la norma distingue tra modelli GPAI e sistemi GPAI (general-purpose AI system o GPAI system) basati su tali modelli e in grado di perseguire diverse finalità, direttamente o attraverso l’integrazione in altri sistemi di IA; la definizione giuridica di quest’ultimo è nel comma 66 dell’articolo 3 :

Art. 3 (66) «sistema di IA per finalità generali»: un sistema di IA basato su un modello di IA per finalità generali e che ha la capacità di perseguire varie finalità, sia per uso diretto che per integrazione in altri sistemi di IA;

L’acronimo GPAI (General Purpose AI) fa riferimento quindi a modelli e sistemi di intelligenza artificiale per finalità generali, ovvero caratterizzati dalla capacità di operare su un’ampia gamma di compiti, anziché essere progettati esclusivamente per una funzionalità specifica.

Si considerano GPAI modelli come ChatGPT, Claude o Gemini, ovvero modelli di IA generativa di grandi dimensioni e ampia capacità, addestrati su grandi quantità di dati e utilizzabili in numerosi contesti applicativi. Questi modelli, noti anche come modelli fondativi (foundation models), sono progettati per essere utilizzati in una vasta gamma di applicazioni, spesso come base su cui vengono costruiti altri sistemi o integrati in altre applicazioni IA.

GPAI con rischio sistemico

I GPAI con rischio sistemico sono modelli di IA per finalità generali dotati di capacità ad alto impatto che, per caratteristiche, capacità e diffusione, possono determinare rischi significativi su larga scala.

I criteri per considerare i GPAI come “modelli con rischio sistemico” sono definiti nell’articolo 51 e si basano sulla potenza computazionale utilizzata per addestrarli, presumendo che un modello presenti capacità ad alto impatto quando la quantità cumulativa di calcolo utilizzata per il suo addestramento è superiore a 10²⁵ FLOP.

La Commissione può – di propria iniziativa (ex officio) o su segnalazione qualificata del gruppo di esperti scientifici – individuare come “sistemici” anche altri modelli al di sotto di questa soglia, sulla base delle loro capacità e del loro potenziale impatto.

Alfabetizzazione o AI Literacy

L’articolo 4  (Alfabetizzazione in materia di IA o AI Literacy) prevede che provider e deployer adottino misure per supportare lo sviluppo di un livello sufficiente di alfabetizzazione di tutte le persone che utilizzano o gestiscono sistemi di IA per loro conto.

Art. 4: “I fornitori e i deployer dei sistemi di IA adottano misure per garantire nella misura del possibile un livello sufficiente di alfabetizzazione in materia di IA del loro personale nonché di qualsiasi altra persona che si occupa del funzionamento e dell’utilizzo dei sistemi di IA per loro conto, prendendo in considerazione le loro conoscenze tecniche, la loro esperienza, istruzione e formazione, nonché il contesto in cui i sistemi di IA devono essere utilizzati, e tenendo conto delle persone o dei gruppi di persone su cui i sistemi di IA devono essere utilizzati.“

La formazione del personale rappresenta una delle principali modalità attraverso cui le aziende possono adempiere a questo obbligo.

Sistemi di IA: l’approccio basato sul rischio

L’AI Act adotta un approccio basato sul rischio (risk-based approach), che definisce regole e obblighi differenti in funzione del livello di rischio che i sistemi di Intelligenza Artificiale possono comportare per la sicurezza, la salute e i diritti fondamentali delle persone.

Maggiore è il rischio associato al sistema e al suo utilizzo, più stringenti sono i requisiti e gli obblighi previsti dal Regolamento.

A fini divulgativi, nell’approccio basato sul rischio dell’AI Act possiamo individuare 4 livelli principali: pratiche di IA vietate, sistemi di IA ad alto rischio, sistemi comunemente definiti a rischio “limitato” (soggetti all’obbligo di trasparenza) e sistemi a rischio “minimo o nullo”.

AI Act: Livelli di Rischio dei sistemi AI – Fonte: Commissione Europea

Pratiche di IA vietate

L’articolo 5  dell’AI Act definisce le Pratiche di IA Vietate, ovvero sistemi di IA considerati una minaccia diretta ai diritti e alla sicurezza, perché possono provocare danni significativi a una o più persone, come tali rappresentanti un rischio inaccettabile. Comprendono, ad esempio:

• Sistemi che sfruttano le vulnerabilità (età, disabilità o specifica situazione economica o sociale) per provocare un danno significativo a una o più persone
• Sistemi di punteggio sociale che classificano le persone sulla base del comportamento, delle caratteristiche personali o della personalità, e conducono a un trattamento pregiudizievole o sfavorevole, ingiustificato o sproporzionato
• Sistemi di scraping non mirato di immagini facciali, al fine di creare database di riconoscimento facciale
• Identificazione biometrica remota in tempo reale in spazi accessibili al pubblico, ai fini di attività di contrasto (salvo eccezioni autorizzate)
• Riconoscimento delle emozioni in contesti scolastici o lavorativi (salvo finalità mediche o di sicurezza)

Sistemi di IA ad alto rischio

L’articolo 6 definisce le regole di classificazione per i sistemi di IA ad alto rischio: sono sistemi che possono avere un impatto significativo sulla salute, la sicurezza o i diritti fondamentali delle persone fisiche. I criteri per classificare i sistemi ad alto rischio sono definiti nel citato articolo 6 e negli allegati I e III dell’AI Act; rientrano in questa categoria, ad esempio:

• Sistemi utilizzati per selezionare candidati, gestire promozioni o valutare le prestazioni dei lavoratori
• Sistemi utilizzati per determinare l’accesso a servizi essenziali, come prestazioni pubbliche, assistenza sanitaria o credito
• Sistemi utilizzati nell’istruzione per l’ammissione o la valutazione degli studenti
• Sistemi utilizzati nell’amministrazione della giustizia o per influenzare l’esito di elezioni e referendum o il comportamento di voto
• Sistemi utilizzati come componenti di sicurezza di infrastrutture critiche, ad esempio nella fornitura di acqua, gas ed energia o nella gestione del traffico stradale
• Sistemi di identificazione biometrica remota, nei casi in cui il loro utilizzo sia consentito dalla legge

Sistemi di IA a rischio “limitato”

Il regolamento individua degli obblighi di trasparenza per determinati sistemi di IA che presentano un rischio “limitato”, in quanto potrebbero influenzare le volontà degli utenti, interagendo direttamente con essi senza che le persone si rendano conto di comunicare o ricevere contenuti da un’intelligenza artificiale. Esempi tipici sono:

• i chatbot, dove gli utenti devono essere consapevoli di non interagire con un essere umano
• i contenuti generati o manipolati da IA (es. deepfake), che devono essere opportunamente etichettati

Sistemi di IA a rischio “minimo o nullo”

Sono infine considerati sistemi di IA a rischio minimo o nullo quelli che non hanno alcun impatto diretto sui diritti fondamentali o sulla sicurezza delle persone. L’AI Act non prevede in questo caso obblighi aggiuntivi, oltre a quanto già disciplinato da normative generali e settoriali. Tuttavia, incoraggia l’adozione volontaria di codici di condotta per promuovere buone pratiche (articolo 95). Esempi sono:

• Filtri antispam per la posta elettronica
• Sistemi di IA utilizzati nei videogiochi per gestire personaggi o dinamiche di gioco
• Sistemi di manutenzione predittiva di macchinari, quando non incidono su ambiti critici o sulla sicurezza delle persone
• Sistemi per ottimizzare inventari, scorte o processi logistici interni
• Strumenti di classificazione e organizzazione automatica di documenti, in contesti non sensibili

Riepilogo dei livelli di rischio e degli obblighi previsti

Maggiore è il rischio associato al sistema e al suo utilizzo, più stringenti sono i requisiti e gli obblighi previsti dal Regolamento, di cui forniamo a seguire una breve sintesi in tabella:

Ambiti di applicazione e obblighi dell’AI Act

L’AI Act ha un ambito di applicazione molto ampio (definito nell’articolo 2) e riguarda aziende e organizzazioni che sviluppano, forniscono, distribuiscono o utilizzano sistemi di Intelligenza Artificiale nell’Unione Europea. Sono previste specifiche esclusioni, tra cui determinati utilizzi per finalità militari, di difesa o sicurezza nazionale, alcune attività di ricerca scientifica, oltre all’uso dell’IA da parte di persone fisiche per attività esclusivamente personali e non professionali.

La normativa ha una portata extraterritoriale: non dipende esclusivamente dalla sede dell’azienda, ma da dove il sistema viene commercializzato o utilizzato e da dove vengono utilizzati i suoi output. Un’impresa extra-UE può pertanto rientrare nell’ambito del Regolamento quando offre un sistema di IA sul mercato europeo o quando i risultati prodotti dal proprio sistema vengono utilizzati nell’Unione.

Per le aziende, il primo passo è quindi individuare il ruolo ricoperto rispetto al sistema di IA – ad esempio provider, deployer, rappresentante, importatore o distributore – e verificare la tipologia e la finalità del sistema utilizzato: da questi elementi dipendono gli obblighi previsti dall’AI Act.

Obblighi di alfabetizzazione (AI Literacy)

L’articolo 4  dell’AI Act, dedicato al “Alfabetizzazione in materia di IA” (AI Literacy), introduce per provider e deployer l’obbligo di adottare misure adeguate per garantire un livello sufficiente di alfabetizzazione in materia di IA di tutte le persone che utilizzano o gestiscono sistemi di IA per loro conto.

La formazione del personale rappresenta una delle principali modalità attraverso cui le aziende possono adempiere a questo obbligo.

L’alfabetizzazione non dovrebbe essere generica, ma calibrata considerando le conoscenze tecniche, l’esperienza, l’istruzione e la formazione delle persone coinvolte, oltre al contesto in cui vengono utilizzati i sistemi di IA e alle persone o ai gruppi sui quali questi vengono impiegati.

Questo implica, sul piano operativo, costruire percorsi differenziati in funzione delle competenze e delle attività effettivamente svolte. Persone con lo stesso ruolo professionale possono infatti utilizzare l’IA in contesti differenti ed essere esposte a rischi diversi: un utilizzo dell’AI nel marketing, ad esempio, pone problematiche diverse rispetto al suo impiego in ambito legale, HR o nello sviluppo software.

Per costruire un programma efficace è quindi utile partire da una mappatura preliminare degli utilizzi dell’IA in azienda: quali sistemi vengono utilizzati, da chi, per quali attività e con quali possibili rischi. Su questa base è possibile definire percorsi formativi mirati, combinando competenze tecniche, normative e organizzative.

Obblighi per i sistemi di IA ad alto rischio

I sistemi di IA ad alto rischio sono quelli che, pur non essendo vietati, possono comportare rischi significativi di danno per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, anche nel senso di influenzare materialmente il risultato del processo decisionale.

Il regolamento dedica a questo tema il “Capo III: Sistemi di IA ad Alto Rischio“, dall’articolo 6 all’articolo 49, prevedendo obblighi specifici per fornitori e utilizzatori di questi sistemi. I criteri per classificare questi sistemi sono definiti nell’articolo 6 e negli allegati I e III dell’AI Act

Questi sistemi sono al centro dell’AI Act, in quanto rappresentano le applicazioni che più di altre possono incidere sulla libertà delle persone.

Un esempio di sistema ad alto rischio sono i sistemi di riconoscimento facciale: questi sistemi, se utilizzati in spazi pubblici per la sorveglianza in tempo reale, sono considerati ad alto rischio e sono soggetti a restrizioni severe per proteggere la privacy e i diritti dei cittadini. Se non regolamentati, potrebbero essere utilizzati per la sorveglianza indiscriminata, violando la riservatezza delle persone: per questo, l’AI Act impone restrizioni severe su tali usi, proteggendo così i diritti individuali.

In relazione a questi sistemi, come detto, provider e deployer avranno obblighi diversi.

Obblighi per i fornitori di sistemi ad alto rischio

Obblighi per gli utilizzatori di sistemi ad alto rischio

Obblighi per i modelli GPAI

I modelli di IA per finalità generali (GPAI) sono soggetti a un regime di obblighi specifico, disciplinato nel Capo V: Modelli di IA per finalitá generali. In particolare, i provider di modelli GPAI sono soggetti agli obblighi specifici previsti dall’articolo 53.

Devono predisporre e mantenere aggiornata la documentazione tecnica del modello, fornire informazioni e documentazione adeguate ai provider di sistemi di IA che intendono integrarlo nelle proprie soluzioni, adottare una policy per garantire il rispetto della normativa europea sul diritto d’autore e rendere pubblica una sintesi sufficientemente dettagliata dei contenuti utilizzati per l’addestramento del modello.

Questi obblighi sono distinti da quelli previsti per i sistemi di IA ad alto rischio: un modello GPAI può essere integrato in un sistema che – in base alla propria finalità e al contesto di utilizzo – potrebbe essere classificato come sistema ad alto rischio. In questo caso, il provider del modello continua a essere soggetto agli obblighi previsti per i GPAI, mentre il provider del sistema a valle deve garantire il rispetto dei requisiti previsti dall’AI Act per i sistemi ad alto rischio.

Proprio per consentire ai provider a valle di adempiere ai propri obblighi, l’articolo 53 impone al provider del modello GPAI di mettere a loro disposizione le informazioni e la documentazione necessarie per comprendere le capacità e i limiti del modello e per rispettare gli obblighi previsti dal Regolamento.

Obblighi per i modelli GPAI a rischio sistemico

I provider di GPAI con rischio sistemico, oltre agli obblighi previsti per tutti i modelli GPAI, sono soggetti ai requisiti aggiuntivi stabiliti dall’articolo 55.

Devono effettuare valutazioni del modello, comprese prove antagonistiche (adversarial testing), individuare e mitigare i rischi sistemici, documentare e segnalare gli incidenti gravi e garantire un adeguato livello di cybersicurezza del modello e della relativa infrastruttura fisica.

Quando un modello soddisfa le condizioni previste per la classificazione a rischio sistemico, il provider deve inoltre notificarlo alla Commissione Europea, secondo quanto previsto dall’articolo 52.

Addestramento dei modelli GPAI e contenuti protetti da copyright

L’AI Act si inserisce nel quadro normativo UE vigente in tema di diritto d’autore, con particolare riferimento alla Direttiva Digital Single Market (direttiva (UE) 2019/790 o Direttiva DSM). Il Regolamento affronta il tema in alcuni Considerando, con il fine di garantire che l’utilizzo dei contenuti protetti da copyright da parte dei GPAI avvenga nel rispetto della normativa stessa.

Vediamo le parti del regolamento che hanno un impatto in materia di diritto d’autore.

• Uso di opere protette dal diritto d’autore per l’addestramento dei modelli GPAI. L’addestramento dei modelli GPAI richiede l’accesso a grandi quantità di dati, essenziali per lo sviluppo dell’IA stessa: per questo motivo, l’articolo 4 della Direttiva DSM prevede un’eccezione riguardo ai contenuti protetti dal diritto d’autore usati per il text and data mining a scopo commerciale (“TDM”), consentendo l’estrazione di testo e dati da opere o altri materiali cui si abbia legalmente accesso, a meno che il titolare si opponga a tali usi. I titolari dei diritti possono infatti esercitare il diritto di riserva (opt-out) per vietare l’uso delle proprie opere a fini di estrazione di testo e dati da parte di sistemi di IA: in questa ipotesi, i provider di GPAI devono ottenere un’autorizzazione dai titolari dei diritti per effettuare TDM su tali opere.

Considerando 105: “I modelli di IA per finalità generali, in particolare i grandi modelli di IA generativa, in grado di generare testo, immagini e altri contenuti, presentano opportunità di innovazione uniche, ma anche sfide per artisti, autori e altri creatori e per le modalità con cui i loro contenuti creativi sono creati, distribuiti, utilizzati e fruiti. Lo sviluppo e l’addestramento di tali modelli richiedono l’accesso a grandi quantità di testo, immagini, video e altri dati. Le tecniche di estrazione di testo e di dati possono essere ampiamente utilizzate in tale contesto per il reperimento e l’analisi di tali contenuti, che possono essere protetti da diritto d’autore e da diritti connessi. Qualsiasi utilizzo di contenuti protetti da diritto d’autore richiede l’autorizzazione del titolare dei diritti interessato, salvo se si applicano eccezioni e limitazioni pertinenti al diritto d’autore. La direttiva (UE) 2019/790 ha introdotto eccezioni e limitazioni che consentono, a determinate condizioni, riproduzioni ed estrazioni effettuate da opere o altri materiali ai fini dell’estrazione di testo e di dati. In base a tali norme, i titolari dei diritti hanno la facoltà di scegliere che l’utilizzo delle loro opere e di altri materiali sia da essi riservato per evitare l’estrazione di testo e di dati, salvo a fini di ricerca scientifica. Qualora il diritto di sottrarsi sia stato espressamente riservato in modo appropriato, i fornitori di modelli di IA per finalità generali devono ottenere un’autorizzazione dai titolari dei diritti, qualora intendano compiere l’estrazione di testo e di dati su tali opere”.

• I fornitori di modelli GPAI devono rispettare le riserve al punto sopra e adottare politiche interne volte a garantire la conformità con la normativa UE sul diritto d’autore e diritti connessi, indipendentemente dal luogo in cui si svolgono le attività di estrazione e addestramento, evitando di aggirare le norme sfruttando giurisdizioni con leggi meno restrittive.

Considerando 106: “I fornitori che immettono modelli di IA per finalità generali sul mercato dell’Unione dovrebbero garantire la conformità ai pertinenti obblighi del presente regolamento. A tal fine, i fornitori di modelli di IA per finalità generali dovrebbero mettere in atto una politica volta a rispettare il diritto dell’Unione in materia di diritto d’autore e diritti connessi, in particolare per individuare e rispettare la riserva dei diritti espresse dai titolari dei diritti a norma dell’articolo 4, paragrafo 3, della direttiva (UE) 2019/790. Qualsiasi fornitore che immetta sul mercato dell’Unione un modello di IA per finalità generali dovrebbe rispettare tale obbligo, indipendentemente dalla giurisdizione in cui hanno luogo gli atti pertinenti in materia di diritto d’autore alla base dell’addestramento di tali modelli di IA per finalità generali. Ciò è necessario per garantire condizioni di parità tra i fornitori di modelli di IA per finalità generali, dato che nessun fornitore dovrebbe essere in grado di ottenere un vantaggio competitivo nel mercato dell’Unione applicando norme in materia di diritto d’autore meno rigorose di quelle previste nell’Unione”.

• I fornitori di modelli GPAI hanno obbligo di trasparenza sui dati di addestramento: devono redigere e pubblicare una sintesi dei contenuti utilizzati per addestrare i propri modelli, sufficientemente dettagliata sotto il profilo tecnico (pur tutelando i segreti industriali e le informazioni riservate) per consentire ai titolari dei diritti d’autore e ad altri soggetti con interessi legittimi di verificare se le proprie opere siano state utilizzate.

Considerando 107: “Al fine di aumentare la trasparenza sui dati utilizzati nelle fasi di pre-addestramento e addestramento dei modelli di IA per finalità generali, compresi testo e dati protetti dalla normativa sul diritto d’autore, è opportuno che i fornitori di tali modelli elaborino e mettano a disposizione del pubblico una sintesi sufficientemente dettagliata dei contenuti utilizzati per l’addestramento del modello di IA per finalità generali. Pur tenendo debitamente conto della necessità di proteggere i segreti commerciali e le informazioni commerciali riservate, la presente sintesi dovrebbe essere di respiro ampio e generale, anziché dettagliata sotto il profilo tecnico, al fine di agevolare le parti con interessi legittimi, compresi i titolari dei diritti d’autore, nell’esercitare e far rispettare i loro diritti ai sensi del diritto dell’Unione, ad esempio elencando le principali raccolte o serie di dati che sono state inserite nell’addestramento del modello, quali grandi banche dati o archivi di dati privati o pubblici, e fornendo una descrizione delle altre fonti di dati utilizzate. È opportuno che l’ufficio per l’IA fornisca un modello per la sintesi, che dovrebbe essere semplice ed efficace nonché consentire al fornitore di fornire la sintesi richiesta in forma descrittiva”.

• I fornitori di modelli GPAI devono adottare politiche interne adeguate per identificare e rispettare le riserve di opt-out, definendo anche parametri tecnici per l’automazione dei controlli sui contenuti.

Art. 53 (1.c):  “I fornitori di modelli di IA per finalità generali attuano una politica volta ad adempiere al diritto dell’Unione in materia di diritto d’autore e diritti ad esso collegati e, in particolare, a individuare e rispettare, anche attraverso tecnologie all’avanguardia, una riserva di diritti espressa a norma dell’articolo 4, paragrafo 3, della direttiva (UE) 2019/790″

Obblighi di trasparenza per determinati sistemi di IA

I sistemi di IA che presentano un rischio “limitato” sono quelli che interagiscono direttamente con gli utenti, possono influenzare i diritti o le volontà, con la possibilità che le persone non si rendano conto di comunicare o ricevere contenuti da un’intelligenza artificiale.

Per questi sistemi l’AI Act prevede specifici obblighi di trasparenza:

Il regolamento dedica a questo tema l’articolo 50  nel “Capo IV: Obblighi di trasparenza per i fornitori e i deployers di determinati sistemi di IA“

L’articolo 50  stabilisce che, quando un sistema è destinato a interagire direttamente con persone fisiche, queste debbano essere informate di stare interagendo con un sistema di IA, salvo che ciò sia già evidente in base alle circostanze e al contesto di utilizzo. Anche tutti i contenuti generati o manipolati dall’IA devono essere chiaramente marcati e rilevabili come generati artificialmente, per evitare che gli utenti siano ingannati o inconsapevoli.

Un esempio è rappresentato dai chatbot, dove gli utenti devono essere consapevoli di non interagire con un essere umano, oppure etichettare contenuti generati o manipolati da IA (es. deepfake).

Queste informative devono essere fornite in maniera chiara, distinguibile e accessibile.

Contenuti generati dall’intelligenza artificiale

La trasparenza (articolo 50) si applicano anche a contenuti quali testi, immagini, audio o video generati o modificati con l'intelligenza artificiale, con obblighi distinti tra fornitori e utilizzatori di strumenti di IA.

I provider (fornitori) devono rendere tecnicamente possibile - per quanto consentito dallo stato dell'arte - il riconoscimento dei contenuti generati o manipolati artificialmente, attraverso soluzioni machine-readable non necessariamente visibili all'utente. In particolare, devono garantire che tutti gli output siano marcati in formato leggibile meccanicamente e rilevabili come generati o manipolati dall'IA, nella misura in cui ciò sia tecnicamente possibile.

I deployer (utilizzatori) devono invece adempiere agli obblighi di trasparenza nella comunicazione del contenuto, indicando chiaramente alle persone che lo visualizzano se è stato creato o modificato con sistemi IA. Nella pratica, questo significa etichettare in modo opportuno ogni contenuto diffuso in rete (ad esempio, tramite il proprio sito o tramite canali social) affinché sia immediatamente riconoscibile come contenuto generato o manipolato. 

Dal punto di vista aziendale è quindi utile definire una vera e propria AI Content Policy: individuare quali contenuti vengono prodotti con IA, come vengono revisionati, quando devono essere accompagnati da un’informativa e chi è responsabile della loro approvazione. Documentare il processo creativo e di revisione può inoltre essere una buona pratica per ricostruire il contributo umano, gli strumenti utilizzati e le verifiche effettuate, anche in relazione a copyright, reputazione e responsabilità aziendale.

Quando informare gli utenti che stanno interagendo con un sistema di IA?

La ratio della normativa è evitare che un contenuto generato o manipolato tramite IA possa ingannare o fuorviare l’utente, facendogli percepire come autentico qualcosa che non lo è. In questi casi, è necessario quindi informare gli utenti che stanno interagendo con un sistema di IA.

L'obbligo interessa tutti i contenuti realistici creati o modificati con AI e pubblicati online su sito web, social media o in campagne di advertising devono essere chiaramente identificati come AI. 

Il focus è sui contenuti artificiali che sembrano reali, e come tale potenzialmente "ingannevoli": nella valutazione conta non solo se l'IA ha generato o modificato il contenuto, ma quanto il risultato appaia realistico, quale informazione comunica e se può alterare la percezione dell'utente.

Come etichettare i contenuti generati con IA?

Quando ricorrono le condizioni che richiedono trasparenza, il contenuto deve essere chiaramente identificato come generato o manipolato mediante IA.

La Commissione Europea presenta degli esempi di etichetta grafica per fornire questa informazione, che potrebbe tuttavia essere fornita anche attraverso un testo, purché in una posizione chiaramente visibile e percepibile dall'utente.

ICONA	QUANDO SI USA	ESEMPIO
	AI Icona di base per i contenuti AI Etichetta generale, da usare quando l'IA è stata coinvolta nella creazione di contenuti deepfake (immagini, audio, video) o testo pubblicato o quando viene implementata un'etichetta di testo personalizzata o un secondo livello interattivo.	Video deepfake con l'etichetta testuale "voci generate con" seguita dall'icona di base
	AI Generated Contenuto generato attraverso l’IA Quando l'intero contenuto deepfake (immagine, audio, video) o testo è completamente generato dall'IA senza elementi creati dall'uomo o controllo editoriale umano.	Sintesi delle notizie generate dall'IA Scena o personaggio completamente creati tramite IA Video deepfake completamente generati dall'IA (anche se successivamente montati da una persona) Musica o arte completamente composta dall'IA (salvo diritti di autore)
	AI Modified Contenuto modificato mediante IA Quando contenuti creati dall'uomo sono stati parzialmente modificati con l'IA, trasformandoli in un deepfake o in un testo su questioni di interesse pubblico	Un volto in una fotografia autentica viene scambiato con un volto di un politico che utilizza l'IA Fotografia reale sulla quale vengono aggiunti o modificati elementi mediante IA (come foto autentiche di un appartamento vuoto, arredate utilizzando l'IA)
Fonte: Commissione Europea

La qualificazione tra "creato" o "modificato" dovrebbe essere valutata sulla base del contenuto nel suo complesso e della rilevanza della componente generata o modificata.

Le etichette devono essere poste in un punto immediatamente visibile. L'icona di esempio fornita può essere modificata in base al contesto, al fine di mantenere un contrasto tale da fornire l'informazione in modo chiaro e accessibile.

Esempio: l'icona nera ha un evidente contrasto su un'immagine chiara. Tuttavia, apponendo la stessa icona su un'immagine molto scura, potrebbe venire meno il contrasto utile a rendere l'icona chiaramente percepibile. Il colore dell'icona va quindi modulato di conseguenza.

Alcune piattaforme, come Meta e Google, dispongono di strumenti automatici per segnalare contenuti realizzati con IA, anche nell'advertising: tuttavia, la semplice etichetta fornita dalla piattaforma potrebbe non essere sufficiente, da sola, ad adempiere a tutti gli obblighi dell'AI Act.

Testi generati con IA e revisione umana: vanno etichettati?

Vi è l'obbligo di etichettatura anche alcuni tipi di contenuti testuali: "I deployer di un sistema di IA che genera o manipola testo pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico rendono noto che il testo è stato generato o manipolato artificialmente" (articolo 50 comma 4).

L'etichettatura del testo è richiesta se ricorono insieme 3 elementi: il testo deve essere pubblicato, avere lo scopo di informare il pubblico e riguardare una questione di interesse pubblico (chiarito nelle Linee guida e FAQ della Commissione sull’art. 50).

Tuttavia, anche nel caso di contenuti di questo tipo generati tramite IA, la presenza di una revisione umana o di un controllo editoriale cui segue l'approvazione del contenuto, può incidere sull'obbligo di dichiararne la generazione mediante IA.

Ciò che conta in questo caso è la validazione umana del contenuto, dove con "revisione" s'intende non necessariamente la modifica del testo, ma anche il solo esame da parte di una persona competente che lo valuti e lo approvi; una semplice correzione superficiale, invece, non rappresenterebbe una vera revisione.

Domande frequenti sui contenuti generati con l’IA

Vediamo alcune risposte alle domande più frequenti.

Le informazioni e le risposte di seguito fornite hanno carattere puramente indicativo e riflettono un’interpretazione della normativa, che non costituisce né può sostituirsi ad una consulenza legale personalizzata. Considerata la complessità della materia e la necessità di valutare ogni specifico caso, si raccomanda di verificarne l’applicabilità con il proprio legale di fiducia.

Appendice

AI Act e diritto d’autore

L’utilizzo dell’Intelligenza Artificiale solleva importanti questioni in materia di diritto d’autore, sia per i contenuti utilizzati per addestrare i modelli sia per quelli successivamente generati.

Sul fronte dell’addestramento dei modelli, la normativa europea sul copyright prevede specifiche eccezioni per il text and data mining (TDM) di opere e materiali ai quali si abbia legalmente accesso. Per il TDM previsto dall’art. 4 della Direttiva (UE) 2019/790, i titolari dei diritti possono tuttavia riservarsi espressamente sull’utilizzo delle proprie opere (opt-out), anche attraverso strumenti leggibili automaticamente nel caso di contenuti disponibili online.

L’AI Act interviene su questo quadro imponendo ai provider di modelli GPAI, ai sensi dell’art. 53, di adottare una policy per rispettare il diritto d’autore e i diritti connessi dell’Unione, anche individuando e rispettando le riserve dei diritti espresse dai titolari. Devono inoltre rendere pubblica una sintesi sufficientemente dettagliata dei contenuti utilizzati per l’addestramento del modello.

Sul fronte dei contenuti generati dall’IA, invece, l’AI Act non stabilisce chi ne possieda il copyright. La tutela deve essere valutata sulla base della normativa sul diritto d’autore e, in particolare, assume rilievo il contributo creativo umano alla realizzazione dell’opera. Per le aziende che utilizzano strumenti di AI generativa è quindi opportuno verificare le condizioni di utilizzo dei servizi impiegati e documentare, quando rilevante, il processo creativo e l’intervento umano nella produzione del contenuto.

AI Act e GDPR

AI Act e GDPR sono normative complementari e possono applicarsi contemporaneamente allo stesso sistema di Intelligenza Artificiale. L’AI Act disciplina lo sviluppo, l’immissione sul mercato e l’utilizzo dell’IA attraverso requisiti differenziati in funzione delle caratteristiche e dei rischi del sistema; il GDPR continua invece ad applicarsi ogni volta che lo sviluppo o l’utilizzo dell’IA comporta un trattamento di dati personali.

Un’azienda che utilizza sistemi di IA deve quindi verificare non solo gli obblighi previsti dall’AI Act, ma anche la conformità del trattamento dei dati ai principi e agli obblighi del GDPR, tra cui liceità, trasparenza, limitazione delle finalità, minimizzazione dei dati, sicurezza e tutela dei diritti degli interessati. Quando richiesto, deve inoltre effettuare una valutazione d’impatto sulla protezione dei dati (DPIA).

Ad esempio, uno studio medico che utilizza un sistema di intelligenza artificiale, dovrà effettuare una valutazione tecnica per utilizzare sistemi di IA ma, allo stesso tempo, non esporre i dati personali dei pazienti a rischi e trasferimenti non autorizzati. 

La conformità all’AI Act non sostituisce quindi quella al GDPR: i due Regolamenti operano su piani differenti ma interconnessi.

AI Act: entrata in vigore, scadenze e calendario di applicazione

L’AI Act è stato approvato dal Parlamento Europeo il 13 marzo 2024 e pubblicato nella Gazzetta Ufficiale dell’Unione Europea il 12 luglio 2024. È entrato in vigore il 1° agosto 2024, prevedendo un’applicazione progressiva delle diverse disposizioni.

Il calendario dell’AI Act è stato concepito per consentire un’introduzione progressiva del nuovo quadro normativo, che consente alle aziende un adeguamento graduale e alle autorità di vigilanza di prepararsi adeguatamente per monitorare l’applicazione delle nuove norme.

Le aziende devono quindi verificare se l’AI Act si applica ai sistemi sviluppati o utilizzati, e quali disposizioni sono già applicabili e quali entreranno in applicazione successivamente.

Il Regolamento prevede quindi un’applicazione scaglionata nel tempo, con scadenze differenti in funzione delle disposizioni e della tipologia di sistema di IA.

• Dal 2 febbraio 2025 si applicano le prime disposizioni dell’AI Act, tra cui le definizioni del Regolamento, le principali pratiche di IA vietate e le disposizioni in materia di AI Literacy.
• Dal 2 agosto 2025 si applicano, tra le altre, le disposizioni relative alla governance e gli obblighi specifici previsti per i modelli di IA per finalità generali (GPAI). Per i modelli GPAI immessi sul mercato prima del 2 agosto 2025 è previsto un periodo transitorio fino al 2 agosto 2027.
• Dal 2 agosto 2026 l’AI Act è generalmente applicabile, salvo le disposizioni per le quali sono previste scadenze differenti. Da questa data trovano applicazione, tra l’altro, gli obblighi di trasparenza dell’articolo 50, relativi a determinati sistemi di IA e contenuti generati o manipolati artificialmente.
• Dal 2 dicembre 2027 si applicano le principali disposizioni del Capo III relative ai sistemi classificati ad alto rischio ai sensi dell’articolo 6, paragrafo 2, e dell’Allegato III. Rientrano in questo ambito, a determinate condizioni, sistemi utilizzati in settori quali biometria, infrastrutture critiche, istruzione, occupazione, accesso a servizi essenziali, attività di contrasto, migrazione e amministrazione della giustizia.
• Dal 2 agosto 2028 si applicano le principali disposizioni del Capo III ai sistemi classificati ad alto rischio ai sensi dell’articolo 6, paragrafo 1, e dell’Allegato I, ossia sistemi di IA collegati a prodotti soggetti alla normativa europea di armonizzazione indicata dal Regolamento.

AI Act: sanzioni previste

L’AI Act prevede un sistema di sanzioni (art. 99 – 100 – 101) effettive, proporzionate e dissuasive per garantire il rispetto del Regolamento. Le sanzioni sono principalmente di natura amministrativa pecuniaria, ma gli Stati membri possono prevedere anche avvertimenti e altre misure di esecuzione non pecuniarie.

Le sanzioni variano in funzione della tipologia e della gravità della violazione:

1. Violazione delle pratiche di IA vietate (Art. 99, par. 3): la violazione dei divieti previsti dall’articolo 5 può comportare una sanzione fino a 35 milioni di euro oppure, se il trasgressore è un’impresa*, fino al 7% del fatturato mondiale totale annuo dell’esercizio precedente, se superiore.
2. Violazione degli obblighi previsti per operatori e organismi notificati (Art. 99, par. 4): la mancata osservanza di determinati obblighi previsti dal Regolamento per provider, rappresentanti autorizzati, importatori, distributori, deployer e organismi notificati, nonché la violazione degli obblighi di trasparenza dell’articolo 50, può comportare una sanzione fino a 15 milioni di euro oppure, se il trasgressore è un’impresa*, fino al 3% del fatturato mondiale totale annuo dell’esercizio precedente, se superiore**.
3. Fornitura di informazioni inesatte, incomplete o fuorvianti (Art. 99, par. 5): fornire, in risposta a una richiesta, informazioni inesatte, incomplete o fuorvianti agli organismi notificati o alle autorità nazionali competenti può comportare una sanzione fino a 7,5 milioni di euro oppure, se il trasgressore è un’impresa*, fino all’1% del fatturato mondiale totale annuo dell’esercizio precedente, se superiore**.
4. Violazioni da parte dei provider di modelli di IA per finalità generali (GPAI) (Art. 101): la Commissione può imporre ai provider di modelli GPAI sanzioni fino a 15 milioni di euro oppure, se superiore**, fino al 3% del fatturato mondiale totale annuo dell’esercizio precedente, quando, intenzionalmente o per negligenza, violano le disposizioni pertinenti del Regolamento, non ottemperano alle richieste di documenti o informazioni della Commissione, forniscono informazioni inesatte, incomplete o fuorvianti oppure non rispettano le misure richieste dalla Commissione.
5. Violazioni da parte di istituzioni, organi e organismi dell’Unione Europea (Art. 100): il Garante europeo della protezione dei dati (GEPD) può imporre sanzioni fino a 1,5 milioni di euro per la violazione delle pratiche vietate dall’articolo 5 e fino a 750.000 euro per le altre violazioni del Regolamento.

* il trasgressore potrebbe essere un impresa, ovvero non è una pubblica amministrazione né un organismo pubblico. 
**viene applicato il limite più elevato tra i due

Per le PMI, comprese le start-up, è previsto un regime più favorevole: per ciascuna categoria di violazione dell’articolo 99, la sanzione non può superare il valore più basso tra l’importo fisso e la percentuale del fatturato prevista, mentre per le altre imprese si considera il valore più elevato.

L’importo della sanzione viene determinato caso per caso, tenendo conto delle circostanze specifiche della violazione e nel rispetto dei principi di proporzionalità e adeguatezza. Tra i principali elementi considerati rientrano:

• natura, gravità e durata della violazione e delle sue conseguenze;
• numero di persone interessate e livello del danno subito;
• dimensioni, fatturato e quota di mercato dell’operatore;
• grado di responsabilità del soggetto responsabile;
• carattere doloso o colposo della violazione;
• misure tecniche e organizzative adottate e azioni intraprese per mitigare il danno;
• grado di cooperazione con le autorità competenti;
• eventuali precedenti violazioni;
• presenza di altre circostanze aggravanti o attenuanti applicabili al caso concreto.

Le sanzioni non sono quindi applicate automaticamente nella misura massima: l’autorità competente deve valutarne l’entità sulla base delle caratteristiche della singola violazione e del soggetto responsabile.

Normative e fonti

Schema del Regolamento UE 2024/1689

Per facilitare la consultazione, di seguito è riportata una mappa della struttura del Regolamento (UE) 2024/1689, suddivisa per capi, sezioni e articoli, per individuarne le principali aree tematiche.

Seguono 14 allegati.

Normative di riferimento AI Act

il Regolamento (UE) 2024/1689 (AI Act) si inserisce in un più ampio quadro giuridico europeo e interagisce con diverse normative in materia di protezione dei diritti fondamentali, dati personali, servizi digitali, concorrenza e sicurezza dei prodotti.

Uno stesso sistema di IA può essere soggetto contemporaneamente a più discipline, in funzione dei dati trattati, della finalità, del settore e del contesto in cui viene utilizzato. Tra i principali riferimenti:

• Trattato sul Funzionamento dell’Unione Europea (TFUE), in particolare gli articoli 16, relativo alla protezione dei dati personali, e 114, relativo al funzionamento e all’armonizzazione del mercato interno, che costituiscono le basi giuridiche dell’AI Act;
• Carta dei diritti fondamentali dell’Unione Europea, i cui diritti e libertà costituiscono un riferimento centrale per lo sviluppo e l’utilizzo dell’IA nell’Unione;
• Regolamento (UE) 2016/679 (GDPR), applicabile quando lo sviluppo o l’utilizzo di sistemi di IA comporta il trattamento di dati personali;
• Regolamento (UE) 2022/2065 (Digital Services Act – DSA), che disciplina servizi intermediari e piattaforme digitali e può interagire con l’AI Act nei relativi ambiti di applicazione;
• Regolamento (UE) 2022/1925 (Digital Markets Act – DMA), che disciplina determinati servizi di piattaforma forniti dai gatekeeper e può affiancarsi all’AI Act nel più ampio quadro normativo dei mercati digitali;
• Altre normative correlate, come normativa in materia di proprietà intellettuale, sicurezza dei prodotti e altre normative settoriali applicabili

Autorità di riferimento dell’AI Act

L’applicazione dell’AI Act è affidata a un sistema di governance europea e nazionale, composto da diverse autorità e organismi con funzioni di coordinamento, vigilanza e supporto all’attuazione del Regolamento.

• Commissione europea e AI Office: l’Ufficio europeo per l’IA (AI Office), istituito presso la Commissione europea, svolge un ruolo centrale nell’attuazione dell’AI Act a livello europeo e dispone di specifici poteri di vigilanza e applicazione, in particolare sui modelli GPAI, compresi quelli con rischio sistemico. La Commissione contribuisce inoltre all’elaborazione di orientamenti e atti necessari all’attuazione del Regolamento.
• European AI Board: il Comitato europeo per l’intelligenza artificiale, composto da rappresentanti degli Stati membri, favorisce un’applicazione coerente ed efficace dell’AI Act nell’Unione, fornendo consulenza e supporto alla Commissione e agli Stati membri.
• Autorità nazionali competenti: ogni Stato membro deve designare almeno un’autorità di notifica e un’autorità di vigilanza del mercato, responsabili dell’applicazione e dell’attuazione dell’AI Act a livello nazionale. Le autorità di vigilanza dispongono dei poteri necessari per verificare la conformità dei sistemi e adottare le misure previste in caso di violazioni.
• Autorità nazionali per l’IA in Italia: la Legge n. 132/2025 individua nell’Agenzia per l’Italia Digitale (AgID) e nell’Agenzia per la Cybersicurezza Nazionale (ACN) le Autorità nazionali per l’intelligenza artificiale, attribuendo loro funzioni differenti e complementari. AgID svolge, tra l’altro, funzioni in materia di notifica e organismi di valutazione della conformità, oltre a promuovere innovazione e sviluppo dell’IA; ACN esercita funzioni di vigilanza, comprese attività ispettive e sanzionatorie, secondo le competenze attribuite dalla normativa nazionale.

Il sistema è completato da altri organismi previsti dall’AI Act, tra cui il Forum consultivo e il gruppo scientifico di esperti indipendenti, che forniscono competenze tecniche e contributi specialistici all’attuazione del Regolamento.

Fonti

Unione Europea: Regolamento (UE) 2024/1689

Commissione Europea: Legge sull’AI Act

Commissione Europea: Linee guida e FAQ sulla Trasparenza art. 50

Commissione Europea: Linee guida e FAQ sull’ AI Literacy