Se si chiede ad una IA generativa di comporre una canzone, è possibile che in pochi secondi generi un brano nuovo, o forse no?
Cosa accade se proprio dietro a quelle note si riconosce una melodia di repertorio? Si può addestrare un’Intelligenza artificiale (IA) su opere protette dal diritto d’autore?
Un Tribunale tedesco ha cercato di fare chiarezza su questi interrogativi nel quadro di una controversia sul complesso rapporto tra Intelligenza artificiale generativa e diritto d’autore.
A tal fine, il Tribunale ha esaminato le dinamiche di un generatore musicale basato sull’Intelligenza artificiale, cercando di capire:
- in che modo viene addestrato;
- quali output ha generato, secondo quali criteri;
- se un sistema di IA può copiare anche quando sembra che stia solo imparando;
- in tal caso, a chi sia imputabile l’eventuale violazione.
Diritto d’autore e IA generativa, tra training e output
La ricorrente – una società tedesca di gestione collettiva che gestisce i diritti di utilizzazione delle opere musicali per conto di compositori, autori e editori – agisce in giudizio contro la convenuta – una società statunitense che cede in licenza un generatore musicale per la creazione di contenuti sonori su richiesta degli utenti.
A fondamento della causa, la ricorrente denuncia una violazione del diritto d’autore su diverse composizioni musicali note, presentando istanza di inibitoria, accesso alle informazioni e richiesta di risarcimento del danno.
La ricorrente risultava legittimata ad agire in tal senso, a motivo di pregressi contratti generali di licenza e accordi integrativi (in merito alle presunte violazioni autoriali) stipulati con gli editori e con i titolari dei diritti sulle composizioni musicali.
Con queste intese, i titolari dei diritti concedono alla ricorrente il diritto esclusivo di utilizzare opere musicali (parzialmente o in toto; solo testo o musica con testo) nei sistemi di IA.
In particolare, la riserva esclusiva copriva l’uso delle opere per addestrare e perfezionare (fine-tuning) i sistemi di IA come contenuti di contesto, che il sistema elabora per generare le proprie risposte e per gestire i relativi output di IA.
Il cuore della sentenza risiede nel modo in cui i giudici tedeschi hanno analizzato il processo tecnico di funzionamento dell’IA generativa, distinguendo tra:
- la preparazione dei dati di addestramento,
- l’eventuale incorporazione delle opere nei parametri del modello (memorizzazione),
- la generazione degli output ,
attribuendo a ciascun momento una distinta rilevanza giuridica nel caso concreto.
Cos’è l’Intelligenza artificiale generativa (GenAI)?
È una tipologia di IA che, tramite il sistema di “deep learning”, è in grado di apprendere strutture e relazioni nei dati utilizzati per l’addestramento, al fine di generare nuovi contenuti, quali testi, suoni, immagini e audio.
In risposta a un prompt (istruzione o domanda) fornito dall’utente, il sistema genera specifici output (risultati).
Questa capacità della GenAI di assimilare, elaborare e ricreare contenuti su ampia scala, solleva tuttavia inevitabili questioni in merito alla trasparenza delle informazioni acquisite e alla legittimità delle operazioni effettuate nel rispetto della normativa vigente.
Per affrontare tali criticità e disciplinare questo delicato equilibrio, l’art. 53 del Regolamento (UE) 2024/1689 (AI Act) impone ai fornitori di modelli di IA per finalità generali l’adozione di una politica volta al rispetto dei diritti di proprietà intellettuale e dei segreti commerciali. Tale disposizione non costituisce, tuttavia, la base diretta della decisione.
Il rispetto di queste norme, infatti, si intreccia con la tutela delle opere dell’ingegno.
Nel caso di specie, dall’analisi effettuata dal Tribunale sulla relazione tra IA generativa e diritto d’autore emergono con chiarezza fattispecie di violazioni in tre momenti del ciclo di vita di un modello di IA: quando viene addestrato, quando memorizza ciò che ha appreso e quando produce i risultati.
IA generativa e diritto d’autore: nodi critici
1) Riproduzione ai fini dell’addestramento
Addestrare un modello di IA significa elaborare un’enorme quantità di esempi (testi, immagini, musica), da cui ricavare il set di dati di addestramento utile a generare nuovi contenuti.
Nel caso in esame, la preparazione del corpus di addestramento ha richiesto l’uso di registrazioni musicali complete, in quanto l’acquisizione di soli frammenti non avrebbe consentito di cogliere l’effettivo sviluppo melodico.
Tali riproduzioni preparatorie vanno distinte dall’eventuale incorporazione delle opere nei parametri del modello.
Nella controversia le opere musicali erano state acquisite tramite la tecnica di stream-ripping che estrae e salva contenuti destinati al solo ascolto in streaming .
Secondo la ricorrente, in tal modo la convenuta avrebbe eluso una misura tecnica di protezione dei download di audio e video, idonea a impedire la produzione di copie non autorizzate.
La relativa valutazione dipende, tuttavia, dalle concrete modalità di accesso ai contenuti e dall’effettivo aggiramento delle misure tecniche.
2) Memorizzazione
Si tratta del punto innovativo della decisione, in quanto si procede alla conservazione (quindi memorizzazione) delle informazioni su un set di dati di addestramento, che restano incorporate in specifici parametri, in modo tale che il modello sia in grado di riprodurle, in tutto o in parte, nei propri risultati.
3) Generazione di output e responsabilità del fornitore
Con riferimento al processo di generazione degli output, il Tribunale ha ritenuto che la ricorrente, tramite dipendenti e rappresentanti legali, si fosse limitata a inserire nell’interfaccia di input del generatore musicale il testo originale, il titolo e le indicazioni generali sullo stile e sul genere musicale, senza fornire indicazioni idonee a determinare la melodia.
Dato che il sistema si basava su modelli probabilistici che introducono componenti casuali, restituendo output differenti per il medesimo input – all’interno dei quali gli originali restavano riconoscibili -, gli utenti hanno dovuto ripetere il prompt più volte.
Tuttavia, nel caso concreto, il Tribunale ha ritenuto che gli output chiaramente riconducibili alle opere originali costituissero un elemento idoneo a dimostrare che tali opere erano state memorizzate nei parametri del modello di IA già durante la fase di addestramento.
Tale presupposto incide in modo determinante sul riparto di responsabilità tra le parti agenti.
Di chi è la responsabilità della violazione?
Dimostrare infatti che l’opera protetta risieda già nell’architettura del sistema di IA dirotta il fulcro della violazione non tanto nella generazione dell’output, quanto piuttosto nella preventiva fase di addestramento, impedendo così al fornitore di modelli di IA di scaricare l’intera responsabilità sull’utente finale.
Nel caso di specie, il Tribunale ha ritenuto che la responsabilità diretta della violazione del diritto d’autore fosse imputabile al fornitore, e non all’utente che si limitava a inserire un prompt semplice e aperto, poiché il contenuto specifico dell’output dipendeva principalmente dal modello e dai dati utilizzati per il suo addestramento.
Quindi, all’utente, a meno che non metta in atto condotte dolose che intendano eludere la normativa, non si può attribuire alcuna responsabilità, che appunto impatta sul fornitore.
Ne consegue che il fornitore, in relazione al proprio ruolo nel caso concreto, è chiamato a esercitare un adeguato controllo con la dovuta diligenza nella gestione del modello, verificando la liceità dei dati utilizzati per l’addestramento e le modalità con cui il sistema di IA genera gli output.
A tal fine, il fornitore può adottare misure tecniche idonee a intercettare e limitare la generazione di output potenzialmente riconducibili a contenuti protetti dal diritto d’autore.
Accordi di licenza e accordi integrativi sull’IA generativa
Sotto il profilo negoziale, tali esigenze possono trovare disciplina negli accordi di licenza tra i titolari dei diritti e i fornitori di IA, eventualmente integrati da accordi integrativi volti a regolamentare nel dettaglio:
- i criteri di utilizzo del repertorio protetto,
- il regime di responsabilità nel caso in cui i suddetti filtri automatizzati non siano in grado di impedire la restituzione dell’opera.
Nel contesto normativo attuale – il quale rimanda all’AI Act – infatti, il dovere di diligenza che viene imposto ai fornitori di modelli di IA – soprattutto nel rispetto del diritto d’autore e della trasparenza dei dati di addestramento – si traduce nei suddetti accordi di licenza.
Tali accordi di licenza definiscono i confini entro i quali i fornitori possono acquisire e utilizzare contenuti protetti ai fini dell’addestramento, tenendo conto dell’eventuale opt-out : ovvero il diritto di opposizione su cui possono rivalersi i titolari dei diritti, ove applicabile.
Di conseguenza, la negoziazione in tali termini permette:
- ai fornitori di acquisire le informazioni necessarie per elaborare in dettaglio quali contenuti sono stati oggetto di addestramento e memorizzazione, e dimostrare di aver agito diligentemente in conformità alla normativa;
- la stipulazione di contratti che stabiliscono le lecite modalità per determinare chi debba rispondere, e in quale misura, se lo specifico output dell’IA viola un’opera protetta dal diritto d’autore.
L’IA generativa crea ex novo o copia: una domanda aperta
La sentenza tedesca ha spostato il cuore del dibattito: rilevano non solo i dati digitali utilizzati per l’addestramento, ma anche le modalità della loro acquisizione e del loro trattamento, nonché la capacità del modello di generare output,sostanzialmente riconducibili alle opere impiegate nel training. La valutazione deve essere condotta in concreto.
Quali sono le conseguenze operative?
Per gli editori, gli autori e le società di gestione collettiva comporta l’adozione di licenze d’uso specifiche per l’IA, clausole di riserva dei diritti leggibili dagli algoritmi e prove tecniche solide.
Per i fornitori di modelli di IA, invece, significa progettare sistemi che apprendano e generino contenuti, tenendo conto della liceità dei dati utilizzati e del rischio di restituire opere o parti di opere esistenti e riconoscibili.
Ma il problema di fondo rimane: quando un sistema di IA genera, su richiesta, una melodia sostanzialmente riconducibile a un’opera protetta, si tratta di un risultato dell’apprendimento o di una riproduzione? La sentenza impone di rispondere a tale interrogativo alla luce delle circostanze del caso concreto.