Codice di Condotta sulla Trasparenza dei Contenuti Generati dall’Intelligenza Artificiale

Il presente documento delinea il quadro normativo e operativo del “Codice di Condotta sulla Trasparenza dei Contenuti Generati dall’IA”, finalizzato a garantire il rispetto degli obblighi previsti dall’Articolo 50 dell’AI Act. L’obiettivo primario è promuovere un’IA affidabile e incentrata sull’uomo, tutelando al contempo la democrazia e l’integrità dell’ecosistema informativo contro i rischi di disinformazione, frode e manipolazione.

Il Codice si articola in due sezioni principali: la prima rivolta ai fornitori di sistemi di IA generativa, con focus su marcatura tecnica e rilevamento; la seconda rivolta ai soggetti che impiegano tali sistemi, con focus sull’etichettatura dei deepfake e dei testi di interesse pubblico. Le soluzioni tecniche devono bilanciare quattro requisiti fondamentali: efficacia, interoperabilità, robustezza e affidabilità.

Sezione 1: Obblighi per i Fornitori di Sistemi di IA Generativa

Questa sezione si applica ai fornitori che immettono sul mercato sistemi capaci di generare audio, immagini, video o testi sintetici. L’obiettivo è rendere tali contenuti identificabili in modo leggibile da una macchina.

1. Tecniche di Marcatura e Trasparenza

I firmatari si impegnano a implementare soluzioni di marcatura multi-livello per garantire la massima resilienza.

• Metadati Firmati Digitalmente (Sotto-misura 1.1.1): Registrazione di informazioni sull’origine dell’IA protette da firma crittografica e marcatura temporale.
• Watermarking Impercettibile (Sotto-misura 1.1.2): Inserimento di un marchio nel contenuto (pixel, campioni audio) resistente alle alterazioni.
  • Nota sul testo: Il watermarking è richiesto per testi in formato libero superiori a 200 token. Per testi più brevi, l’affidabilità è considerata attualmente limitata.
• Approccio a Livelli: È richiesto l’uso di almeno due livelli di marcatura (es. metadati + watermark), tranne in ambienti chiusi e controllati o per formati di testo specifici.
• Non Rimozione (Misura 1.2): Obbligo di preservare i metadati esistenti nei dati di input e divieto di commercializzare strumenti atti ad aggirare le marcature di trasparenza.

2. Meccanismi di Rilevamento

I fornitori devono fornire i mezzi per verificare se un contenuto è stato generato dai loro sistemi.

• Modalità di Accesso: Le soluzioni possono essere rese disponibili tramite specifiche pubbliche, software o API basate su cloud.
• Gratuità e Accessibilità: L’accesso deve essere gratuito per autorità di sorveglianza, media, fact-checker, ricercatori e organizzazioni della società civile. Per fornitori con oltre 1.000.000 di utenti mensili, possono essere previste tariffe eque per volumi di richieste estremamente elevati.
• Protezione dei Dati (Sotto-misura 2.1.3): Vige una politica di “zero retention”; i contenuti caricati per il rilevamento devono essere eliminati immediatamente dopo l’elaborazione.

3. Requisiti di Qualità (Impegno 3)

Le soluzioni tecniche devono essere valutate olisticamente secondo quattro parametri:

Parametro	Descrizione
Efficacia	Capacità del pubblico di comprendere facilmente i risultati del rilevamento.
Affidabilità	Precisione nel distinguere i contenuti IA in condizioni normali (bassi tassi di errore).
Robustezza	Resilienza a modifiche comuni (compressione, ritaglio, “buco analogico”) e attacchi malevoli.
Interoperabilità	Capacità di operare tra diversi sistemi e attori tramite standard aperti o soluzioni condivise.

4. Conformità e Monitoraggio

I fornitori devono documentare i processi di conformità e testare regolarmente le soluzioni in condizioni reali. È prevista la cooperazione attiva con le autorità di sorveglianza del mercato, fornendo documentazione e accesso alle tecnologie su richiesta motivata.

Sezione 2: Obblighi per i Soggetti che Impiegano Sistemi di IA

Questa sezione riguarda chi utilizza l’IA per pubblicare contenuti che potrebbero trarre in inganno il pubblico o influenzare il dibattito pubblico.

1. Etichettatura di Deepfake e Testi

I soggetti che impiegano l’IA devono garantire che la natura sintetica dei contenuti sia esplicitata in modo chiaro e distinguibile.

• Deepfake: Immagini, audio o video che sembrano reali ma sono generati/manipolati dall’IA.
• Testi di Interesse Pubblico: Testi pubblicati per informare il pubblico su questioni rilevanti.
• Specifiche di Progettazione: Utilizzo di etichette visibili, audio-avvisi o metadati. Viene incoraggiato l’uso dell’icona UE standardizzata (Allegato 1).
• Posizionamento: Le etichette devono essere fornite al momento della prima interazione o esposizione dell’utente al contenuto.

2. Processi Interni e Controllo Editoriale

• Revisione Umana (Impegno 4): Per i testi pubblicati con scopi informativi, deve essere garantito un controllo editoriale o una revisione umana per convalidare l’accuratezza e la trasparenza.
• Alfabetizzazione: Promozione della consapevolezza interna e formazione del personale sull’uso responsabile delle tecnologie generative.

Glossario Tecnico Selezionato

Termine	Definizione dal Codice
Buco Analogico	Elaborazione in cui un contenuto digitale viene reso analogico (es. filmare uno schermo) prima di essere ridigitalizzato.
Fingerprinting	“Hashing percettivo” che riduce il contenuto a descrittori condensati per identificazioni future.
Rilevazione Forense	Identificazione di contenuti IA senza necessità di marcatura preventiva, basata su firme intrinseche del segnale.
Omoformi	Caratteri di alfabeti diversi che appaiono identici, usati talvolta per confondere i sistemi di rilevamento del testo.
Watermark	Marchio impercettibile e robusto intrinsecamente legato alla rappresentazione digitale (pixel o campioni audio).

Conclusioni Operative

Il Codice promuove una cooperazione lungo tutta la catena del valore: i fornitori di modelli a monte devono facilitare il compito dei fornitori a valle, mentre questi ultimi devono supportare i soggetti che impiegano i sistemi nel rispettare i propri obblighi di divulgazione verso l’utente finale. L’aderenza a questi standard tecnici e procedurali è considerata fondamentale per dimostrare la conformità agli articoli 50(2), 50(4) e 50(5) dell’AI Act.