Propongo ai lettori il riassunto realizzato da UPDF AI dell’allegato
REGOLAMENTO DEL PARLAMENTO EUROPEO E DEL CONSIGLIO che stabilisce regole armonizzate sull’intelligenza artificiale. A coloro che si scandalizzassero, ricordo che accade spesso che per un documento di grandi dimensioni e altissima densità concettuale ci si rivolga a schede di sintesi opera di redattori umani.

Chiedi PDF (26 mag 2024, 10:14:39)

UPDF AI:

Introduzione e Contesto

Il regolamento sull’intelligenza artificiale mira a stabilire regole armonizzate sull’uso di sistemi di IA nell’Unione Europea.
L’obiettivo principale è garantire un elevato livello di protezione della salute, della sicurezza e dei diritti fondamentali, promuovendo nel contempo l’innovazione.

Importanza dell’Intelligenza Artificiale

L’IA offre benefici economici, ambientali e sociali in vari settori come assistenza sanitaria, agricoltura, sicurezza alimentare, istruzione, energia, trasporti, e molto altro.
Tuttavia, l’IA può comportare rischi e pregiudicare interessi pubblici e diritti fondamentali.

Principi Fondamentali

L’IA dovrebbe essere sviluppata conformemente ai valori dell’Unione e alla Carta dei diritti fondamentali, fungendo come strumento per migliorare il benessere umano.
Si sottolinea l’importanza di regole comuni per i sistemi di IA ad alto rischio, coerenti con la Carta e gli impegni internazionali dell’Unione.

Quadro Normativo

Si propone un quadro giuridico che istituisca regole armonizzate sull’IA per promuovere lo sviluppo e l’uso nel mercato interno, garantendo protezione della salute, sicurezza e diritti fondamentali.
Il regolamento mira a supportare l’innovazione, con particolare attenzione alle piccole e medie imprese.

Norme per Sistemi di IA ad Alto Rischio

Si stabiliscono regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso di sistemi di IA ad alto rischio.
Tali norme dovrebbero essere consistenti con la Carta, non discriminatorie e in linea con gli impegni commerciali internazionali.

Protezione dei Diritti e Condizioni di Lavoro

Il regolamento non dovrebbe incidere sul diritto dell’Unione in materia di politica sociale o del lavoro nazionale.
Si mira a rafforzare l’efficacia dei diritti e mezzi di ricorso esistenti, definendo requisiti specifici per la trasparenza e la documentazione tecnica dei sistemi di IA.

Applicazione delle Norme Armonizzate

Le norme armonizzate dovrebbero essere applicate in tutti i settori senza pregiudicare il vigente diritto dell’Unione, inclusa la protezione dei dati e dei consumatori.
Si sottolinea l’importanza di non pregiudicare i diritti fondamentali e i mezzi di ricorso a favore dei consumatori.

Consultazione e Coinvolgimento

Il regolamento prevede la consultazione del comitato europeo per la protezione dei dati.
Si evidenzia l’importanza di coinvolgere vari organismi e istituzioni nell’elaborazione e attuazione del regolamento.

Promozione dell’Approccio Antropocentrico

Si promuove un approccio antropocentrico europeo all’IA per migliorare il benessere umano.
L’Unione mira a essere un leader mondiale nello sviluppo di un’IA sicura, affidabile ed etica.

Domande che potrebbero interessarti:

Quali sono i principali benefici economici, ambientali e sociali derivanti dall’utilizzo dell’IA secondo il testo?
Come il regolamento sull’intelligenza artificiale mira a garantire un elevato livello di protezione degli interessi pubblici e dei diritti fondamentali?
Quali sono le principali norme stabilite per i sistemi di IA ad alto rischio e quali principi devono essere rispettati in tal senso?

UPDF AI:

Sezione 1: Protezione dei dati personali

Il diritto fondamentale alla protezione dei dati personali è garantito dai regolamenti (UE) 2016/679 e (UE) 2018/1725 del Parlamento europeo e del Consiglio.
La direttiva 2002/58/CE tutela la vita privata e la riservatezza delle comunicazioni, stabilendo condizioni sull’archiviazione di dati personali e non personali.
Gli atti giuridici dell’Unione costituiscono la base per un trattamento sostenibile e responsabile dei dati, anche in presenza di combinazioni di dati personali e non personali.

Sezione 2: Obblighi dei fornitori e deployer dei sistemi di IA

I fornitori e i deployer dei sistemi di IA devono rispettare gli obblighi derivanti dal diritto dell’Unione o nazionale in materia di protezione dei dati personali.
Gli interessati mantengono tutti i diritti conferiti dal diritto dell’Unione, inclusi quelli relativi al processo decisionale automatizzato.

Sezione 3: Definizione di “sistema di IA”

La definizione di sistema di IA si basa sulla capacità inferenziale dei sistemi, che va oltre l’elaborazione di base dei dati.
I sistemi di IA possono operare con obiettivi espliciti o impliciti, influenzando ambienti fisici e virtuali.

Sezione 4: Ruolo dei deployer nei sistemi di IA

Il deployer è chiunque utilizzi un sistema di IA sotto la propria autorità, ad eccezione dell’uso personale non professionale.
L’uso di sistemi di IA può coinvolgere persone diverse dal deployer a seconda del tipo di sistema.

Sezione 5: Definizione di “dati biometrici”

I dati biometrici consentono l’autenticazione, l’identificazione o il riconoscimento delle persone fisiche.
Sono esclusi i sistemi di IA destinati alla verifica biometrica per autenticazione.

Sezione 6: Categorizzazione biometrica

La categorizzazione biometrica assegna persone a categorie specifiche basate sui loro dati biometrici.
Non include sistemi di categorizzazione biometrica legati a servizi commerciali principali.

Sezione 7: Sistema di identificazione biometrica remota

I sistemi di identificazione biometrica remota identificano persone senza il loro coinvolgimento attivo, confrontando dati biometrici.
Sono esclusi i sistemi di verifica biometrica destinati all’autenticazione.

Sezione 8: Riconoscimento delle emozioni

I sistemi di riconoscimento delle emozioni identificano emozioni o intenzioni basate sui dati biometrici.
Non includono stati fisici come dolore o affaticamento, né la semplice individuazione di espressioni.

Sezione 9: Spazio accessibile al pubblico

Luoghi fisici accessibili a un numero indeterminato di persone sono considerati spazi accessibili al pubblico.
Non sono inclusi luoghi limitati a persone specifiche per motivi di sicurezza o volontà dell’autorità competente.

Sezione 10: Alfabetizzazione in materia di IA

L’alfabetizzazione in materia di IA fornisce conoscenze necessarie per prendere decisioni informate sui sistemi di IA.
Il comitato europeo per l’intelligenza artificiale supporta la promozione degli strumenti di alfabetizzazione in materia di IA.

UPDF AI:

Sezione 1: Applicazione del regolamento ai fornitori di sistemi di IA

Il regolamento si applica in modo non discriminatorio ai fornitori di sistemi di IA, indipendentemente dalla loro ubicazione.
Anche i deployer dei sistemi di IA stabiliti nell’Unione sono soggetti al regolamento.

Sezione 2: Applicazione del regolamento a sistemi di IA digitali

Alcuni sistemi di IA rientrano nell’ambito del regolamento anche se non sono immessi sul mercato o utilizzati nell’Unione.
Il regolamento si applica anche ai fornitori e ai deployer di sistemi di IA stabiliti in un paese terzo se l’output è destinato all’Unione.

Sezione 3: Applicazione del regolamento alle istituzioni dell’Unione

Il regolamento si applica alle istituzioni, agli organi e agli organismi dell’Unione che agiscono come fornitori o deployer di sistemi di IA.

Sezione 4: Esclusione dei sistemi di IA per scopi militari, di difesa o sicurezza nazionale

I sistemi di IA per scopi militari, di difesa o sicurezza nazionale sono esclusi dall’ambito del regolamento.
Tuttavia, se tali sistemi vengono utilizzati al di fuori di queste finalità, devono conformarsi al regolamento.

Sezione 5: Esclusione dei sistemi di IA per ricerca e sviluppo scientifico

I sistemi di IA sviluppati esclusivamente per ricerca e sviluppo scientifico sono esclusi dal regolamento.
Le attività di ricerca e sviluppo devono rispettare le norme etiche e professionali riconosciute.

Sezione 6: Approccio basato sul rischio e pratiche di IA vietate

L’approccio basato sul rischio adatta le regole ai rischi generati dai sistemi di IA.
Vietate pratiche di IA inaccettabili e stabilite requisiti per sistemi di IA ad alto rischio.

Sezione 7: Principi etici per un’IA affidabile

Gli orientamenti etici del 2019 contribuiscono a garantire un’IA affidabile ed eticamente valida.
I principi includono intervento umano, trasparenza, non discriminazione, benessere sociale ed equità.

Sezione 8: Manipolazione e controllo sociale tramite IA

La manipolazione basata sull’IA può danneggiare la dignità umana, la libertà e l’autonomia.
Sistemi di IA che distorcono il comportamento umano dovrebbero essere vietati.

Sezione 9: Categorizzazione biometrica e punteggio sociale

Vietata la categorizzazione biometrica per deduzioni su opinioni politiche, religiose, ecc.
I sistemi di IA che attribuiscono un punteggio sociale possono portare a discriminazioni e dovrebbero essere vietati.

Sezione 10: Divieto di sistemi di IA manipolativi

Vietati sistemi di IA che distorcono materialmente il comportamento umano causando danni significativi.
Pratiche manipolative di IA dovrebbero essere vietate, ma non pregiudicare le pratiche lecite.

UPDF AI:

Sezione 1: Impatto dell’uso di sistemi di IA di identificazione biometrica remota

L’uso di sistemi di IA di identificazione biometrica remota in spazi pubblici per attività di contrasto è invasivo dei diritti e delle libertà delle persone.
Possibili ripercussioni sulla vita privata, sensazione di sorveglianza costante e limitazione della libertà di riunione.
Inesattezze tecniche possono portare a risultati distorti e discriminazioni, soprattutto legate ad età, etnia, razza, sesso o disabilità.

Sezione 2: Limitazioni sull’uso dei sistemi di IA per attività di contrasto

L’uso di tali sistemi dovrebbe essere vietato tranne che in situazioni strettamente necessarie per interessi pubblici rilevanti.
Situazioni ammesse includono la ricerca di vittime di reato, minacce alla vita, attacchi terroristici e identificazione di autori di reati gravi.
Elenco dei reati basato su decisione quadro del Consiglio, considerando gravità e proporzionalità.

Sezione 3: Minacce imminenti e autorità competenti

Minacce alla vita possono derivare da danneggiamento di infrastrutture critiche.
Autorità competenti devono poter svolgere controlli d’identità conformemente al diritto nazionale e dell’Unione.
Utilizzo di sistemi di informazione per identificare persone durante controlli d’identità.

Sezione 4: Uso responsabile dei sistemi di identificazione biometrica remota

Necessità di valutare l’impatto sui diritti fondamentali prima dell’uso dei sistemi.
Limitare l’uso ai fini specifici e per il tempo strettamente necessario.
Autorizzazione richiesta dopo valutazione d’impatto sui diritti fondamentali.

Sezione 5: Autorizzazione esplicita per l’uso dei sistemi di IA

Ogni uso deve essere autorizzato da un’autorità giudiziaria o amministrativa indipendente.
Eccezioni per situazioni di urgenza debitamente giustificate.
Interruzione immediata dell’uso se l’autorizzazione viene respinta.

Sezione 6: Notifica alle autorità competenti

Ogni uso dei sistemi deve essere notificato alle autorità di vigilanza del mercato e alla protezione dei dati.
Presentazione annuale di una relazione sull’uso dei sistemi di identificazione biometrica.

Sezione 7: Autorizzazione nell’ambito nazionale

Gli Stati membri possono decidere di autorizzare l’uso dei sistemi nel proprio diritto nazionale.
Regole nazionali devono essere notificate alla Commissione entro 30 giorni dalla loro adozione.

Sezione 8: Trattamento dei dati biometrici

Il trattamento dei dati biometrici deve essere conforme alle regole stabilite nel presente regolamento.
L’uso per fini diversi dalle attività di contrasto deve rispettare i requisiti della direttiva (UE) 2016/680.

Sezione 9: Esenzioni per l’Irlanda

L’Irlanda non è vincolata da alcune regole riguardanti l’uso di sistemi biometrici per attività di cooperazione di polizia e giudiziaria.

Sezione 10: Esenzioni per la Danimarca

La Danimarca non è soggetta a regole specifiche riguardanti l’uso di sistemi biometrici per attività di cooperazione di polizia e giudiziaria.

UPDF AI:

Valutazione del comportamento effettivo delle persone fisiche

Le persone fisiche nell’Unione dovrebbero essere giudicate in base al loro comportamento effettivo e non sulla base di previsioni dell’IA.
Vietate le valutazioni del rischio basate esclusivamente sulla profilazione o sui tratti della personalità senza fatti oggettivi verificabili.
Esclusioni: l’analisi del rischio non basata sulla profilazione e sui tratti della personalità è consentita, come nei sistemi di IA per valutare il rischio di frode finanziaria.

Vietato l’uso di sistemi di IA per il riconoscimento facciale tramite scraping

Vietato l’utilizzo di sistemi di IA che creano banche dati di riconoscimento facciale attraverso lo scraping non mirato di immagini da internet o telecamere a circuito chiuso.
Tale pratica aumenta la sorveglianza di massa e può violare i diritti fondamentali, inclusa la privacy.

Preoccupazioni riguardo ai sistemi di IA per l’identificazione delle emozioni

I sistemi di IA per identificare emozioni possono portare a risultati discriminatori e invasivi dei diritti delle persone.
Limitate affidabilità, mancanza di specificità e generalizzabilità sono carenze principali di tali sistemi.
Vietato l’uso di sistemi di IA per rilevare lo stato emotivo sul luogo di lavoro e nell’istruzione.

Requisiti per i sistemi di IA ad alto rischio

I sistemi di IA ad alto rischio devono soddisfare requisiti obbligatori per garantire la sicurezza pubblica.
Limitare i sistemi di IA ad alto rischio a quelli con impatto significativo sulla salute, sicurezza e diritti fondamentali.
Fornitori devono garantire la conformità dei prodotti contenenti sistemi di IA ad alto rischio alla normativa dell’Unione.

Impatto negativo dei sistemi di IA sulla salute e sicurezza

I sistemi di IA possono influenzare la sicurezza dei prodotti quando utilizzati come componenti di sicurezza.
Necessario prevenire e attenuare i rischi per la sicurezza derivanti dai componenti digitali, inclusi i sistemi di IA.

Impatto dei sistemi di IA sui diritti fondamentali

I sistemi di IA possono incidere su vari diritti fondamentali protetti dalla Carta dell’Unione Europea.
Importanza di considerare i diritti dei minori e il diritto a un ambiente digitale sicuro.
Classificazione dei sistemi di IA tra quelli ad alto rischio basata sull’impatto negativo sui diritti fondamentali.

Classificazione dei sistemi di IA ad alto rischio

Sistemi di IA componenti di sicurezza di prodotti classificati come ad alto rischio se sottoposti a valutazione della conformità con organismo terzo.
Distinzione tra classificazione ad alto rischio dei sistemi di IA e dei prodotti in base alla normativa di armonizzazione dell’Unione.

Classificazione dei sistemi di IA indipendenti ad alto rischio

Sistemi di IA indipendenti classificati ad alto rischio se presentano rischio significativo per la salute, sicurezza o diritti fondamentali.
Identificazione basata sulla gravità del danno potenziale e probabilità di accadimento, applicabile a settori specifici definiti.

Esclusioni per i sistemi di IA non ad alto rischio

Specifici casi in cui i sistemi di IA non influenzano materialmente il processo decisionale e non pregiudicano interessi giuridici.
Condizioni per i sistemi di IA non ad alto rischio: compiti procedurale ristretti, miglioramento dell’attività umana precedente, individuazione di modelli decisionali.

UPDF AI:

Sezione 1: Rischi ridotti nell’uso dei sistemi di IA

L’uso del sistema di IA segue una valutazione umana precedentemente completata.
I sistemi di IA sono destinati a svolgere compiti preparatori rispetto a una valutazione pertinente.
I sistemi di IA ad alto rischio comportano rischi significativi per la salute, la sicurezza o i diritti fondamentali delle persone fisiche.

Sezione 2: Classificazione dei sistemi biometrici come ad alto rischio

I sistemi biometrici destinati all’identificazione remota delle persone fisiche sono classificati come ad alto rischio.
Inesattezze tecniche possono portare a risultati distorti e discriminazioni, soprattutto riguardo a età, etnia, razza, sesso o disabilità.
Esclusi dalla classificazione ad alto rischio i sistemi biometrici per la verifica e l’autenticazione.

Sezione 3: Sistemi di IA nelle infrastrutture critiche

I sistemi di IA utilizzati come componenti di sicurezza per infrastrutture critiche sono classificati come ad alto rischio.
Un guasto o malfunzionamento di tali sistemi può mettere a rischio la vita e la salute di molte persone.
Componenti di sicurezza come monitoraggio della pressione idrica rientrano in questa categoria.

Sezione 4: Impatto dei sistemi di IA nell’istruzione

I sistemi di IA utilizzati nell’istruzione sono classificati come ad alto rischio.
Possono influenzare il percorso d’istruzione e professionale di una persona.
Se progettati in modo inadeguato, possono violare il diritto all’istruzione e alla non discriminazione.

Sezione 5: Sistemi di IA nel settore dell’occupazione

I sistemi di IA utilizzati nel settore dell’occupazione sono classificati come ad alto rischio.
Possono avere un impatto significativo sul futuro e sui diritti dei lavoratori.
Monitorare le prestazioni e il comportamento delle persone può comprometterne i diritti fondamentali.

Sezione 6: Accesso ai servizi essenziali tramite sistemi di IA

I sistemi di IA utilizzati per valutare il merito di credito delle persone sono classificati come ad alto rischio.
Possono portare alla discriminazione e perpetuare modelli storici discriminatori.
Esclusi dalla classificazione ad alto rischio i sistemi per individuare frodi nei servizi finanziari.

Sezione 7: Utilizzo dei sistemi di IA nelle attività di contrasto

I sistemi di IA utilizzati dalle autorità di contrasto sono classificati come ad alto rischio.
L’accuratezza, l’affidabilità e la trasparenza sono cruciali per evitare impatti negativi.
Importante garantire mezzi di ricorso efficaci e rispettare i diritti fondamentali degli individui.

Sezione 8: Sistemi di IA nel settore della migrazione e dell’asilo

I sistemi di IA utilizzati nel settore della migrazione sono classificati come ad alto rischio.
L’accuratezza, la non discriminazione e la trasparenza sono fondamentali per rispettare i diritti fondamentali delle persone coinvolte.
Poligrafi e strumenti analoghi rientrano in questa categoria.

Sezione 9: Documentazione e registrazione dei sistemi di IA

I fornitori devono redigere documentazione relativa alla valutazione dei sistemi di IA prima dell’immissione sul mercato.
Tale documentazione deve essere fornita alle autorità competenti su richiesta.
I sistemi di IA ad alto rischio devono essere registrati nella banca dati dell’UE.

Sezione 10: Orientamenti per l’attuazione pratica delle condizioni

La Commissione dovrebbe fornire orientamenti completati da esempi pratici di casi d’uso di sistemi di IA ad alto rischio e non ad alto rischio.
Gli orientamenti specificano l’attuazione pratica delle condizioni elencate nel regolamento.
Scopo è garantire la tracciabilità, la trasparenza e la valutazione dei rischi legati all’uso dei sistemi di IA.

UPDF AI:

Sistemi di IA nel settore della migrazione, dell’asilo e della gestione del controllo delle frontiere

I sistemi di IA devono conformarsi ai requisiti procedurali stabiliti dal regolamento (CE) n. 810/2009 del Parlamento europeo e del Consiglio e da altre disposizioni di diritto dell’Unione.
Non devono essere utilizzati per eludere gli obblighi internazionali derivanti dalla convenzione delle Nazioni Unite relativa allo status dei rifugiati.
Devono rispettare il principio di non respingimento e garantire vie legali di ingresso nel territorio dell’Unione.

Sistemi di IA nell’amministrazione della giustizia e nei processi democratici

Alti rischi associati all’utilizzo di sistemi di IA in attività giudiziarie e di risoluzione alternativa delle controversie.
Necessità di classificare come ad alto rischio i sistemi destinati a supportare le autorità giudiziarie.
Importanza di mantenere il processo decisionale finale guidato dall’essere umano.

Sistemi di IA per influenzare elezioni e referendum

Classificazione come ad alto rischio dei sistemi di IA che influenzano l’esito di elezioni o referendum.
Esclusione dai sistemi ad alto rischio degli strumenti utilizzati per organizzare campagne politiche.
L’utilizzo di sistemi di IA non deve violare altri atti giuridici dell’Unione o del diritto nazionale.

Requisiti obbligatori per sistemi di IA ad alto rischio

Applicazione di requisiti obbligatori per garantire un elevato livello di affidabilità.
Necessità di conformarsi al sistema di gestione dei rischi e agli standard riconosciuti in materia di IA.
Complementarità con la normativa di armonizzazione dell’Unione.

Gestione continua dei rischi per sistemi di IA ad alto rischio

Processo iterativo per individuare e attenuare rischi per la salute, la sicurezza e i diritti fondamentali.
Revisione periodica del sistema di gestione dei rischi per garantirne l’efficacia costante.
Coinvolgimento di esperti e portatori di interessi esterni nella gestione dei rischi.

Requisiti per la gestione dei rischi, la qualità dei dati e la trasparenza

Requisiti per la gestione dei rischi, la qualità dei dati, la documentazione tecnica e la cibersicurezza.
Necessità di dati di alta qualità per garantire il corretto funzionamento dei sistemi di IA ad alto rischio.
Importanza di evitare discriminazioni vietate dal diritto dell’Unione.

Ruolo dei dati di alta qualità nei sistemi di IA

Dati di alta qualità essenziali per garantire il corretto funzionamento dei sistemi di IA.
Governance e gestione dei dati per assicurare la pertinenza, rappresentatività ed esenzione da errori dei set di dati.
Necessità di trasparenza nella raccolta dei dati personali per rispettare il diritto dell’Unione in materia di protezione dei dati.

Impatto delle distorsioni intrinseche sui risultati dei sistemi di IA

Le distorsioni intrinseche possono aumentare e perpetuare discriminazioni esistenti.
Necessità di completitudine ed esenzione da errori nei set di dati senza compromettere la tutela della vita privata.
Considerazione delle caratteristiche specifiche del contesto geografico, comportamentale o funzionale nell’utilizzo dei sistemi di IA ad alto rischio.

Accesso a dati di alta qualità per lo sviluppo di sistemi di IA

Concessione di accesso a set di dati di elevata qualità a fornitori, organismi notificati e altre entità pertinenti.
Importanza degli spazi comuni europei di dati per agevolare la condivisione dei dati e l’accesso responsabile a fini di addestramento dei sistemi di IA.
Garanzia del rispetto del diritto alla vita privata e alla protezione dei dati personali durante l’intero ciclo di vita del sistema di IA.

UPDF AI:

Protezione dei diritti contro la discriminazione nei sistemi di IA ad alto rischio

I fornitori devono trattare categorie particolari di dati personali per garantire il rilevamento e correzione delle distorsioni nei sistemi di IA ad alto rischio.
È necessario fornire informazioni comprensibili sullo sviluppo e funzionamento dei sistemi di IA ad alto rischio per consentire la tracciabilità, verifica della conformità e monitoraggio post-immissione sul mercato.

Trasparenza e comprensibilità dei sistemi di IA ad alto rischio

I sistemi di IA ad alto rischio devono essere progettati per consentire ai deployer di comprendere il loro funzionamento, valutarne la funzionalità e i limiti.
Le istruzioni per l’uso dovrebbero includere informazioni sulle caratteristiche, capacità, limiti e misure di sorveglianza umana.

Sorveglianza umana e decisioni informate

I sistemi di IA ad alto rischio devono consentire alle persone fisiche di sorvegliarne il funzionamento e prendere decisioni informate.
Per i sistemi di identificazione biometrica, è richiesto un requisito rafforzato di sorveglianza umana.

Prestazioni, accuratezza e cibersicurezza dei sistemi di IA ad alto rischio

I sistemi di IA ad alto rischio devono garantire un livello adeguato di accuratezza, robustezza e cibersicurezza.
I fornitori sono incoraggiati a comunicare chiaramente le metriche di prestazione e ad adottare misure per mitigare i rischi e impatti negativi.

Robustezza tecnica e cibersicurezza

I sistemi di IA ad alto rischio devono essere resilienti e garantire la cibersicurezza contro tentativi malevoli di alterarne il comportamento o le prestazioni.
Misure tecniche e organizzative devono essere adottate per garantire la robustezza e proteggere dai comportamenti dannosi.

Conformità ai requisiti di cibersicurezza

I sistemi di IA ad alto rischio possono dimostrare la conformità ai requisiti di cibersicurezza rispettando i requisiti essenziali di cibersicurezza di un altro regolamento specifico.
La valutazione dei rischi di cibersicurezza deve considerare la ciberresilienza e gli attacchi informatici potenziali.

Valutazione della conformità e gestione della qualità

La procedura di valutazione della conformità si applica ai requisiti di cibersicurezza di un prodotto con elementi digitali classificato come sistema di IA ad alto rischio.
I fornitori devono istituire un solido sistema di gestione della qualità e garantire il monitoraggio post-immissione sul mercato.

Accessibilità e diritti delle persone con disabilità

I fornitori devono garantire la piena conformità ai requisiti di accessibilità per consentire l’accesso paritario alle tecnologie di IA anche per le persone con disabilità.
Le misure di accessibilità devono essere integrate nella progettazione dei sistemi di IA ad alto rischio.

Responsabilità del fornitore e protezione delle persone con disabilità

Il fornitore è responsabile dell’immissione sul mercato dei sistemi di IA ad alto rischio, indipendentemente dal ruolo nel progetto o sviluppo del sistema.
L’applicazione dei principi della progettazione universale garantisce l’accesso paritario alle tecnologie di IA, inclusi i diritti delle persone con disabilità.

Rappresentante autorizzato e obblighi degli operatori

I fornitori stabiliti in paesi terzi devono nominare un rappresentante autorizzato nell’Unione per garantire la conformità dei sistemi di IA ad alto rischio immessi sul mercato.
Gli operatori lungo la catena del valore devono adempiere agli obblighi pertinenti associati ai loro ruoli, come importatori e distributori.

UPDF AI:

Sezione 1: Fornitori di sistemi di IA ad alto rischio

Distributori, importatori, deployer o altri terzi possono essere considerati fornitori di un sistema di IA ad alto rischio in determinate condizioni.
Se una parte appone il proprio nome su un sistema di IA ad alto rischio già immesso sul mercato, assume gli obblighi del fornitore.
Modifiche sostanziali a un sistema di IA ad alto rischio lo rendono soggetto alle norme del regolamento.
Le disposizioni si applicano insieme alle normative dell’Unione basate sul nuovo quadro legislativo.

Sezione 2: Sistemi di IA per finalità generali

I sistemi di IA per finalità generali possono essere utilizzati come sistemi di IA ad alto rischio o come componenti di altri sistemi ad alto rischio.
I fornitori di tali sistemi devono cooperare con i fornitori dei sistemi ad alto rischio per garantire la conformità al regolamento.
Il fornitore originale deve collaborare anche se non è più considerato tale ai fini del regolamento.

Sezione 3: Ruolo delle parti lungo la catena del valore dell’IA

Parti che forniscono sistemi, strumenti e servizi per l’IA devono fornire assistenza al fornitore del sistema di IA ad alto rischio.
Terzi che rendono accessibili strumenti di IA open source non sono tenuti a conformarsi a specifici requisiti di responsabilità.
Sviluppatori di strumenti open source dovrebbero adottare pratiche di documentazione per promuovere sistemi di IA affidabili nell’Unione.

Sezione 4: Clausole contrattuali e cooperazione

La Commissione potrebbe raccomandare clausole contrattuali tra fornitori di sistemi di IA ad alto rischio e terzi per facilitare la cooperazione.
È importante considerare i requisiti contrattuali specifici di determinati settori o casi commerciali.

Sezione 5: Responsabilità dei deployer

I deployer devono adottare misure tecniche e organizzative adeguate per garantire l’uso corretto dei sistemi di IA ad alto rischio.
Devono garantire che le persone coinvolte abbiano le competenze necessarie per gestire i sistemi di IA.
Gli obblighi dei deployer non devono compromettere quelli previsti dal diritto dell’Unione o nazionale.

Sezione 6: Informazione e consultazione dei lavoratori

I datori di lavoro devono informare i lavoratori sull’utilizzo dei sistemi di IA ad alto rischio.
È importante garantire che i lavoratori siano informati sulla presenza di tali sistemi sul luogo di lavoro.
L’obbligo di informazione è complementare alla protezione dei diritti fondamentali.

Sezione 7: Ruolo dei deployer nei sistemi di IA ad alto rischio

I deployer svolgono un ruolo cruciale nel garantire la tutela dei diritti fondamentali nell’utilizzo dei sistemi di IA ad alto rischio.
Devono informare le persone coinvolte sulle decisioni adottate tramite il sistema di IA.
Devono garantire che l’identificazione biometrica sia conforme alla normativa vigente.

Sezione 8: Valutazione d’impatto sui diritti fondamentali

I deployer devono effettuare una valutazione d’impatto prima dell’uso dei sistemi di IA ad alto rischio.
La valutazione deve identificare i rischi per i diritti delle persone coinvolte e individuare le misure da adottare.
Dopo la valutazione, il deployer deve notificarla all’autorità di vigilanza del mercato.

Sezione 9: Modelli di IA per finalità generali

I modelli di IA per finalità generali sono distinti dai sistemi di IA e richiedono l’aggiunta di altri componenti per diventare sistemi completi.
Il regolamento stabilisce norme specifiche per i modelli di IA per finalità generali.
Gli obblighi per i fornitori di modelli di IA si applicano una volta che sono immessi sul mercato.

Sezione 10: Utilizzo proporzionato dei sistemi di identificazione biometrica

L’uso dei sistemi di identificazione biometrica remota a posteriori deve essere proporzionato, legittimo e strettamente necessario.
Questi sistemi non devono essere utilizzati per sorveglianza indiscriminata.
La valutazione d’impatto sui diritti fondamentali è essenziale per garantire un uso corretto dei sistemi di IA.

UPDF AI:

Sezione 1: Immissione sul mercato dei modelli di IA per finalità generali

I modelli di IA per finalità generali integrati nei sistemi di IA messi a disposizione sul mercato devono rispettare gli obblighi del regolamento.
Esenzioni dagli obblighi sono previste per utilizzi interni non essenziali e non impattanti sui diritti delle persone fisiche.
Modelli con almeno un miliardo di parametri addestrati con autosupervisione su larga scala sono considerati generali e capaci di svolgere una vasta gamma di compiti.

Sezione 2: Ruolo e responsabilità dei fornitori di modelli di IA

I fornitori di modelli di IA hanno responsabilità lungo la catena del valore dell’IA.
Misure di trasparenza proporzionate devono essere adottate, inclusa la redazione della documentazione tecnica.
Modelli rilasciati con licenza libera e open source favoriscono trasparenza e apertura nel mercato.

Sezione 3: Eccezioni per i modelli di IA rilasciati con licenza libera e open source

Fornitori di modelli rilasciati con licenza libera e open source possono essere esentati da alcuni requisiti di trasparenza.
Tuttavia, se presentano rischio sistemico, devono conformarsi agli obblighi del regolamento.
La trasparenza riguardante il set di dati utilizzati per l’addestramento è importante anche per i modelli open source.

Sezione 4: Utilizzo di contenuti protetti da diritto d’autore nei modelli di IA

Lo sviluppo di modelli di IA richiede accesso a grandi quantità di dati protetti da diritto d’autore.
L’autorizzazione del titolare dei diritti è necessaria per l’estrazione di testo e dati da opere protette.
Le eccezioni e limitazioni al diritto d’autore devono essere rispettate nell’utilizzo dei contenuti protetti.

Sezione 5: Conformità e politiche dei fornitori di modelli di IA

I fornitori di modelli di IA devono garantire la conformità ai requisiti del regolamento, incluso il rispetto del diritto d’autore.
La conformità deve essere indipendente dalla giurisdizione in cui si svolgono le attività relative al diritto d’autore.
Obiettivo: garantire parità tra i fornitori nel mercato dell’Unione.

Sezione 6: Trasparenza sui dati utilizzati nei modelli di IA

I fornitori devono fornire una sintesi dettagliata dei contenuti utilizzati per l’addestramento dei modelli.
La sintesi deve essere ampia e generale per agevolare il rispetto dei diritti d’autore.
L’ufficio per l’IA dovrebbe controllare il rispetto degli obblighi senza valutare direttamente i dati di addestramento.

Sezione 7: Adempimento degli obblighi per i fornitori di modelli di IA

Gli obblighi per i fornitori di modelli di IA devono essere proporzionati al tipo di fornitore.
Le PMI e le start-up devono avere modalità semplificate di adempimento.
Le modifiche o perfezionamenti dei modelli richiedono aggiornamenti nella documentazione tecnica.

Sezione 8: Rischi sistemici associati ai modelli di IA

I modelli di IA per finalità generali possono comportare rischi sistemici significativi.
I rischi includono effetti negativi su settori critici, sicurezza pubblica, processi democratici, diffusione di contenuti illegali e discriminazioni.
I rischi sono influenzati da vari fattori come affidabilità, equità, autonomia del modello e strategie di distribuzione.

Sezione 9: Classificazione dei modelli di IA con rischi sistemici

Una metodologia per classificare i modelli di IA con rischi sistemici dovrebbe basarsi su capacità di impatto elevato.
La valutazione delle capacità del modello può essere misurata in operazioni in virgola mobile.
È importante fissare soglie adeguate che riflettano i cambiamenti tecnologici e industriali nel tempo.

Sezione 10: Conclusioni e raccomandazioni finali

Il rispetto degli obblighi per i fornitori di modelli di IA deve essere proporzionato e commisurato.
Le persone che sviluppano o utilizzano modelli per scopi non professionali o di ricerca scientifica sono esenti dagli obblighi.
L’obiettivo è garantire un equilibrio tra conformità normativa e incentivazione all’utilizzo dei modelli.

UPDF AI:

Sezione 1: Procedura per la classificazione dei modelli di IA

Un modello di IA per finalità generali che raggiunge una soglia specifica per le capacità di impatto elevato è considerato un modello di IA per finalità generali con rischio sistemico.
Il fornitore deve informare l’ufficio per l’IA entro due settimane dopo aver soddisfatto i requisiti o aver appreso che il modello soddisferà tali requisiti.
È importante valutare se un modello di IA per finalità generali presenta rischi sistemici e dimostrarlo per evitare la classificazione come tale.

Sezione 2: Designazione di modelli di IA con rischio sistemico

La Commissione può designare un modello di IA per finalità generali come modello con rischio sistemico se soddisfa i requisiti senza che ciò fosse noto in precedenza.
Un sistema di segnalazioni qualificate dovrebbe informare l’ufficio per l’IA sui modelli che potrebbero essere classificati come modelli di IA con rischio sistemico.
I fornitori di modelli con rischi sistemici devono individuare, attenuare i rischi e garantire la cibersicurezza del modello.

Sezione 3: Valutazione e mitigazione dei rischi sistemici

I fornitori di modelli di IA con rischi sistemici devono valutare e ridurre i possibili rischi sistemici.
In caso di incidenti gravi nonostante gli sforzi preventivi, il fornitore deve riferire tempestivamente alla Commissione e alle autorità competenti.
È fondamentale garantire un adeguato livello di protezione della cibersicurezza per il modello e la sua infrastruttura fisica.

Sezione 4: Elaborazione dei codici di buone pratiche

L’ufficio per l’IA deve facilitare l’elaborazione, il riesame e l’adeguamento dei codici di buone pratiche per i fornitori di modelli di IA.
I codici di buone pratiche disciplinano gli obblighi per i fornitori di modelli di IA per finalità generali e quelli con rischi sistemici.
I codici dovrebbero concentrarsi sulla valutazione e mitigazione dei rischi sistemici.

Sezione 5: Importanza dei codici di buone pratiche

I codici di buone pratiche sono essenziali per garantire la conformità ai requisiti del regolamento.
La Commissione può approvare un codice di buone pratiche conferendogli validità generale nell’Unione.
La conformità a norme armonizzate europee conferisce la presunzione di conformità ai fornitori di modelli di IA per finalità generali.

Sezione 6: Regolamento sui sistemi di IA e modelli di IA

Il regolamento impone requisiti agli operatori del mercato che immettono, mettono in servizio o utilizzano sistemi di IA e modelli di IA nell’Unione.
I sistemi integrati in piattaforme online di dimensioni molto grandi sono soggetti al quadro di gestione dei rischi.
I prestatori devono valutare e mitigare i rischi sistemici derivanti dai loro servizi.

Sezione 7: Ruolo dei sistemi di IA nel regolamento

I sistemi di IA soggetti al regolamento possono essere forniti come servizi intermediari ai sensi del regolamento (UE) 2022/2065.
Gli obblighi imposti ai fornitori di sistemi di IA contribuiscono all’attuazione efficace del regolamento (UE) 2022/2065.
È importante individuare e attenuare i rischi sistemici derivanti dalla diffusione di contenuti generati artificialmente.

Sezione 8: Ruolo della normazione

La normazione fornisce soluzioni tecniche per garantire la conformità al regolamento e promuovere l’innovazione e la competitività.
La conformità alle norme armonizzate è un modo per dimostrare la conformità ai requisiti del regolamento.
Le richieste di normazione dovrebbero essere presentate senza ritardi alla Commissione.

Sezione 9: Specifiche comuni come soluzione eccezionale

Le specifiche comuni sono un’opzione di ripiego quando la normazione non è accettata o non tiene conto sufficientemente delle preoccupazioni sui diritti fondamentali.
La Commissione dovrebbe cooperare con partner internazionali nella definizione delle specifiche comuni.
Le specifiche comuni sono un modo per i fornitori di conformarsi ai requisiti del regolamento in assenza di norme armonizzate adeguate.

Sezione 10: Cooperazione internazionale nella normazione

La Commissione è incoraggiata a collaborare con partner internazionali e organismi di normazione internazionali nella definizione delle specifiche comuni.
La cooperazione internazionale è importante per garantire che le specifiche comuni riflettano lo stato dell’arte e tengano conto di diverse prospettive.
Le specifiche comuni sono un’alternativa quando le norme armonizzate non sono disponibili o adeguate.

UPDF AI:

Sezione 1: Governance dei dati per sistemi di IA ad alto rischio

I fornitori di sistemi di IA ad alto rischio addestrati con dati specifici si presumono conformi alla governance dei dati.
I sistemi certificati o conformi ai requisiti di cibersicurezza possono essere considerati conformi al requisito di cibersicurezza del regolamento.

Sezione 2: Valutazione della conformità dei sistemi di IA ad alto rischio

È importante sottoporre i sistemi di IA ad alto rischio a una valutazione della conformità prima dell’immissione sul mercato.
La conformità ai requisiti del regolamento dovrebbe essere valutata nell’ambito della normativa di armonizzazione dell’Unione.

Sezione 3: Notifica degli organismi notificati e riconoscimento reciproco

Le autorità nazionali dovrebbero notificare gli organismi notificati competenti.
Si dovrebbe agevolare il riconoscimento reciproco dei risultati della valutazione della conformità prodotti da organismi competenti.

Sezione 4: Marcatura CE e modifiche sostanziali dei sistemi di IA

I sistemi di IA ad alto rischio dovrebbero recare la marcatura CE per circolare liberamente nel mercato interno.
Le modifiche sostanziali ai sistemi di IA richiedono una nuova valutazione della conformità.

Sezione 5: Autorizzazioni eccezionali per sistemi di IA ad alto rischio

In situazioni eccezionali, le autorità possono autorizzare l’immissione sul mercato di sistemi di IA senza valutazione della conformità.
Le autorità di contrasto possono mettere in servizio un sistema di IA ad alto rischio senza autorizzazione preliminare.

Sezione 6: Registrazione dei sistemi di IA ad alto rischio

I fornitori devono registrare informazioni sui sistemi di IA ad alto rischio in una banca dati dell’UE.
I deployer pubblici devono registrarsi prima di utilizzare un sistema di IA ad alto rischio.

Sezione 7: Obblighi di trasparenza per sistemi di IA interattivi

Alcuni sistemi di IA possono comportare rischi di impersonificazione o inganno e devono essere soggetti a obblighi di trasparenza.
Le persone dovrebbero essere informate quando interagiscono con sistemi di IA che trattano dati biometrici.

Sezione 8: Contenuti sintetici e deep fake

I sistemi di IA che generano contenuti sintetici devono essere marcati come tali per garantire la trasparenza.
I deployer devono rendere noto se i contenuti audio o video sono stati creati artificialmente (deep fake).

Sezione 9: Elaborazione di codici di buone pratiche

La Commissione può incoraggiare l’elaborazione di codici di buone pratiche per facilitare l’attuazione degli obblighi di trasparenza.
Gli obblighi imposti ai fornitori e deployer sono cruciali per mitigare i rischi derivanti dalla diffusione di contenuti generati artificialmente.

Sezione 10: Impatto sugli operatori online e sulle piattaforme

I fornitori di piattaforme online devono individuare e attenuare i rischi derivanti dalla diffusione di contenuti generati artificialmente.
L’obbligo di etichettare i contenuti generati da sistemi di IA non influisce sulla valutazione dell’illegalità dei contenuti specifici.

UPDF AI:

Sezione 1: Conformità agli obblighi di trasparenza per i sistemi di IA

L’uso del sistema di IA non implica automaticamente la conformità ai regolamenti dell’Unione e degli Stati membri.
Gli obblighi di trasparenza per i deployer dei sistemi di IA devono essere rispettati indipendentemente dalla conformità ai regolamenti esistenti.

Sezione 2: Spazi di sperimentazione normativa per l’IA

Necessità di sorveglianza regolamentare e spazi sicuri per lo sviluppo e la prova di sistemi di IA innovativi.
Gli Stati membri devono istituire spazi di sperimentazione normativa per facilitare lo sviluppo e le prove di sistemi di IA innovativi sotto rigorosa sorveglianza regolamentare.

Sezione 3: Obiettivi degli spazi di sperimentazione normativa per l’IA

Promuovere l’innovazione in materia di IA.
Rafforzare la certezza del diritto per gli innovatori e garantire la comprensione degli impatti dell’IA.

Sezione 4: Cooperazione tra autorità competenti per gli spazi di sperimentazione normativa

Autorità nazionali dovrebbero cooperare con altre autorità pertinenti.
Regole comuni e quadro di cooperazione per garantire un’attuazione uniforme in tutta l’Unione.

Sezione 5: Utilizzo dei dati personali nei sistemi di IA

Fornitori nello spazio di sperimentazione possono utilizzare dati personali solo a specifiche condizioni.
Altri obblighi e diritti relativi al trattamento dei dati personali restano applicabili.

Sezione 6: Prove in condizioni reali per sistemi di IA ad alto rischio

Garanzie e condizioni per i fornitori che sottopongono sistemi di IA ad alto rischio a prove in condizioni reali.
Necessità di consenso informato per le prove, salvo eccezioni per le autorità di contrasto.

Sezione 7: Sorveglianza e tutele per le prove in condizioni reali

Richiesta di piani di prova presentati alle autorità competenti.
Protezione dei dati personali e tutele per gruppi vulnerabili durante le prove.

Sezione 8: Sostegno alle PMI e start-up nel settore dell’IA

Iniziative per sostenere e promuovere l’innovazione delle PMI nel settore dell’IA.
Accesso prioritario agli spazi di sperimentazione normativa per le PMI che soddisfano i criteri di selezione.

Sezione 9: Riduzione dei costi e semplificazione per le PMI

Riduzione dei costi di certificazione e conformità per le PMI.
Fornitura di modelli standardizzati e piattaforma unica di informazioni per agevolare il rispetto del regolamento.

Sezione 10: Promozione dell’innovazione tramite finanziamenti dell’Unione

Programmi di finanziamento dell’Unione per contribuire al conseguimento degli obiettivi del regolamento.
Contributo della piattaforma di IA on demand e altri programmi alla riduzione dei rischi e al rispetto degli obblighi regolamentari.

UPDF AI:

Sezione 1: Semplificazione per le microimprese

Consentire alle microimprese di adempiere all’istituzione di un sistema di gestione della qualità in modo semplificato.
Ridurre gli oneri amministrativi e i costi a carico delle microimprese senza compromettere la protezione e i requisiti per i sistemi di IA ad alto rischio.

Sezione 2: Accesso agli impianti di prova e sperimentazione

Agevolare l’accesso agli impianti di prova e sperimentazione per organismi, gruppi o laboratori nel settore dei dispositivi medici.
Incentivare la partecipazione di gruppi di esperti e laboratori specializzati nel contesto della valutazione della conformità dei prodotti.

Sezione 3: Quadro di governance per l’IA

Istaurare un quadro di governance per coordinare e sostenere l’applicazione del regolamento a livello nazionale e dell’Unione.
Creare un ufficio per l’IA con il compito di sviluppare competenze e capacità nel settore dell’IA.

Sezione 4: Comitato consultivo

Istituire un comitato composto da rappresentanti degli Stati membri per fornire consulenza sulla corretta attuazione del regolamento.
Designare due sottogruppi permanenti per cooperare sulle questioni di vigilanza del mercato e sugli organismi notificati.

Sezione 5: Coinvolgimento dei portatori di interessi

Creare un forum consultivo per garantire il coinvolgimento diversificato dei portatori di interessi nell’attuazione del regolamento.
Includere rappresentanti dell’industria, start-up, PMI, mondo accademico e società civile nel forum consultivo.

Sezione 6: Gruppo di esperti scientifici

Costituire un gruppo di esperti scientifici indipendenti per supportare le attività di monitoraggio dell’ufficio per l’IA.
Selezionare gli esperti in base alle competenze scientifiche nel settore dell’IA e garantire l’imparzialità e la riservatezza delle informazioni.

Sezione 7: Strutture di sostegno per la prova dell’IA

Istaurare strutture di sostegno dell’Unione per la prova dell’IA al fine di garantire un’esecuzione adeguata dei sistemi di IA.
Rafforzare le capacità degli Stati membri nella gestione dei sistemi di IA.

Sezione 8: Autorità nazionali competenti

Designare autorità di notifica e di vigilanza del mercato per controllare l’applicazione del regolamento a livello nazionale.
Garantire che le autorità esercitino i loro poteri in modo indipendente e imparziale.

Sezione 9: Monitoraggio successivo all’immissione sul mercato

Richiedere ai fornitori di sistemi di IA ad alto rischio di avere un sistema di monitoraggio post-immissione sul mercato.
Predisporre un sistema per segnalare eventuali incidenti gravi derivanti dall’uso dei sistemi di IA.

Sezione 10: Coerenza con il diritto dell’Unione sui servizi finanziari

Applicare le regole e i requisiti in materia di servizi finanziari agli istituti finanziari che utilizzano sistemi di IA.
Designare autorità competenti per il controllo dell’attuazione del regolamento in relazione ai sistemi di IA utilizzati dagli istituti finanziari regolamentati.

UPDF AI:

Autorità di vigilanza del mercato per sistemi di IA ad alto rischio

Le autorità di vigilanza del mercato nel settore della biometria devono avere poteri di indagine e correttivi efficaci.
Devono poter accedere a tutti i dati personali trattati e alle informazioni necessarie per svolgere i compiti.
Limitazioni dell’accesso ai dati sensibili non devono compromettere i poteri conferiti dalla direttiva (UE) 2016/680.

Attività congiunte tra autorità di vigilanza del mercato e la Commissione

Possibilità di proporre attività congiunte, inclusi indagini, per promuovere la conformità e individuare casi di non conformità.
L’ufficio per l’IA fornisce supporto di coordinamento per le indagini congiunte.

Responsabilità e competenze per sistemi di IA basati su modelli di IA

Chiarezza sulle responsabilità a livello dell’Unione e nazionale per i sistemi di IA basati su modelli di IA per finalità generali.
Supervisione a livello dell’Unione tramite l’ufficio per l’IA per i sistemi forniti dallo stesso fornitore.

Controllo ed esecuzione degli obblighi dei fornitori di modelli di IA

Competenza della Commissione per monitorare l’attuazione del regolamento per i modelli di IA per finalità generali.
Possibilità di svolgere indagini su violazioni delle norme applicabili ai fornitori di modelli di IA.

Promozione di un’IA etica e affidabile

Fornitori di sistemi di IA non ad alto rischio incoraggiati a creare codici di condotta per promuovere l’applicazione volontaria dei requisiti obbligatori.
Applicazione volontaria di requisiti supplementari relativi all’etica, alla sostenibilità, all’alfabetizzazione in materia di IA, ecc.

Sicurezza dei sistemi di IA collegati a prodotti non ad alto rischio

Necessità di garantire che i sistemi di IA collegati a prodotti sicuri al momento dell’immissione sul mercato.
Applicazione come rete di sicurezza del regolamento (UE) 2023/988 per contribuire a tale obiettivo.

Cooperazione affidabile delle autorità competenti

Riservatezza delle informazioni e dei dati ottenuti nell’assolvimento dei compiti.
Protezione dei diritti di proprietà intellettuale, delle informazioni commerciali riservate, ecc.

Sanzioni e misure di esecuzione

Adozione di sanzioni effettive, proporzionate e dissuasive in caso di violazione del regolamento.
Garante europeo della protezione dei dati ha il potere di infliggere sanzioni pecuniarie alle istituzioni dell’Unione.

Diritto di ricorso e spiegazione per le persone interessate

Mezzi di ricorso efficaci per le persone fisiche e giuridiche sui cui diritti incide l’uso dei sistemi di IA.
Diritto di ottenere una spiegazione qualora la decisione si basi sugli output di sistemi di IA ad alto rischio.

Protezione degli informatori e delega di poteri alla Commissione

Protezione degli informatori in caso di violazioni del regolamento.
Delega alla Commissione del potere di adottare atti per modificare varie disposizioni del regolamento.

UPDF AI:

Capo I Disposizioni generali

Lo scopo del presente regolamento è migliorare il funzionamento del mercato interno e promuovere l’intelligenza artificiale (IA) antropocentrica e affidabile.
Il regolamento stabilisce regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di IA nell’Unione.
Include divieti di pratiche di IA, requisiti per sistemi di IA ad alto rischio, regole di trasparenza, norme per modelli di IA per finalità generali, monitoraggio del mercato, governance ed esecuzione, e misure a sostegno dell’innovazione.

Articolo 2 Ambito di applicazione

Si applica ai fornitori, deployer, importatori, distributori, fabbricanti di prodotti con sistemi di IA, rappresentanti autorizzati, persone interessate nell’Unione.
I sistemi di IA ad alto rischio sono soggetti a specifici articoli del regolamento.
Esclusioni: settori al di fuori del diritto dell’Unione, sicurezza nazionale, attività militari, organizzazioni internazionali con garanzie adeguate, ricerca scientifica e sviluppo.

Articolo 3 Definizioni

Definisce “sistema di IA” come un sistema automatizzato che genera output influenzando ambienti fisici o virtuali.
“Rischio” è la combinazione di probabilità e gravità di un danno.
“Fornitore” sviluppa o immette sistemi di IA sul mercato.
“Deployer” utilizza un sistema di IA sotto la propria autorità.
Altre definizioni includono rappresentante autorizzato, importatore, distributore e operatore.

Data di Applicazione del Regolamento

Il regolamento dovrebbe entrare in vigore due anni dopo la sua adozione.
Divieti e disposizioni generali si applicano sei mesi dopo l’entrata in vigore per affrontare rischi inaccettabili.
Norme sulla governance e valutazione della conformità devono essere operative entro due anni dall’entrata in vigore.
Obblighi per i fornitori di modelli di IA generale si applicano entro dodici mesi dall’entrata in vigore.

Consultazioni e Adozione del Regolamento

Il Garante europeo della protezione dei dati e il comitato europeo per la protezione dei dati hanno formulato il loro parere congiunto il 18 giugno 2021.
Il regolamento è stato adottato in base all’articolo 42 del regolamento (UE) 2018/1725.

Periodo di Adattamento per Operatori

Gli operatori di sistemi di IA ad alto rischio immessi prima della data generale di applicazione del regolamento devono conformarsi solo se subiscono modifiche significative dopo tale data.
Fornitori incoraggiati a rispettare volontariamente gli obblighi durante il periodo transitorio.

Applicazione delle Competenze di Esecuzione

La Commissione dovrebbe avere competenze di esecuzione per garantire condizioni uniformi di attuazione del regolamento.
Tali competenze devono essere esercitate conformemente al regolamento (UE) n. 182/2011 del Parlamento europeo e del Consiglio.

Obiettivo del Regolamento

Il regolamento mira a migliorare il mercato interno, promuovere un’IA affidabile e antropocentrica, proteggere la salute, la sicurezza e i diritti fondamentali, e promuovere l’innovazione.
L’azione a livello dell’Unione è considerata più efficace per raggiungere tali obiettivi rispetto agli Stati membri.

UPDF AI:

Definizioni e concetti chiave

Definizioni importanti come “immissione sul mercato”, “messa a disposizione sul mercato”, “messa in servizio”, “uso improprio ragionevolmente prevedibile”, “componente di sicurezza”, ecc., sono fornite per chiarire il contesto normativo relativo ai sistemi di IA.
Concetti come “finalità prevista” e “modifica sostanziale” sono definiti per stabilire le basi per la valutazione della conformità dei sistemi di IA.

Procedure e misure regolamentari

Descrizione di procedure come “valutazione della conformità” e ruolo degli “organismi di valutazione della conformità” nell’assicurare che i requisiti relativi ai sistemi di IA ad alto rischio siano soddisfatti.
Ruolo dell'”autorità di notifica” nel monitoraggio e nella designazione degli organismi di valutazione della conformità per garantire la conformità dei sistemi di IA.

Marcatura CE e monitoraggio post-immissione sul mercato

Significato della “marcatura CE” come indicazione di conformità ai requisiti normativi dell’Unione per i sistemi di IA.
Importanza del “sistema di monitoraggio successivo all’immissione sul mercato” per raccogliere esperienze d’uso e identificare necessità di azioni correttive o preventive.

Biometria e dati personali

Definizioni di concetti come “dati biometrici”, “identificazione biometrica”, e “verifica biometrica” per comprendere l’utilizzo dei dati personali nei sistemi di IA.
Categorie di dati sensibili come “dati biometrici” e “categorie particolari di dati personali” sono specificate per evidenziare la necessità di proteggere tali informazioni sensibili.

Sistemi di IA specializzati

Descrizione di sistemi come “sistema di riconoscimento delle emozioni” e “sistema di categorizzazione biometrica” per illustrare le diverse applicazioni della tecnologia di IA.
Specifiche sui “sistemi di identificazione biometrica remota” e le distinzioni tra “in tempo reale” e “a posteriori” per chiarire le modalità di funzionamento di tali sistemi.

Autorità e regolamenti di controllo

Ruolo dell'”autorità di vigilanza del mercato” nell’attuare misure conformemente al regolamento (UE) 2019/1020 per garantire la conformità dei sistemi di IA.
Definizione di concetti come “norma armonizzata” e “specifiche comuni” per stabilire standard tecnici e requisiti per soddisfare le normative del regolamento.

Gestione degli incidenti e protezione dei dati

Definizione di “incidente grave” e conseguenze dirette o indirette causate da malfunzionamenti dei sistemi di IA.
Distinzione tra “dati personali” e “dati non personali” per evidenziare la necessità di proteggere le informazioni sensibili durante l’utilizzo dei sistemi di IA.

Prove e test dei sistemi di IA

Descrizione di concetti come “piano di prova in condizioni reali” e “prova in condizioni reali” per valutare le prestazioni dei sistemi di IA al di fuori di ambienti simulati.
Importanza del “consenso informato” per la partecipazione dei soggetti alle prove in condizioni reali, garantendo una decisione consapevole e volontaria.

Rischi e impatti dei modelli di IA

Definizione di “deep fake” come contenuto generato dall’IA che appare falsamente autentico.
Identificazione di “rischio sistemico” come rischio specifico per le capacità di impatto elevato dei modelli di IA, con effetti significativi sulla società e sulla salute pubblica.

Spazi di sperimentazione e alfabetizzazione in materia di IA

Spiegazione di concetti come “spazio di sperimentazione normativa per l’IA” e “alfabetizzazione in materia di IA” per favorire lo sviluppo e l’uso consapevole dei sistemi di IA.
Ruolo dell'”ufficio per l’IA” nella supervisione e governance dei sistemi di IA, come previsto dalla decisione della Commissione del 24 gennaio 2024.

UPDF AI:

Capo II: Pratiche di IA vietate

Vietate pratiche di IA che utilizzano tecniche subliminali o manipolative per distorcere il comportamento delle persone.
Vietato l’uso di IA che sfrutta le vulnerabilità legate all’età, disabilità o situazione sociale.
Proibita l’impiego di sistemi di IA per valutare o classificare le persone in base al comportamento sociale o alle caratteristiche personali.
Divieto sull’uso di IA per valutazioni del rischio penale basate solo sulla profilazione o valutazione della personalità.
Vietato creare o ampliare banche dati di riconoscimento facciale tramite scraping non mirato.
Proibito l’utilizzo di IA per inferire emozioni sul luogo di lavoro o nell’istruzione, tranne per motivi medici o di sicurezza.
Vietata la categorizzazione biometrica individuale basata su razza, opinioni politiche, religione, vita sessuale, ecc.
Limitazioni sull’uso di identificazione biometrica remota in spazi pubblici per attività di contrasto, con eccezioni per situazioni specifiche.
Autorizzazione preventiva richiesta per l’uso di identificazione biometrica remota in spazi pubblici per attività di contrasto.
Notifica obbligatoria alle autorità competenti e valutazione d’impatto sui diritti fondamentali.

Capo III: Sistemi di IA ad alto rischio

Definizione dei sistemi di IA ad alto rischio e regole di classificazione.
I sistemi di IA destinati a essere usati come componenti di sicurezza di prodotti sono considerati ad alto rischio.
Inclusione dei sistemi di IA elencati nell’allegato III come ad alto rischio.
Eccezioni per i sistemi di IA dell’allegato III che non presentano rischi significativi per la salute, sicurezza o diritti fondamentali.
Condizioni in cui un sistema di IA dell’allegato III non è considerato ad alto rischio.
Specifiche situazioni in cui un sistema di IA può non essere considerato ad alto rischio.
Requisiti per la valutazione della conformità dei sistemi di IA ad alto rischio da parte di terzi.
Classificazione dei sistemi di IA ad alto rischio in base alla normativa di armonizzazione dell’Unione.
Regole dettagliate per la richiesta, rilascio e controllo delle autorizzazioni per l’uso di sistemi di IA ad alto rischio.
Monitoraggio annuale dell’uso dei sistemi di IA ad alto rischio e relazioni annuali alle autorità competenti.

UPDF AI:

Sezione 1: Sistema di IA ad alto rischio

Un sistema di IA è considerato ad alto rischio se effettua la profilazione di persone fisiche.
I fornitori devono documentare la valutazione di un sistema di IA prima della sua immissione sul mercato o messa in servizio.
La Commissione fornisce orientamenti sull’attuazione pratica del regolamento entro 18 mesi dalla sua entrata in vigore.

Sezione 2: Modifiche dell’allegato III

La Commissione può modificare l’allegato III aggiungendo o modificando i casi d’uso dei sistemi di IA ad alto rischio.
Le modifiche alle condizioni dell’allegato III non devono ridurre il livello di protezione della salute, sicurezza e diritti fondamentali.

Sezione 3: Valutazione dei rischi per i sistemi di IA ad alto rischio

La Commissione valuta criteri come la finalità del sistema di IA, l’uso previsto, la quantità di dati trattati, l’autonomia del sistema e l’impatto negativo già causato.
Si tiene conto della possibilità di correggere o invertire i risultati prodotti dal sistema di IA.
Vengono considerati anche gli eventuali benefici derivanti dall’uso diffuso del sistema di IA.

Sezione 4: Sistema di gestione dei rischi

È necessario istituire un sistema di gestione dei rischi per i sistemi di IA ad alto rischio.
Il sistema di gestione dei rischi comprende l’identificazione, analisi e gestione continua dei rischi durante il ciclo di vita del sistema di IA.
Le misure di gestione dei rischi devono essere adeguate per ridurre al minimo i rischi residui associati ai sistemi di IA ad alto rischio.

Sezione 5: Dati e governance dei dati

I sistemi di IA ad alto rischio devono utilizzare set di dati di addestramento che soddisfano criteri di qualità specifici.
I set di dati sono soggetti a pratiche di governance e gestione dei dati adeguate alla finalità del sistema di IA.
È importante valutare le possibili distorsioni nei dati che potrebbero influenzare la salute, sicurezza e diritti fondamentali delle persone.

UPDF AI:

Sezione 1: Requisiti per i set di dati di addestramento

I set di dati di addestramento, convalida e prova devono essere pertinenti, rappresentativi, esenti da errori e completi.
Devono possedere proprietà statistiche adeguate per il sistema di intelligenza artificiale ad alto rischio.
Le caratteristiche dei set di dati possono essere soddisfatte a livello singolo o combinato.

Sezione 2: Considerazioni specifiche per i set di dati

I set di dati devono considerare le caratteristiche geografiche, contestuali, comportamentali o funzionali del sistema di IA ad alto rischio.
Queste considerazioni sono necessarie per la finalità prevista del sistema.

Sezione 3: Trattamento eccezionale di categorie particolari di dati

Fornitori di sistemi di IA ad alto rischio possono trattare categorie particolari di dati personali solo se necessario per rilevare e correggere distorsioni.
Condizioni rigide devono essere soddisfatte per garantire la sicurezza e la protezione dei dati personali.

Sezione 4: Documentazione tecnica

La documentazione tecnica di un sistema di IA ad alto rischio deve essere redatta prima dell’immissione sul mercato e aggiornata regolarmente.
Deve dimostrare la conformità ai requisiti e fornire informazioni chiare alle autorità competenti.

Sezione 5: Modifica della documentazione tecnica

La Commissione ha il potere di adottare atti delegati per modificare la documentazione tecnica al fine di garantire la conformità ai requisiti in base al progresso tecnico.

Sezione 6: Registrazione automatica degli eventi

I sistemi di IA ad alto rischio devono consentire la registrazione automatica degli eventi per tutto il ciclo di vita del sistema.
Le capacità di registrazione devono permettere l’individuazione di situazioni a rischio e il monitoraggio post-immissione sul mercato.

Sezione 7: Trasparenza e informazioni per i deployer

I sistemi di IA ad alto rischio devono essere trasparenti per consentire ai deployer di interpretarne l’output.
Le istruzioni per l’uso devono contenere informazioni complete e chiare sul sistema, le sue prestazioni e le modalità d’uso.

Sezione 8: Sorveglianza umana

I sistemi di IA ad alto rischio devono essere supervisionati da persone fisiche durante l’uso.
La sorveglianza umana mira a prevenire rischi per la salute, la sicurezza e i diritti fondamentali.

Sezione 9: Accuratezza, robustezza e cibersicurezza

I sistemi di IA ad alto rischio devono garantire un adeguato livello di accuratezza, robustezza e cibersicurezza.
Devono essere resilienti agli errori e alle incongruenze, adottando misure tecniche e organizzative adeguate.

Sezione 10: Parametri di riferimento e metodologie di misurazione

La Commissione incoraggia lo sviluppo di parametri di riferimento e metodologie di misurazione per valutare l’accuratezza e la robustezza dei sistemi di IA ad alto rischio.
Questi parametri devono essere dichiarati nelle istruzioni per l’uso dei sistemi.

UPDF AI:

Sezione 1: Sistemi di IA ad alto rischio

Sistemi di IA ad alto rischio devono essere sviluppati per ridurre il rischio di output distorti che influenzano input futuri.
Devono essere resilienti ai tentativi non autorizzati di modifica.
Le soluzioni tecniche per la cibersicurezza devono essere adeguate e mirate alle vulnerabilità specifiche dell’IA.

Sezione 2: Obblighi dei fornitori di sistemi di IA ad alto rischio

I fornitori devono garantire la conformità ai requisiti stabiliti.
Devono indicare le proprie informazioni sul sistema di IA ad alto rischio.
Deve essere istituito un sistema di gestione della qualità conforme al regolamento.

Sezione 3: Sistema di gestione della qualità

Il sistema di gestione della qualità deve garantire la conformità al regolamento.
Deve includere strategie per la conformità normativa, controllo della progettazione, gestione dei dati, gestione dei rischi, monitoraggio post-immissione sul mercato, tra gli altri aspetti.

Sezione 4: Conservazione dei documenti

I fornitori devono conservare la documentazione tecnica e relativa al sistema di gestione della qualità per almeno 10 anni.
Condizioni specifiche sono stabilite per la conservazione della documentazione in caso di fallimento del fornitore.

Sezione 5: Log generati automaticamente

I fornitori devono conservare i log generati automaticamente dai loro sistemi di IA ad alto rischio per almeno sei mesi.
La conservazione dei log è regolata dal diritto dell’Unione o nazionale applicabile.

Sezione 6: Misure correttive e dovere di informazione

I fornitori devono adottare misure correttive se un sistema di IA ad alto rischio non è conforme al regolamento.
Devono informare i distributori e altri soggetti interessati in caso di non conformità.

Sezione 7: Cooperazione con le autorità competenti

I fornitori devono fornire informazioni e documentazione alle autorità competenti su richiesta.
Devono concedere l’accesso ai log generati automaticamente ai fini della dimostrazione di conformità.

Sezione 8: Rappresentanti autorizzati dei fornitori

I fornitori stabiliti in paesi terzi devono nominare un rappresentante autorizzato nell’Unione prima di mettere a disposizione i sistemi di IA ad alto rischio sul mercato dell’Unione.
Il rappresentante autorizzato esegue compiti specificati nel mandato ricevuto dal fornitore.

Sezione 9: Dichiarazione di conformità UE

I fornitori devono elaborare una dichiarazione di conformità UE per i sistemi di IA ad alto rischio.
Devono apporre la marcatura CE per indicare la conformità al regolamento.

Sezione 10: Obblighi di registrazione

I fornitori devono rispettare gli obblighi di registrazione previsti dal regolamento.
Devono adottare misure correttive e fornire informazioni necessarie in conformità con il regolamento.

UPDF AI:

Articolo 22: Rappresentante autorizzato

Il rappresentante autorizzato può cooperare con le autorità competenti per ridurre i rischi del sistema di IA ad alto rischio.
Il rappresentante autorizzato deve porre fine al mandato se ritiene che il fornitore agisca in contrasto con gli obblighi del regolamento.

Articolo 23: Obblighi degli importatori

Gli importatori devono garantire che il sistema di IA ad alto rischio sia conforme al regolamento.
Gli importatori devono conservare la documentazione per almeno 10 anni dalla data di immissione sul mercato.

Articolo 24: Obblighi dei distributori

I distributori devono verificare la conformità del sistema di IA ad alto rischio prima di metterlo sul mercato.
I distributori devono adottare misure correttive se un sistema non è conforme ai requisiti.

Articolo 25: Responsabilità lungo la catena del valore dell’IA

Distributori, importatori, deployer o terzi possono essere considerati fornitori in determinate circostanze.
Il fornitore iniziale coopera con i nuovi fornitori se il sistema viene modificato.

Articolo 26: Obblighi dei deployer dei sistemi di IA ad alto rischio

I deployer devono adottare misure tecniche e organizzative per utilizzare i sistemi di IA conformemente alle istruzioni per l’uso.
I deployer devono conservare i log generati automaticamente per almeno sei mesi.

Articolo 26: Obblighi dei deployer dei sistemi di IA ad alto rischio (continua)

I deployer devono informare i rappresentanti dei lavoratori e i lavoratori interessati sull’uso del sistema di IA ad alto rischio sul luogo di lavoro.
I deployer pubblici o istituzionali devono rispettare gli obblighi di registrazione e informare il fornitore se il sistema non è registrato.

Articolo 26: Obblighi dei deployer dei sistemi di IA ad alto rischio (continua)

I deployer usano le informazioni fornite per effettuare una valutazione d’impatto sulla protezione dei dati.
I deployer devono chiedere autorizzazione per l’uso di sistemi di identificazione biometrica remota a posteriori in indagini criminali.

UPDF AI:

Sezione 1: Utilizzo dei sistemi di IA ad alto rischio per l’identificazione biometrica remota

Nessun utilizzo non mirato dei sistemi di IA ad alto rischio per l’identificazione biometrica remota.
Decisioni delle autorità di contrasto non basate esclusivamente sull’output di tali sistemi.
Necessità di collegamento con reati, procedimenti penali o minacce reali.
Documentazione e relazioni annuali obbligatorie sull’uso di tali sistemi.

Sezione 2: Cooperazione dei deployer con le autorità competenti

Deployer devono informare le persone fisiche soggette all’uso di sistemi di IA ad alto rischio.
Cooperazione con le autorità competenti per l’attuazione del regolamento.
Applicazione dell’articolo 13 della direttiva (UE) 2016/680 per i sistemi di IA ad alto rischio utilizzati a fini di contrasto.

Sezione 3: Valutazione d’impatto sui diritti fondamentali per i sistemi di IA ad alto rischio

Valutazione preventiva dell’impatto sui diritti fondamentali prima dell’uso di sistemi di IA ad alto rischio.
Elementi inclusi nella valutazione: descrizione dei processi, rischi specifici, misure di sorveglianza umana, piani di mitigazione dei rischi.
Notifica dei risultati all’autorità di vigilanza del mercato.

Sezione 4: Autorità di notifica

Designazione di almeno un’autorità di notifica da parte di ciascuno Stato membro.
Collaborazione tra le autorità di notifica di tutti gli Stati membri.
Salvaguardia dell’obiettività e dell’imparzialità delle attività delle autorità di notifica.

Sezione 5: Domanda di notifica presentata dagli organismi di valutazione della conformità

Presentazione di domanda di notifica da parte degli organismi di valutazione della conformità.
Descrizione delle attività di valutazione della conformità e certificato di accreditamento necessari.
Aggiornamento periodico della documentazione relativa alla designazione degli organismi notificati.

Sezione 6: Procedura di notifica

Notifica solo degli organismi di valutazione della conformità conformi ai requisiti.
Notifica alla Commissione e agli altri Stati membri tramite strumento elettronico.
Consultazioni in caso di obiezioni sollevate.

Sezione 7: Requisiti relativi agli organismi notificati

Gli organismi notificati devono soddisfare requisiti organizzativi, di gestione della qualità e relativi alle risorse.
Indipendenza dagli operatori economici interessati ai sistemi di IA ad alto rischio.
Salvaguardia dell’indipendenza, dell’obiettività e dell’imparzialità delle attività degli organismi notificati.

UPDF AI:

Articolo 32: Presunzione di conformità ai requisiti relativi agli organismi notificati

Se un organismo dimostra conformità ai criteri delle norme armonizzate, è considerato conforme ai requisiti.
L’organismo di valutazione della conformità deve rispettare le norme armonizzate per essere conforme.

Articolo 33: Affiliate degli organismi notificati e subappaltatori

Gli organismi notificati devono garantire che i subappaltatori soddisfino i requisiti e informare l’autorità di notifica.
Le attività possono essere subappaltate o eseguite da un’affiliata solo con il consenso del fornitore.
Documenti relativi alla valutazione dei subappaltatori devono essere tenuti a disposizione per cinque anni.

Articolo 34: Obblighi operativi degli organismi notificati

Gli organismi notificati verificano la conformità dei sistemi di IA ad alto rischio secondo procedure specifiche.
Devono evitare oneri inutili per i fornitori e tener conto delle dimensioni e complessità del sistema di IA.
Mettono a disposizione documentazione all’autorità di notifica per svolgere le proprie attività.

Articolo 35: Numeri di identificazione ed elenchi di organismi notificati

La Commissione assegna un numero di identificazione unico a ogni organismo notificato.
Pubblica un elenco degli organismi notificati inclusi i loro numeri di identificazione e attività.

Articolo 36: Modifiche delle notifiche

L’autorità di notifica informa la Commissione e gli altri Stati membri delle modifiche della notifica di un organismo notificato.
Le procedure si applicano alle estensioni della portata della notifica e alle modifiche diverse.
In caso di cessazione delle attività, l’organismo notificato informa l’autorità di notifica e i fornitori interessati.

Articolo 37: Contestazione della competenza degli organismi notificati

La Commissione indaga sui casi in cui vi sono dubbi sulla competenza di un organismo notificato.
L’autorità di notifica fornisce informazioni alla Commissione su richiesta.
La Commissione tratta le informazioni sensibili in modo riservato.

Articolo 38: Coordinamento degli organismi notificati

La Commissione garantisce il coordinamento tra gli organismi notificati per i sistemi di IA ad alto rischio.
Ciascuna autorità di notifica garantisce la partecipazione degli organismi al coordinamento.
La Commissione favorisce lo scambio di conoscenze tra le autorità di notifica.

Articolo 39: Organismi di valutazione della conformità di paesi terzi

Gli organismi di paesi terzi possono svolgere attività degli organismi notificati se soddisfano i requisiti.
Deve essere garantito un livello di conformità equivalente.

Articolo 40: Norme armonizzate e prodotti della normazione

I sistemi di IA conformi alle norme armonizzate si presumono conformi ai requisiti.
La Commissione presenta richieste di normazione per migliorare le prestazioni dei sistemi di IA.
Le norme devono essere chiare e coerenti per garantire la conformità dei sistemi di IA.

UPDF AI:

Normazione e promozione dell’investimento nell’IA

I partecipanti al processo di normazione cercano di promuovere gli investimenti e l’innovazione nell’IA.
Obiettivo di maggiore certezza del diritto, competitività e crescita del mercato dell’Unione.
Rafforzamento della cooperazione globale in materia di normazione.
Necessità di tenere conto delle norme internazionali coerenti con i valori dell’Unione.
Garanzia di governance multipartecipativa equilibrata.

Specifiche comuni e adozione di atti di esecuzione

La Commissione può adottare atti di esecuzione per stabilire specifiche comuni.
Condizioni per l’adozione degli atti di esecuzione.
Consulta il forum consultivo durante la redazione delle specifiche comuni.
Gli atti di esecuzione sono adottati secondo una procedura d’esame specifica.
Informazione preliminare al comitato prima della preparazione di un atto di esecuzione.

Conformità dei sistemi di IA ad alto rischio

I sistemi conformi alle specifiche comuni si presumono conformi ai requisiti.
Valutazione della conformità per i sistemi di IA ad alto rischio.
Possibilità di adottare soluzioni tecniche motivate se non si rispettano le specifiche comuni.
Procedura per segnalare discrepanze nelle specifiche comuni.
Presunzione di conformità a determinati requisiti per i sistemi ad alto rischio.

Valutazione della conformità e organismi notificati

Procedure di valutazione della conformità per i sistemi di IA ad alto rischio.
Coinvolgimento degli organismi notificati nella valutazione della conformità.
Differenze nelle procedure di valutazione a seconda del tipo di sistema di IA.
Ruolo degli organismi notificati nell’assicurare la conformità ai requisiti.
Possibilità di adottare atti delegati per modificare le procedure di valutazione.

Certificati e obblighi degli organismi notificati

Redazione e validità dei certificati rilasciati dagli organismi notificati.
Durata di validità dei certificati per i sistemi di IA ad alto rischio.
Procedure per sospendere, ritirare o limitare un certificato in caso di non conformità.
Possibilità di ricorso contro le decisioni degli organismi notificati.
Obblighi di informazione degli organismi notificati verso le autorità competenti.

UPDF AI:

Articolo 46 – Deroga alla procedura di valutazione della conformità

Autorizzazione per l’immissione sul mercato di sistemi di IA ad alto rischio in situazioni eccezionali.
Autorizzazione valida per un periodo limitato durante le procedure di valutazione della conformità.
Possibilità di mettere in servizio un sistema di IA ad alto rischio in situazioni di urgenza, con autorizzazione richiesta successivamente.
Interruzione immediata dell’uso se l’autorizzazione viene rifiutata.

Articolo 47 – Dichiarazione di conformità UE

Fornitore deve compilare una dichiarazione di conformità UE per ogni sistema di IA ad alto rischio.
La dichiarazione attesta la conformità ai requisiti stabiliti.
La dichiarazione deve essere tenuta a disposizione delle autorità competenti per dieci anni.
Possibilità di redigere un’unica dichiarazione per sistemi soggetti a diverse normative dell’Unione.

Articolo 48 – Marcatura CE

Principi generali applicabili alla marcatura CE.
Modalità di apposizione della marcatura CE sui sistemi di IA ad alto rischio.
Necessità di indicare il numero di identificazione dell’organismo notificato responsabile.
Indicazioni sulla marcatura CE per sistemi disciplinati da altre normative dell’Unione.

Articolo 49 – Registrazione

Obbligo di registrazione dei sistemi di IA ad alto rischio prima dell’immissione sul mercato o messa in servizio.
Registrazione dei sistemi elencati nell’allegato III e delle relative informazioni.
Registrazione separata per sistemi non considerati ad alto rischio.
Procedure specifiche per la registrazione nei settori delle attività di contrasto, migrazione, asilo e gestione del controllo delle frontiere.

Articolo 50 – Obblighi di trasparenza per i fornitori e i deployer di determinati sistemi di IA

Garanzie per informare le persone fisiche sull’interazione con sistemi di IA.
Obblighi per i fornitori di sistemi di IA che generano contenuti sintetici.
Informazioni e trattamento dei dati personali per sistemi di riconoscimento delle emozioni e categorizzazione biometrica.
Obblighi relativi ai “deep fake” e al testo generato artificialmente.

Articolo 51 – Classificazione dei modelli di IA per finalità generali come modelli di IA per finalità generali con rischio sistemico

Classificazione dei modelli di IA per finalità generali con rischio sistemico basata sull’impatto elevato.
Utilizzo di strumenti tecnici e metodologie per valutare il rischio sistemico.
Condizioni per la classificazione come modello di IA per finalità generali con rischio sistemico.

UPDF AI:

Sezione 1: Definizione dei modelli di IA per finalità generali

Un modello di IA per finalità generali è considerato ad alto impatto se la quantità cumulativa di calcolo utilizzata per il suo addestramento supera 1025 operazioni in virgola mobile.
La Commissione può modificare le soglie e integrare parametri di riferimento per i modelli di IA per finalità generali in base agli sviluppi tecnologici.

Sezione 2: Procedura per la designazione dei modelli di IA con rischio sistemico

I fornitori devono informare la Commissione se il loro modello soddisfa determinati requisiti entro due settimane dalla conformità.
La Commissione può designare un modello come a rischio sistemico, anche su segnalazione del gruppo di esperti scientifici.

Sezione 3: Obblighi dei fornitori di modelli di IA per finalità generali

I fornitori devono redigere e aggiornare la documentazione tecnica del modello, fornire informazioni ai fornitori di sistemi di IA e attuare politiche di diritto d’autore.
Gli obblighi non si applicano ai modelli di IA open source, ma si applicano ai modelli con rischi sistemici.

Sezione 4: Rappresentanti autorizzati dei fornitori di modelli di IA

I fornitori stabiliti al di fuori dell’Unione devono nominare un rappresentante autorizzato nell’Unione prima di immettere un modello sul mercato.
Il rappresentante autorizzato ha compiti specifici come verificare la documentazione tecnica e cooperare con le autorità competenti.

Sezione 5: Obblighi dei fornitori di modelli di IA con rischio sistemico

I fornitori di modelli di IA con rischio sistemico devono valutare e mitigare i rischi sistemici, tenere traccia degli incidenti e garantire la cibersicurezza.
Devono basarsi su codici di buone pratiche o dimostrare mezzi alternativi di conformità.

Sezione 6: Codici di buone pratiche

L’ufficio per l’IA promuove l’elaborazione di codici di buone pratiche a livello dell’Unione per garantire la corretta applicazione del regolamento.
I fornitori possono aderire a codici di buone pratiche approvati o dimostrare mezzi alternativi di conformità.

UPDF AI:

Sezione 1: Obblighi dei codici di buone pratiche

I codici di buone pratiche devono includere mezzi per mantenere aggiornate le informazioni, dettagli sul contenuto utilizzato per l’addestramento e misure per valutare e gestire i rischi sistemici.
Devono identificare i rischi a livello dell’Unione e le relative fonti, nonché proporre misure proporzionate alla gravità e probabilità dei rischi.

Sezione 2: Partecipazione all’elaborazione dei codici di buone pratiche

L’ufficio per l’IA può invitare fornitori di modelli di IA e autorità nazionali a partecipare all’elaborazione dei codici.
Organizzazioni della società civile, industria, mondo accademico e altri portatori di interessi possono sostenere il processo.

Sezione 3: Definizione degli obiettivi nei codici di buone pratiche

I codici devono chiarire gli obiettivi specifici e contenere impegni o misure per garantirne il raggiungimento.
Gli indicatori chiave di prestazione riflettono le differenze tra i partecipanti in termini di dimensioni e capacità.

Sezione 4: Monitoraggio e valutazione dei codici di buone pratiche

L’ufficio per l’IA e il comitato monitorano il conseguimento degli obiettivi dei codici e la corretta applicazione del regolamento.
Valutano se i codici includono gli obblighi previsti e pubblicano le valutazioni sull’adeguatezza dei codici.

Sezione 5: Approvazione e validità dei codici di buone pratiche

La Commissione può approvare un codice di buone pratiche conferendogli validità generale nell’Unione.
L’approvazione avviene mediante atto di esecuzione secondo una procedura specifica.

Sezione 6: Adesione ai codici di buone pratiche

L’ufficio per l’IA può invitare i fornitori di modelli di IA a aderire ai codici.
Per i fornitori senza rischi sistemici, l’adesione può limitarsi agli obblighi dell’articolo 53, salvo dichiarazione esplicita di adesione completa.

Sezione 7: Riesame e adeguamento dei codici di buone pratiche

L’ufficio per l’IA promuove il riesame e l’adeguamento dei codici, offrendo assistenza nella valutazione delle norme emergenti.
I codici devono essere pronti entro nove mesi dalla data di entrata in vigore del regolamento.

Sezione 8: Spazi di sperimentazione normativa per l’IA a livello nazionale

Gli Stati membri devono istituire almeno uno spazio di sperimentazione normativa per l’IA entro 24 mesi dall’entrata in vigore del regolamento.
La Commissione fornisce assistenza tecnica per l’istituzione e il funzionamento di tali spazi.

Sezione 9: Assegnazione di risorse e cooperazione per gli spazi di sperimentazione

Le autorità competenti devono assegnare risorse adeguate per conformarsi al regolamento.
Possono cooperare con altre autorità pertinenti e consentire il coinvolgimento di attori nell’ecosistema dell’IA.

Sezione 10: Ambiente controllato negli spazi di sperimentazione normativa per l’IA

Gli spazi garantiscono un ambiente controllato per lo sviluppo e la sperimentazione di sistemi di IA innovativi prima della loro immissione sul mercato.
Le autorità competenti forniscono orientamenti e supporto per individuare rischi e garantire la conformità al regolamento.

UPDF AI:

Sezione 1: Accesso agli spazi di sperimentazione normativa per l’IA

Gli spazi di sperimentazione devono consentire un accesso ampio e paritario.
Fornitori e potenziali fornitori possono presentare domande in partenariato con deployers e terzi interessati.
L’accesso deve essere gratuito per le PMI, salvo costi straordinari equi e proporzionati.

Sezione 2: Modalità dettagliate e condizioni degli spazi di sperimentazione normativa per l’IA

Le modalità devono sostenere la flessibilità per le autorità nazionali competenti.
Devono facilitare il conformarsi agli obblighi di valutazione della conformità e all’applicazione volontaria dei codici di condotta.

Sezione 3: Coinvolgimento di attori nell’ecosistema dell’IA

Gli spazi devono favorire il coinvolgimento di organismi notificati, PMI, start-up, innovatori, laboratori di ricerca, etc.
Scopo: consentire e facilitare la cooperazione pubblico-privato.

Sezione 4: Procedure e requisiti amministrativi per gli spazi di sperimentazione normativa per l’IA

Devono essere semplici, facilmente intelligibili e razionalizzati in tutta l’Unione.
La partecipazione deve essere limitata a un periodo adeguato alla complessità del progetto.

Sezione 5: Sviluppo di strumenti e infrastrutture per la sperimentazione normativa per l’IA

Gli spazi devono agevolare lo sviluppo di strumenti per la valutazione delle dimensioni dei sistemi di IA.
Obiettivo: mitigare i rischi per i diritti fondamentali e la società.

Sezione 6: Trattamento dei dati personali nello spazio di sperimentazione normativa per l’IA

I dati personali possono essere trattati solo per lo sviluppo, l’addestramento e le prove di sistemi di IA rilevanti per l’interesse pubblico.
Condizioni: monitoraggio efficace dei rischi per i diritti e libertà degli interessati.

Sezione 7: Prove di sistemi di IA ad alto rischio in condizioni reali

Le prove possono essere effettuate da fornitori elencati nell’allegato III.
Condizioni: approvazione delle prove, protezione dei soggetti vulnerabili, supervisione efficace.

Sezione 8: Autorizzazione delle prove in condizioni reali

Approvazione delle prove e del piano richiesta all’autorità di vigilanza del mercato.
Durata massima delle prove: non più di sei mesi, prorogabile previa notifica motivata.

Sezione 9: Revoca del consenso e cancellazione dei dati personali

I soggetti delle prove possono ritirarsi in qualsiasi momento revocando il consenso informato.
Dati personali devono essere cancellati dopo la prova, senza pregiudicare le attività svolte.

Sezione 10: Poteri delle autorità di vigilanza del mercato

Le autorità hanno il potere di imporre informazioni, ispezioni e controlli sulle prove e sui sistemi di IA ad alto rischio.
Scopo: garantire lo sviluppo sicuro delle prove in condizioni reali.

UPDF AI:

Sezione 1: Incidenti durante le prove in condizioni reali

Qualsiasi incidente grave durante le prove deve essere segnalato all’autorità nazionale di vigilanza del mercato.
Il fornitore deve adottare misure immediate di attenuazione o sospendere le prove fino a quando l’attenuazione non è stata effettuata.
È necessario stabilire una procedura per il ritiro del sistema di IA in caso di cessazione delle prove.

Sezione 2: Notifica e responsabilità dei fornitori

I fornitori devono notificare all’autorità nazionale la sospensione o la cessazione delle prove in condizioni reali.
I fornitori sono responsabili per i danni causati durante le prove in condizioni reali.

Sezione 3: Consenso informato per le prove in condizioni reali

Il consenso informato è richiesto prima della partecipazione alle prove in condizioni reali.
Le informazioni fornite devono essere chiare e pertinenti, inclusi i diritti del soggetto partecipante.
Deve essere fornita un’indicazione unica a livello dell’Unione per le prove in condizioni reali.

Sezione 4: Misure per PMI e start-up

Le PMI e le start-up devono avere accesso prioritario agli spazi di sperimentazione normativa per l’IA.
Attività di sensibilizzazione e formazione devono essere organizzate per le PMI e i deployer.
Devono essere utilizzati canali dedicati per comunicare con le PMI e le start-up.

Sezione 5: Deroghe per microimprese

Le microimprese possono conformarsi in modo semplificato a determinati elementi del sistema di gestione della qualità.
Questa semplificazione non esenta le microimprese dal rispetto di altri requisiti del regolamento.

Sezione 6: Governance a livello dell’Unione

Viene istituito un ufficio per l’IA per sviluppare le competenze dell’Unione nel settore dell’IA.
Un comitato europeo per l’intelligenza artificiale è creato con rappresentanti per ogni Stato membro.

Sezione 7: Struttura del comitato europeo per l’IA

Il comitato è composto da un rappresentante per Stato membro.
Il Garante europeo della protezione dei dati partecipa come osservatore.
Altri esperti possono essere invitati alle riunioni del comitato.

Sezione 8: Compiti del comitato

Il comitato fornisce consulenza alla Commissione e agli Stati membri sull’applicazione del regolamento.
Contribuisce al coordinamento tra le autorità nazionali competenti e raccoglie conoscenze tecniche e normative.
Formula raccomandazioni su questioni relative all’attuazione del regolamento.

UPDF AI:

Sezione 1: Consultazione e supporto per l’IA

Viene discusso l’eventuale bisogno di modificare l’allegato III in conformità all’articolo 7.
Si sottolinea la necessità di promuovere l’alfabetizzazione sull’IA e sensibilizzare il pubblico sui benefici e rischi.
Si mira a facilitare lo sviluppo di criteri comuni e una comprensione condivisa tra operatori del mercato e autorità competenti.
È prevista la cooperazione con altre istituzioni dell’Unione e gruppi di esperti in vari settori.

Sezione 2: Supporto all’ufficio per l’IA

L’obiettivo è assistere le autorità nazionali competenti nello sviluppo di spazi di sperimentazione normativa per l’IA.
Si prevede di contribuire alla creazione di documenti guida e fornire consulenza.
È previsto il supporto alla Commissione su questioni internazionali legate all’IA.
Sono inclusi pareri sulla segnalazione qualificata dei modelli di IA.

Sezione 3: Forum consultivo

Il forum consultivo fornisce consulenza e competenze tecniche al comitato e alla Commissione.
La composizione del forum è bilanciata tra portatori di interessi commerciali e non commerciali.
I membri sono nominati dalla Commissione e il mandato dura fino a quattro anni.
Sono presenti membri permanenti come l’Agenzia per i diritti fondamentali e altri organismi.

Sezione 4: Gruppo di esperti scientifici indipendenti

La Commissione istituisce un gruppo di esperti scientifici per supportare le attività di esecuzione del regolamento sull’IA.
Gli esperti devono possedere conoscenze scientifiche o tecniche nel settore dell’IA e essere indipendenti da fornitori di sistemi di IA.
Il gruppo fornisce consulenza sull’attuazione del regolamento e supporta le autorità di vigilanza del mercato.
Gli esperti devono agire con imparzialità e riservatezza.

Sezione 5: Accesso degli Stati membri al gruppo di esperti

Gli Stati membri possono richiedere il supporto degli esperti scientifici per le loro attività di esecuzione.
Possono essere applicate tariffe per la consulenza fornita dagli esperti.
La Commissione facilita l’accesso tempestivo agli esperti da parte degli Stati membri.

Sezione 6: Designazione delle autorità nazionali competenti

Ogni Stato membro designa almeno un’autorità di notifica e una di vigilanza del mercato per l’attuazione del regolamento sull’IA.
Le autorità devono agire in modo indipendente, imparziale e senza pregiudizi.
Gli Stati membri comunicano all’UE l’identità delle autorità e garantiscono risorse adeguate per svolgere i compiti.
Le autorità devono garantire un livello adeguato di cibersicurezza.

Sezione 7: Ruolo delle autorità nazionali competenti

Le autorità nazionali competenti forniscono orientamenti sull’attuazione del regolamento, specialmente alle PMI.
Devono agire in conformità con gli obblighi di riservatezza.
Il Garante europeo della protezione dei dati agisce come autorità competente per le istituzioni dell’UE.
Le autorità possono fornire consulenza anche in settori disciplinati da altre disposizioni dell’UE.

Sezione 8: Banca dati dell’UE per sistemi di IA ad alto rischio

La Commissione istituisce una banca dati contenente informazioni sui sistemi di IA ad alto rischio.
La banca dati include sia sistemi registrati conformemente all’articolo 6 che sistemi non considerati ad alto rischio.
Si consulta esperti per definire le specifiche funzionali della banca dati.
La Commissione collabora con gli Stati membri per mantenere aggiornata la banca dati.

UPDF AI:

Monitoraggio successivo all’immissione sul mercato per sistemi di IA ad alto rischio

I fornitori devono istituire un sistema di monitoraggio proporzionato alla natura delle tecnologie di IA e ai rischi del sistema.
Il monitoraggio raccoglie, documenta e analizza i dati sulle prestazioni dei sistemi di IA ad alto rischio per garantire la conformità ai requisiti stabiliti.
Il monitoraggio può includere un’analisi dell’interazione con altri sistemi di IA, escludendo i dati operativi sensibili dei deployer autorità di contrasto.

Piano di monitoraggio successivo all’immissione sul mercato

Il sistema di monitoraggio si basa su un piano incluso nella documentazione tecnica.
La Commissione stabilisce disposizioni dettagliate per il piano entro 18 mesi dall’entrata in vigore del regolamento.
Per sistemi già disciplinati da normative specifiche, i fornitori possono integrare elementi necessari utilizzando il modello previsto, garantendo un livello equivalente di protezione.

Comunicazione di incidenti gravi alle autorità di vigilanza

I fornitori devono segnalare immediatamente qualsiasi incidente grave alle autorità di vigilanza del mercato degli Stati membri.
La segnalazione deve avvenire entro 15 giorni dalla conoscenza dell’incidente, salvo eccezioni per infrazioni diffuse o decessi.
Dopo la notifica, il fornitore deve condurre indagini sull’incidente e sul sistema di IA coinvolto, cooperando con le autorità competenti.

Applicazione del regolamento e vigilanza del mercato

Il regolamento si applica ai sistemi di IA disciplinati dal presente documento.
Le autorità di vigilanza del mercato comunicano annualmente informazioni rilevanti alla Commissione e alle autorità nazionali garanti della concorrenza.
Gli Stati membri possono designare autorità di vigilanza alternative in determinate circostanze, garantendo il coordinamento con le autorità settoriali.

Autorità di vigilanza del mercato per sistemi di IA ad alto rischio

Gli Stati membri designano autorità di vigilanza per sistemi di IA utilizzati in attività specifiche come contrasto, gestione delle frontiere, giustizia e democrazia.
Il Garante europeo della protezione dei dati agisce come autorità di vigilanza del mercato per istituzioni dell’Unione.
Le autorità di vigilanza possono proporre attività congiunte per promuovere la conformità al regolamento.

UPDF AI:

Articolo 75 – Assistenza reciproca, vigilanza del mercato e controllo dei sistemi di IA per finalità generali

L’ufficio per l’IA ha il potere di monitorare e supervisionare la conformità dei sistemi di IA agli obblighi del regolamento.
Le autorità di vigilanza del mercato cooperano con l’ufficio per l’IA per valutare la conformità dei sistemi di IA per finalità generali.
Le autorità di vigilanza del mercato informano il comitato e altre autorità di vigilanza del mercato in caso di non conformità.

Articolo 76 – Controllo delle prove in condizioni reali da parte delle autorità di vigilanza del mercato

Le autorità di vigilanza del mercato garantiscono che le prove in condizioni reali siano conformi al regolamento.
Possono consentire che le prove siano effettuate dal fornitore in deroga alle condizioni previste.
Possono sospendere o modificare le prove in caso di non conformità.

Articolo 77 – Poteri delle autorità che tutelano i diritti fondamentali

Autorità pubbliche possono richiedere documentazione relativa ai sistemi di IA ad alto rischio per garantire il rispetto dei diritti fondamentali.
Le informazioni ottenute devono essere trattate con riservatezza in conformità all’articolo 78.
Le autorità devono garantire la protezione dei dati e cancellarli quando non più necessari.

Articolo 78 – Riservatezza

Le autorità devono garantire la riservatezza delle informazioni ottenute durante l’applicazione del regolamento.
Devono richiedere solo i dati necessari per valutare il rischio dei sistemi di IA.
Scambio di informazioni riservate tra autorità nazionali deve avvenire con cautela.

Articolo 79 – Procedura a livello nazionale per i sistemi di IA che presentano un rischio

Le autorità di vigilanza del mercato valutano i sistemi di IA che presentano rischi per la salute, sicurezza o diritti fondamentali.
Se un sistema non è conforme, chiedono all’operatore di adottare misure correttive entro un determinato periodo.
In caso di mancata conformità, possono vietare la messa a disposizione del sistema sul mercato.

UPDF AI:

Sezione 1: Procedure di conformità e comunicazione

Carenze nelle norme armonizzate o specifiche comuni possono portare a non conformità.
Le autorità di vigilanza devono comunicare misure adottate e informazioni sulla non conformità alle altre autorità.
In caso di mancata obiezione entro tre mesi, una misura provvisoria è considerata giustificata.

Sezione 2: Valutazione dei sistemi di IA classificati erroneamente

L’autorità di vigilanza valuta i sistemi di IA classificati erroneamente come non ad alto rischio.
Se il sistema è considerato ad alto rischio, vengono richieste misure correttive al fornitore.
Informazioni e misure richieste devono essere comunicate alla Commissione e agli altri Stati membri.

Sezione 3: Responsabilità del fornitore per la conformità del sistema di IA

Il fornitore deve garantire che il sistema di IA sia conforme ai requisiti del regolamento.
Misure correttive devono essere adottate per tutti i sistemi di IA messi sul mercato dell’Unione.
Sanzioni pecuniarie sono previste in caso di mancata conformità o adozione di misure correttive.

Sezione 4: Procedura di salvaguardia dell’Unione

La Commissione valuta le misure nazionali contestate entro sei mesi dalla notifica.
Gli Stati membri devono adottare misure restrittive se la Commissione ritiene che la misura nazionale sia giustificata.
La Commissione informa gli Stati membri delle sue decisioni in merito alle misure nazionali.

Sezione 5: Procedure in caso di sistemi di IA conformi ma a rischio

Se un sistema di IA conformità rappresenta comunque un rischio, vengono richieste misure correttive all’operatore.
Le autorità devono informare immediatamente la Commissione e gli altri Stati membri delle conclusioni e delle misure adottate.
La Commissione valuta le misure nazionali e propone azioni appropriate se necessario.

Sezione 6: Non conformità formale e relative azioni

L’autorità di vigilanza può richiedere al fornitore di porre fine alle non conformità entro un termine prescritto.
In caso di persistenza della non conformità, vengono adottate misure per limitare o proibire la messa a disposizione sul mercato del sistema di IA.
Diverse situazioni di non conformità formale sono elencate nell’articolo.

Sezione 7: Strutture di sostegno per la prova dell’IA

La Commissione designa strutture di sostegno per la prova dell’IA per svolgere compiti specifici.
Queste strutture forniscono pareri tecnici o scientifici indipendenti su richiesta.

Sezione 8: Mezzi di ricorso e reclami

Ogni persona fisica o giuridica può presentare reclami alle autorità di vigilanza del mercato in caso di violazione del regolamento.
È garantito il diritto alla spiegazione dei processi decisionali relativi ai sistemi di IA ad alto rischio.
Viene applicata una direttiva specifica per la segnalazione di violazioni e la protezione delle persone segnalanti.

Sezione 9: Esecuzione degli obblighi dei fornitori di modelli di IA

La Commissione ha competenze esclusive per la vigilanza e l’esecuzione del capo V del regolamento.
Le autorità di vigilanza possono chiedere assistenza alla Commissione per l’adempimento dei loro compiti.
L’ufficio per l’IA monitora l’attuazione del regolamento da parte dei fornitori di modelli di IA per finalità generali.

UPDF AI:

Sezione 1: Segnalazioni di rischi sistemici da parte del gruppo di esperti scientifici

Il gruppo di esperti scientifici può segnalare rischi relativi ai modelli di intelligenza artificiale (IA) per finalità generali.
La Commissione può esercitare competenze per valutare le segnalazioni qualificate fatte dal gruppo di esperti scientifici.
Le segnalazioni devono essere debitamente motivate e contenere informazioni specifiche come il punto di contatto del fornitore del modello di IA e una descrizione dei fatti.

Sezione 2: Potere di richiedere documentazione e informazioni

La Commissione può richiedere al fornitore del modello di IA la documentazione necessaria per valutare la conformità al regolamento.
Prima di inviare la richiesta, l’ufficio per l’IA può avviare un dialogo con il fornitore.
Su richiesta motivata del gruppo di esperti scientifici, la Commissione può richiedere informazioni per adempiere ai compiti del gruppo.

Sezione 3: Potere di effettuare valutazioni

L’ufficio per l’IA può effettuare valutazioni dei modelli di IA per verificare la conformità del fornitore o indagare sui rischi sistemici.
La Commissione può nominare esperti indipendenti per condurre valutazioni.
La Commissione può richiedere accesso al modello di IA per scopi di valutazione attraverso mezzi tecnici adeguati.

Sezione 4: Potere di richiedere misure

La Commissione può chiedere ai fornitori di adottare misure per adempiere agli obblighi del regolamento.
Prima di richiedere una misura, l’ufficio per l’IA può avviare un dialogo strutturato con il fornitore.
Se il fornitore si impegna a implementare misure durante il dialogo, la Commissione può rendere tali impegni vincolanti.

Sezione 5: Diritti procedurali degli operatori economici del modello di IA

Gli operatori economici del modello di IA hanno diritti procedurali specifici previsti dal regolamento.
Si applicano i diritti procedurali dell’articolo 18 del regolamento (UE) 2019/1020, con alcune specifiche del presente regolamento.

Sezione 6: Codici di condotta per l’applicazione volontaria di requisiti specifici

L’ufficio per l’IA e gli Stati membri incoraggiano l’elaborazione di codici di condotta per promuovere l’applicazione volontaria di requisiti specifici ai sistemi di IA.
I codici di condotta possono riguardare diversi aspetti come l’etica, l’impatto ambientale, l’alfabetizzazione in materia di IA e l’inclusività nella progettazione dei sistemi.

Sezione 7: Orientamenti della Commissione sull’attuazione del regolamento

La Commissione elabora orientamenti pratici sull’attuazione del regolamento, inclusi requisiti, pratiche vietate, trasparenza e definizioni.
Gli orientamenti tengono conto dello stato dell’arte in materia di IA e delle norme armonizzate dell’Unione.

Sezione 8: Esercizio della delega

La Commissione ha il potere di adottare atti delegati secondo le condizioni stabilite.
Il potere di adottare atti delegati è conferito per un periodo di cinque anni, prorogabile tacitamente.
Il Parlamento europeo o il Consiglio possono revocare la delega di potere in qualsiasi momento.

UPDF AI:

Sezione 1: Consultazione degli esperti designati dagli Stati membri

La Commissione consulta gli esperti designati da ciascuno Stato membro prima dell’adozione dell’atto delegato.
La consultazione avviene nel rispetto dei principi stabiliti nell’accordo interistituzionale “Legiferare meglio” del 13 aprile 2016.

Sezione 2: Notifica dell’atto delegato

La Commissione notifica contestualmente al Parlamento europeo e al Consiglio l’adozione di un atto delegato.

Sezione 3: Entrata in vigore degli atti delegati

Gli atti delegati adottati in determinati casi entrano in vigore solo se non vi sono obiezioni da parte del Parlamento europeo o del Consiglio entro tre mesi dalla notifica.
Il termine può essere prorogato di tre mesi su iniziativa del Parlamento europeo o del Consiglio.

Sezione 4: Procedura di comitato

La Commissione è assistita da un comitato ai sensi del regolamento (UE) n. 182/2011.
Si applica l’articolo 5 del regolamento (UE) n. 182/2011 nei casi specificati.

Sezione 5: Norme sulle sanzioni e misure di esecuzione

Gli Stati membri stabiliscono norme sulle sanzioni e altre misure di esecuzione in caso di violazione del regolamento.
Le sanzioni devono essere effettive, proporzionate e dissuasive, tenendo conto degli interessi delle PMI e della loro sostenibilità economica.

Sezione 6: Sanzioni per la non conformità a disposizioni specifiche

La non conformità a diverse disposizioni è soggetta a sanzioni amministrative pecuniarie fino a determinate cifre o percentuali del fatturato mondiale annuo.
Le sanzioni variano a seconda della violazione, come obblighi dei fornitori, rappresentanti autorizzati, importatori, distributori, deployer e organismi notificati.

Sezione 7: Fornitura di informazioni inesatte

La fornitura di informazioni inesatte agli organismi notificati o alle autorità competenti è soggetta a sanzioni amministrative pecuniarie.
Le sanzioni possono variare a seconda se l’autore del reato è un’impresa o una PMI, con limiti massimi definiti.

Sezione 8: Considerazioni per infliggere sanzioni

Nel decidere sulle sanzioni, si considerano la natura, gravità e durata della violazione, il grado di responsabilità dell’operatore, cooperazione con le autorità, tra altri fattori.
Sono previste norme per infliggere sanzioni anche ad autorità pubbliche e organismi pubblici.

Sezione 9: Applicazione delle sanzioni

Le norme sulle sanzioni possono essere applicate dalle autorità giudiziarie nazionali o altri organismi, con effetto equivalente.
L’esercizio dei poteri attribuiti è soggetto a garanzie procedurali adeguate.

Sezione 10: Reporting annuale

Gli Stati membri devono riferire annualmente alla Commissione sulle sanzioni inflitte e sui procedimenti correlati.
È importante garantire il funzionamento corretto del sistema di sanzioni.

Sezione 11: Sanzioni per istituzioni dell’Unione

Il Garante europeo della protezione dei dati può infliggere sanzioni amministrative pecuniarie alle istituzioni, organi e organismi dell’Unione.
Le sanzioni sono determinate considerando diversi fattori, come la gravità della violazione e le azioni intraprese per attenuarla.

UPDF AI:

Articolo 103 – Modifica del regolamento (UE) n. 167/2013

Aggiunta di un comma all’articolo 17, paragrafo 5 del regolamento (UE) n. 167/2013.
Si tiene conto dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.
Riferimento al capo III, sezione 2 del regolamento sull’intelligenza artificiale.

Articolo 104 – Modifica del regolamento (UE) n. 168/2013

Aggiunto un comma all’articolo 22, paragrafo 5 del regolamento (UE) n. 168/2013.
Considerazione dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 105 – Modifica della direttiva 2014/90/UE

Aggiunto il paragrafo 5 all’articolo 8 della direttiva 2014/90/UE.
La Commissione tiene conto dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 106 – Modifica della direttiva (UE) 2016/797

Aggiunto il paragrafo 12 all’articolo 5 della direttiva (UE) 2016/797.
Considerazione dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 107 – Modifica del regolamento (UE) 2018/858

Aggiunto il paragrafo 4 all’articolo 5 del regolamento (UE) 2018/858.
Si tiene conto dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 108 – Modifiche del regolamento (UE) 2018/1139

Aggiunti paragrafi al regolamento (UE) 2018/1139 agli articoli 17 e 19.
Considerazione dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 109 – Modifica del regolamento (UE) 2019/2144

Aggiunto il paragrafo 3 all’articolo 11 del regolamento (UE) 2019/2144.
Si tiene conto dei requisiti del regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 110 – Modifica della direttiva (UE) 2020/1828

Aggiunto un punto all’allegato I della direttiva (UE) 2020/1828.
Riferimento al regolamento sull’intelligenza artificiale (UE) 2024/.

Articolo 111 – Sistemi di IA già immessi sul mercato o messi in servizio

Specifica delle tempistiche per la conformità ai requisiti del presente regolamento.
Differenziazione tra sistemi di IA ad alto rischio e modelli di IA per finalità generali.

Valutazione dei sistemi IT su larga scala e operatori di sistemi di IA ad alto rischio

Indicazioni sulla valutazione dei sistemi IT su larga scala e degli operatori di sistemi di IA ad alto rischio.
Scadenze per la conformità ai requisiti del regolamento sull’intelligenza artificiale.

UPDF AI:

Valutazione e riesame periodico

La Commissione valuta la necessità di modificare gli elenchi stabiliti nell’allegato III e l’elenco di pratiche di IA vietate una volta all’anno dopo l’entrata in vigore del regolamento.
Valutazioni e riferimenti al Parlamento europeo e al Consiglio riguardano la necessità di modifiche settoriali, sistemi di IA che richiedono trasparenza e miglioramenti nel sistema di supervisione.

Relazioni periodiche di valutazione

La Commissione trasmette al Parlamento europeo e al Consiglio una relazione di valutazione e riesame del regolamento ogni quattro anni.
Le relazioni includono valutazioni sulle risorse necessarie alle autorità nazionali, sanzioni applicate dagli Stati membri, norme armonizzate adottate e il numero di imprese sul mercato.

Valutazione dell’ufficio per l’IA

La Commissione valuta il funzionamento dell’ufficio per l’IA entro quattro anni dall’entrata in vigore del regolamento.
Si valuta se l’ufficio ha poteri adeguati, se è necessario potenziarlo e se trasmette una relazione al Parlamento europeo e al Consiglio.

Esame dei progressi nella normazione di modelli di IA

La Commissione presenta una relazione sull’esame dei progressi riguardanti lo sviluppo di modelli di IA efficienti dal punto di vista energetico ogni quattro anni.
Si valuta la necessità di ulteriori misure o azioni vincolanti e la relazione è resa pubblica.

Valutazione dei codici di condotta volontari

La Commissione valuta l’impatto e l’efficacia dei codici di condotta volontari per i sistemi di IA diversi da quelli ad alto rischio ogni tre anni.
Si considera anche la sostenibilità ambientale in questa valutazione.

Coinvolgimento delle parti interessate

La Commissione tiene conto delle posizioni e conclusioni del comitato, del Parlamento europeo, del Consiglio e di altre fonti pertinenti nelle valutazioni e nei riesami.
Eventuali proposte di modifica del regolamento tengono conto degli sviluppi tecnologici e dell’impatto dei sistemi di IA sulla salute, sicurezza e diritti fondamentali.

UPDF AI:

Sezione 1: Regolamento (UE) 2018/1139

Norme comuni nel settore dell’aviazione civile
Istituzione dell’Agenzia dell’Unione europea per la sicurezza aerea
Modifiche ai regolamenti e direttive precedenti
Focus sulla progettazione, produzione e immissione sul mercato degli aeromobili senza equipaggio

Sezione 2: Elenco dei reati – Parte 1

Inclusione di reati come terrorismo, tratta di esseri umani, sfruttamento sessuale di minori, traffico illecito di stupefacenti, armi, omicidio volontario, traffico di organi, materie nucleari, sequestro, ecc.

Sezione 3: Elenco dei reati – Parte 2

Reati aggiuntivi come violenza sessuale, reato ambientale, rapina organizzata, sabotaggio, partecipazione a organizzazioni criminali

Sezione 4: Sistemi di IA ad alto rischio – Settori specifici

Biometria, infrastrutture critiche, istruzione e formazione professionale, occupazione, servizi pubblici essenziali, attività di contrasto, migrazione e asilo, amministrazione della giustizia

Sezione 5: Sistemi di IA ad alto rischio – Biometria

Utilizzo dei sistemi di identificazione biometrica remota, categorizzazione biometrica, riconoscimento delle emozioni

Sezione 6: Sistemi di IA ad alto rischio – Infrastrutture critiche

Ruolo dei sistemi di IA nelle infrastrutture digitali critiche, traffico stradale, fornitura di servizi essenziali come acqua, gas, riscaldamento ed elettricità

Sezione 7: Sistemi di IA ad alto rischio – Istruzione e formazione professionale

Utilizzo dei sistemi di IA nell’accesso, ammissione, valutazione e monitoraggio degli studenti in istituti di istruzione e formazione professionale

Sezione 8: Sistemi di IA ad alto rischio – Occupazione e gestione dei lavoratori

Applicazioni dei sistemi di IA nell’assunzione, selezione, valutazione e monitoraggio dei lavoratori

Sezione 9: Sistemi di IA ad alto rischio – Accesso a servizi e prestazioni essenziali

Utilizzo dei sistemi di IA per valutare l’ammissibilità alle prestazioni pubbliche, affidabilità creditizia, valutazione dei rischi e classificazione delle chiamate di emergenza

Sezione 10: Sistemi di IA ad alto rischio – Attività di contrasto

Ruolo dei sistemi di IA nelle attività di contrasto, valutazione del rischio, affidabilità degli elementi probatori, profilazione e migrazione, asilo e controllo delle frontiere

UPDF AI:

Sezione 1: Descrizione dell’interfaccia utente e istruzioni per l’uso

Descrizione di base dell’interfaccia utente fornita al deployer.
Istruzioni per l’uso destinate al deployer.
Descrizione di base dell’interfaccia utente fornita al deployer, se applicabile.

Sezione 2: Dettagli sugli elementi del sistema di IA e processo di sviluppo

Metodi e azioni per lo sviluppo del sistema di IA.
Specifiche di progettazione del sistema di IA e degli algoritmi.
Descrizione dell’architettura del sistema e risorse computazionali utilizzate.

Sezione 3: Requisiti in materia di dati e valutazione delle misure di sorveglianza umana

Requisiti in materia di dati e metodologie di addestramento.
Valutazione delle misure di sorveglianza umana necessarie.
Descrizione delle modifiche predeterminate del sistema di IA e delle sue prestazioni.

Sezione 4: Monitoraggio, funzionamento e controllo del sistema di IA

Capacità e limitazioni del sistema di IA.
Rischi per la salute, sicurezza e diritti fondamentali.
Specifiche relative ai dati di input.

Sezione 5: Adeguamento delle metriche di prestazione

Descrizione dell’adeguatezza delle metriche di prestazione per il sistema di IA specifico.

Sezione 6: Sistema di gestione dei rischi

Descrizione dettagliata del sistema di gestione dei rischi in conformità all’articolo 9.

Sezione 7: Norme armonizzate e dichiarazione di conformità UE

Elenco delle norme armonizzate applicate.
Copia della dichiarazione di conformità UE.

Sezione 8: Sistema di valutazione delle prestazioni post-immissione sul mercato

Descrizione dettagliata del sistema predisposto per valutare le prestazioni del sistema di IA nella fase successiva all’immissione sul mercato.

Sezione 9: Procedura di valutazione della conformità basata sul controllo interno

Verifica della conformità del sistema di gestione della qualità.
Esame della documentazione tecnica per valutare la conformità del sistema di IA.

Sezione 10: Conformità basata su valutazione del sistema di gestione della qualità e della documentazione tecnica

Revisione del sistema di gestione della qualità e della documentazione tecnica.
Controllo della documentazione tecnica e valutazione della conformità del sistema di IA.

UPDF AI:

Sezione 1: Requisiti per il sistema di IA non conforme

L’organismo notificato deve rifiutare il rilascio del certificato di valutazione della documentazione tecnica dell’Unione se il sistema di IA non è conforme ai requisiti.
È necessario addestrare nuovamente il sistema di IA se non soddisfa il requisito relativo ai dati utilizzati per l’addestramento.
Le modifiche che potrebbero influenzare la conformità o la finalità del sistema di IA devono essere valutate dall’organismo notificato.

Sezione 2: Vigilanza del sistema di gestione della qualità

Scopo della vigilanza è garantire la conformità del fornitore ai termini del sistema di gestione della qualità approvato.
Il fornitore deve consentire all’organismo notificato l’accesso ai locali dove avvengono progettazione, sviluppo e prove dei sistemi di IA.
Audit periodici devono essere condotti dall’organismo notificato per verificare il mantenimento e l’applicazione del sistema di gestione della qualità.

Sezione 3: Informazioni richieste per la registrazione di sistemi di IA ad alto rischio

Fornitori devono presentare informazioni come nome, indirizzo, contatti, scopo del sistema di IA, dati utilizzati, status del sistema, certificato rilasciato, istruzioni per l’uso, tra gli altri.
Alcune informazioni sono obbligatorie mentre altre sono facoltative.
Queste informazioni devono essere aggiornate in relazione ai sistemi di IA ad alto rischio da registrare.

Sezione 4: Ulteriori informazioni richieste per la registrazione di sistemi di IA ad alto rischio

Fornitori devono fornire informazioni come condizioni per non considerare il sistema ad alto rischio, motivi per cui non è considerato ad alto rischio, status del sistema, Stati membri in cui è stato immesso sul mercato, tra gli altri.
Queste informazioni devono essere aggiornate in relazione ai sistemi di IA da registrare.

Sezione 5: Informazioni richieste per i deployer di sistemi di IA ad alto rischio

Deployer devono fornire informazioni come nome, indirizzo, contatti, risultati delle valutazioni d’impatto sui diritti fondamentali e sulla protezione dei dati.
Devono anche fornire un indirizzo internet per l’inserimento del sistema di IA nella banca dati dell’UE.
Queste informazioni devono essere aggiornate in relazione ai sistemi di IA ad alto rischio da registrare.

Sezione 6: Prove in condizioni reali per sistemi di IA ad alto rischio

Informazioni richieste includono numero unico di identificazione della prova, dati del fornitore e deployer coinvolti, descrizione del sistema di IA, caratteristiche del piano di prova, sospensione o cessazione della prova.
Queste informazioni devono essere fornite e aggiornate in relazione alle prove in condizioni reali da registrare.

Sezione 7: Legislativi dell’Unione sui sistemi IT su larga scala nello spazio di libertà, sicurezza e giustizia – Sistema di informazione Schengen

Regolamenti relativi all’uso del sistema d’informazione Schengen per diverse finalità come il rimpatrio di cittadini di paesi terzi con soggiorno irregolare, verifiche di frontiera, cooperazione di polizia e giudiziaria.
Regolamenti specifici riguardanti l’istituzione, l’esercizio e l’uso del sistema d’informazione Schengen per varie aree di cooperazione.

Sezione 8: Legislativi dell’Unione sui sistemi IT su larga scala nello spazio di libertà, sicurezza e giustizia – Sistema di informazione visti

Regolamenti che modificano le condizioni di accesso agli altri sistemi di informazione dell’UE ai fini del sistema di informazione visti.
Modifiche ai regolamenti per la riforma del sistema di informazione visti, inclusi abrogazione di decisioni precedenti.

Sezione 9: Legislativi dell’Unione sui sistemi IT su larga scala nello spazio di libertà, sicurezza e giustizia – Eurodac

Regolamento che istituisce “Eurodac” per il confronto dei dati biometrici per vari scopi, inclusi l’identificazione dei cittadini di paesi terzi con soggiorno irregolare e richieste di confronto con i dati Eurodac.
Modifiche ai regolamenti esistenti e abrogazione di regolamenti precedenti.

Sezione 10: Legislativi dell’Unione sui sistemi IT su larga scala nello spazio di libertà, sicurezza e giustizia – Sistema di ingressi/uscite

Regolamento che istituisce un sistema di ingressi/uscite per la registrazione dei dati di ingresso e uscita e dei dati relativi al respingimento dei cittadini di paesi terzi.
Determina le condizioni di accesso al sistema di ingressi/uscite a fini di contrasto e modifica la Convenzione di applicazione dell’Accordo di Schengen e regolamenti correlati.

UPDF AI:

Sistema europeo di informazione e autorizzazione ai viaggi

Regolamento (UE) 2018/1240 del Parlamento europeo e del Consiglio istituisce il sistema ETIAS.
Regolamento (UE) 2018/1241 modifica il regolamento (UE) 2016/794 per l’istituzione di ETIAS.

Sistema europeo di informazione sui casellari giudiziari

Regolamento (UE) 2019/816 istituisce il sistema ECRIS-TCN per informazioni sulle condanne di cittadini di paesi terzi.
Modifica il regolamento (UE) 2018/1726.

Interoperabilità

Regolamento (UE) 2019/817 stabilisce un quadro per l’interoperabilità tra i sistemi dell’UE per frontiere e visti.
Regolamento (UE) 2019/818 riguarda l’interoperabilità nei settori della cooperazione di polizia, asilo e migrazione.

Documentazione tecnica per fornitori di modelli di IA

Descrizione generale del modello di IA per finalità generali.
Dettagli sugli elementi del modello e sul processo di sviluppo.

Informazioni aggiuntive per modelli di IA con rischio sistemico

Strategie di valutazione dettagliate e test contraddittorio.
Descrizione dell’architettura del sistema e integrazione dei componenti software.

Trasparenza dei modelli di IA per fornitori a valle

Descrizione generale del modello di IA per finalità generali.
Dettagli sugli elementi del modello e del processo di sviluppo.

Criteri per la designazione dei modelli di IA con rischio sistemico

Criteri considerati dalla Commissione per determinare l’equivalenza di impatto.
Parametri come numero di parametri del modello e qualità del set di dati.

Each section provides detailed information on different aspects of regulations and technical documentation related to AI models, travel authorization systems, interoperability, and transparency requirements.

Chiedi PDF (26 mag 2024, 10:14:39)

Mi piace:

Correlati

Sintesi (artificiale) di servizio

Chiedi PDF (26 mag 2024, 10:14:39)

Condividi:

Mi piace:

Correlati

Scopri di più da Concetti Contrastivi