Santoro sintetizza:

[i documenti] pubblicati dall’Organizzazione Mondiale della Sanità nel 2021 e nel 2024: sostengono concetti come la protezione dell’autonomia umana, la promozione del benessere e della sicurezza, la garanzia di trasparenza, l’equità, l’inclusività, l’intelligibilità, l’affidabilità, la valutazione delle tecnologie da parte di terzi davvero indipendenti dalle aziende che producono queste tecnologie (come per esempio l’accademia e gli enti di ricerca). (E. Santoro, “IA E MEDICINA: POTENZIALITÀ E RISCHI DI UNA RIVOLUZIONE“, Micromega 6/2024)

Sintesi da parte di UPDF

Etica e governance dell’intelligenza artificiale per la salute. Guida ai grandi modelli multi-modali

Rischi per i sistemi sanitari e la società e preoccupazioni etiche sull’uso

• L’adozione di modelli multi-modali (LMM) presenta sistemi di rischio che possono influire negativamente sui sistemi sanitari e sulla società.
• È fondamentale affrontare le questioni relative alla governance e alla responsabilità per mitigare tali rischi.

Progettazione e sviluppo di modelli di fondazione di uso generale

Rischi da affrontare durante lo sviluppo di modelli di fondazione di uso generale (LMMs)

• I rischi principali includono bias nei dati, privacy, e vulnerabilità nei sistemi informatici.
• Sviluppatori e aziende devono garantire pratiche di raccolta e utilizzo dei dati eticamente robuste.

Misure che gli sviluppatori possono adottare per affrontare i rischi associati ai modelli di fondazione di uso generale (LMMs)

• Implementare rigorosi processi di valutazione dell’impatto sulla protezione dei dati e garantire la trasparenza dei dati d’addestramento.
• Formare i programmatori riguardo alle norme etiche e di riservatezza.

Rischi da affrontare quando si fornisce un servizio o un’applicazione sanitaria con un modello di fondazione di uso generale (LMM)

• Garantire che i servizi sanitari alimentati da LMM non compromettano la qualità e la sicurezza delle cure.
• Monitorare l’uso di LMM per evitare la manipolazione delle informazioni e la diffusione di dati fuorvianti.

Responsabilità continua degli sviluppatori e dei fornitori durante il dispiegamento

• È essenziale che gli attori continuino a monitorare e valutare l’impatto dell’LMM anche dopo la sua implementazione.
• Richiedere audit indipendenti e valutazioni di impatto per garantire la responsabilità.

Riconoscimenti

Sviluppo della guida dell’OMS

• La guida è stata redatta da un team di esperti sotto la direzione di leader chiave dell’OMS.
• Riconoscimenti sono stati dati a coloro che hanno contribuito alla redazione e revisione del documento.

Abbreviazioni

• AI: intelligenza artificiale
• LMM: grande modello multi-modale
• USA: Stati Uniti d’America

Sintesi esecutiva

• L’intelligenza artificiale (AI) consente ai sistemi di apprendere dai dati per eseguire compiti automatizzati. I modelli multi-modali (LMM) possono generare diversi output e hanno un potenziale enorme in salute pubblica e ricerca scientifica.
• WHO ha già definito principi per l’uso etico dell’AI nella salute, sottolineando l’importanza della trasparenza, responsabilità e inclusione.
• Questo documento mira ad aiutare gli Stati membri a bilanciare i benefici e le sfide dell’utilizzo di LMM nei servizi sanitari.

Applicazioni, sfide e rischi dei modelli multi-modali

Applicazioni potenziali e rischi associati

• Le applicazioni di LMM possono migliorare la diagnosi e la cura clinica, ma ci sono rischi significativi che necessitano di attenzione come l’accuratezza delle informazioni e il bias nei dati.
• L’OMS ha evidenziato l’importanza di una governance robusta per affrontare i rischi sistematici e di proteggere i diritti umani e la privacy.

Etica e governance degli LMM nella salute

• LMM richiedono un quadro di governance per garantire che vengano rispettati i principi etici e di diritti umani durante tutta la loro vita.
• Le responsabilità devono essere chiaramente delineate tra sviluppatori, fornitori e enti governativi per garantire l’uso etico e benefico degli LMM.

Fasi di governance degli LMM

• Sviluppo: responsabilità principale degli sviluppatori per la progettazione etica.
• Fornitura: difinizione da parte dei governi dei requisiti di responsabilità per i fornitori.
• Implementazione: necessità di controlli e audit indipendenti per monitorare l’uso degli LMM.

Conclusioni e raccomandazioni

• È essenziale che i governi collaborino a livello internazionale per garantire che la governance degli LMM risponda a standard etici e di sicurezza globali.
• Un approccio collaborativo e inclusivo è necessario per rispondere alle sfide e opportunità presentate dagli LMM nella salute.## 2 Applicazioni e sfide dell’uso dei LMM in salute
  L’uso dell’IA nella salute include diagnosi, assistenza clinica, ricerca, sviluppo di farmaci, amministrazione sanitaria, salute pubblica e sorveglianza. Molte applicazioni di LMM non sono usi nuovi dell’IA; tuttavia, diverse categorie di utenti interagiscono con i LMM in modi diversi. Questa sezione affronta le potenziali applicazioni dei LMM nella sanità e le sfide e i rischi associati al loro uso. Molti usi sono ancora poco documentati e potrebbero non fornire i vantaggi pubblicizzati.

2.1 Diagnosi e assistenza clinica

L’IA è già utilizzata per diagnosticare e assistere in ambiti come radiologia e oncologia. Si sperava che i professionisti della salute potessero integrare i record durante le consultazioni per identificare i pazienti a rischio. Gli LMM hanno il potenziale di estendere l’uso dell’IA in tutte le fasi della diagnosi, consentendo consultazioni sia virtuali che dal vivo. Alcuni LMM hanno superato l’esame di licenza medica degli Stati Uniti, ma ciò non implica la capacità di fornire servizi clinici sicuri ed efficaci. Un’area promettente è la diagnosi di casi rari o complessi, dove gli LMM possono fornire ulteriore supporto. Alcuni LMM vengono testati tramite programmi pilota negli USA per analizzare le comunicazioni con i pazienti e redigere risposte che alleviano il carico di lavoro degli operatori sanitari. Tuttavia, i rischi associati all’utilizzo degli LMM includono risposte inaccurate e un potenziale bias nei dati utilizzati.

2.2 Applicazioni centrate sul paziente

L’IA sta cambiando il modo in cui i pazienti gestiscono le proprie condizioni mediche, con strumenti per monitoraggio e rischio predittivo. I chatbot basati su LMM possono assistere i pazienti con informazioni personalizzate, rispondendo a domande su diagnosi e trattamento. Un’altra applicazione consiste nell’identificare opportunità di partecipazione a trial clinici. Tuttavia, i rischi includono la possibilità di affermazioni inaccurate e manipolazione attraverso interazioni di chatbot che potrebbero portare a decisioni contro il benessere dell’utente. Inoltre, la violazione della privacy è un rischio significativo, poiché i dati personali possono non essere adeguatamente protetti.

2.3 Funzioni clericali e compiti amministrativi

Gli LMM stanno iniziando ad assistere i professionisti sanitari nelle funzioni burocratiche per ridurre il burnout. La loro applicazione potrebbe includere la semplificazione della comunicazione medico-paziente, l’inserimento di dati nei record elettronici e l’emissione automatica di prescrizioni e referti clinici. Tuttavia, l’uso degli LMM comporta il rischio di errori di trascrizione e inconsistenza nelle informazioni generate, rendendo la supervisione essenziale.

2.4 Educazione medica e infermieristica

Gli LMM potrebbero migliorare l’educazione medica rendendo i materiali didattici più interattivi e fornendo simulazioni per praticare l’interazione medico-paziente. I chatbot possono anche offrire risposte in tempo reale a domande poste dagli studenti, potenzialmente migliorando l’apprendimento. Tuttavia, esiste il rischio che i professionisti vedano l’emanazione di informazioni errate come valide, specialmente se non sono abituati all’uso di tecnologie digitali.

2.5 Ricerca scientifica e sviluppo di farmaci

L’IA è già ampiamente utilizzata nella ricerca scientifica e nello sviluppo di farmaci, e gli LMM possono aiutare a generare e riassumere dati nelle ricerche. L’utilizzo degli LMM in questo contesto solleva preoccupazioni quali la mancanza di responsabilità nella paternità dei documenti scientifici e il rischio di diffusione di informazioni errate a causa dell’hallucination. Inoltre, la dipendenza eccessiva dalle aziende nella conduzione della ricerca scientifica può minare l’equità nel campo della medicina.

3 Rischi per i sistemi sanitari e la società e preoccupazioni etiche sull’uso dei LMM

I rischi e le preoccupazioni associate all’uso dei LMM non colpiscono solo gli utenti individuali, ma possono avere anche un impatto sistemico. Le problematiche emergenti includono rischi per i sistemi sanitari, per la regolamentazione e la governance, e preoccupazioni sociali internazionali.

3.1 Sistemi sanitari

I sistemi sanitari sono basati su sei blocchi fondamentali: erogazione di servizi, forza lavoro sanitaria, sistemi informativi sanitari, accesso a medicinali essenziali, finanziamento e governance. L’uso degli LMM può impattare direttamente o indirettamente questi elementi. Esiste una tendenza a sovrastimare i benefici degli LMM e a sottovalutare i rischi, portando all’adozione di prodotti non testati. L’accessibilità e la sostenibilità rappresentano ulteriori problematiche, poiché molte soluzioni LMM sono costose e potrebbero esacerbare le disuguaglianze nell’accesso ai servizi sanitari.

3.2 Conformità ai requisiti normativi e legali

Nonostante l’introduzione di nuove leggi sulla regolamentazione dell’IA, esistono normative esistenti, come il GDPR, che gli LMM devono rispettare. Diverse violazioni di queste leggi sono già state segnalate, in particolare in relazione alla raccolta non consensuale dei dati personali. È essenziale che lo sviluppo e la gestione degli LMM siano guidati da principi chiave di protezione della privacy e dei diritti umani.

3.3 Preoccupazioni e rischi sociali

Gli LMM potrebbero rinforzare il potere di un gruppo ristretto di aziende tecnologiche e portare a impatti negativi sull’ambiente. Inoltre, l’uso improprio degli LMM può facilitare atti di violenza di genere online e diffondere disinformazione. L’emergenza degli LMM ha anche messo in evidenza il divario di potere tra le aziende tecnologiche e gli enti pubblici, creando preoccupazioni sulle decisioni etiche relative all’uso della tecnologia nel settore della salute.## 4 Progettazione e sviluppo di modelli fondamentali di uso generale (LMM)
I modelli fondamentali di uso generale sono addestrati su una grande quantità di dati e richiedono una notevole potenza di calcolo. È necessario investire in risorse umane specializzate e attenersi alle linee guida etiche per l’AI for health della WHO, che raccomandano miglioramenti nella progettazione e autoregolamentazione dei prodotti.

4.1 Rischi da affrontare durante lo sviluppo di modelli fondamentali di uso generale (LMM)

• La progettazione e lo sviluppo di LMM possono introdurre gravi rischi con impatti sociali ampi o conseguenze negative specifiche per gli utenti; la responsabilità di mitigare tali rischi ricade sullo sviluppatore, non sul fornitore.
• Almeno otto rischi principali devono essere affrontati, tra cui:
• Pregiudizio associato ai dati di progettazione e addestramento.
• Privacy dei dati di addestramento e di input.
• Preoccupazioni relative al lavoro, in particolare sul filtro dei dati.
• Impatto ambientale delle impronte di carbonio e acqua.
• Disinformazione e contenuti tossici generati.
• Sicurezza cibernetica e preservazione dell’autorità epistematica umana.

4.2 Misure che gli sviluppatori possono adottare per affrontare i rischi con i modelli fondamentali di uso generale (LMM)

• È cruciale un’adeguata expertise AI durante lo sviluppo, con particolare attenzione alla formazione del personale scientifico.
• La qualità e il tipo di dati utilizzati sono essenziali, e i principi etici impongono di garantire inclusività ed equità.
• La progettazione deve includere la trasparenza riguardo ai dati usati e le valutazioni di impatto sulla protezione dei dati devono essere effettuate prima dell’utilizzo.

4.3 Leggi, politiche e investimenti del settore pubblico

• Le leggi esistenti sulla protezione dei dati devono essere applicate rigorosamente, specialmente per i dati sulla salute.
• Le politiche governative possono stabilire profili di prodotto target e requisiti di progettazione che garantiscano risultati specifici.
• I governi dovrebbero investire in infrastrutture pubbliche che promuovano lo sviluppo etico dei LMM.

4.4 LMM open-source

• I modelli open-source possono aumentare la trasparenza e offrire opportunità per la comunità di rivedere e adattare il codice.
• Tuttavia, la sostenibilità di tali modelli dipende da come grandi aziende tecniche continuano a rilasciarli, e vi sono preoccupazioni riguardo alla loro vulnerabilità a malfunzionamenti.

5 Fornitura di modelli fondamentali di uso generale (LMM)

L’uso di LMM nell’healthcare presenta rischi sia per gli sviluppatori che per i fornitori.

5.1 Rischi da affrontare quando si fornisce un servizio sanitario con un LMM

• Ci sono divergenze significative riguardo alla responsabilità degli sviluppatori rispetto a quella dei fornitori.
• I principali rischi da gestire includono:
• Bias sistemico e disinformazione negli output del modello.
• Privacy delle informazioni immesse.
• Manipolazione dei dati e bias dell’automazione.

5.2 Misure che i governi possono introdurre

• I governi devono stabilire agenzie per valutare l’efficacia e la sicurezza degli LMM e delle applicazioni in ambito sanitario.
• Regole di divulgazione e requisiti di trasparenza dovrebbero essere implementati per migliorare la sicurezza dell’AI.

6 Implementazione di modelli fondamentali di uso generale (LMM)

Anche con una progettazione etica, gli LMM portano rischi quando sono commercializzati.

6.1 Rischi da affrontare nell’implementazione di un LMM

• È importante monitorare rischi quali:
• Risposte inaccurate o false generate.
• Accessibilità e costi associati.
• Qualità delle interazioni tra fornitori sanitari e pazienti.

6.2 Responsabilità continuativa degli sviluppatori e dei fornitori

• I post-release audits e le valutazioni d’impatto devono essere obbligatori, e potrebbero rendere responsabili le entità per contenuti tossici o inaccurati emessi dagli LMM.

6.3 Responsabilità dei fornitori

• I fornitori devono evitare rischi legati all’uso di LMM in contesti inappropriati e comunicare chiaramente i rischi noti.

7 Responsabilità per gli LMM

Con l’aumento dell’uso degli LMM, sarà inevitabile affrontare il problema della responsabilità legale in caso di danni.

Raccomandazione

• È fondamentale stabilire regole chiare di responsabilità lungo la catena di valore della progettazione e dell’implementazione degli LMM.

8 Governance internazionale degli LMM

È essenziale che i governi sostengano lo sviluppo collettivo di regole internazionali per la governance degli LMM.

Raccomandazione

• Le governance internazionali non dovrebbero essere plasmate solo da Paesi ad alto reddito, per garantire che tutte le voci siano rappresentate, specialmente quelle delle nazioni a basso e medio reddito.## Riferimenti

Fonti ufficiali

• L’etica e la governance dell’intelligenza artificiale per la salute sono state analizzate in un documento pubblicato dall’Organizzazione Mondiale della Sanità nel 2021, evidenziando la necessità di guidare l’uso dell’IA in settore sanitario.
• L’importanza di modelli di intelligenza artificiale multimodali per migliorare l’assistenza sanitaria è stata discussa in articoli recenti di riviste come Nature.

Sviluppi recenti

• L’uso dell’IA per il trattamento dei disturbi mentali è stato esplorato, con articoli che valutano le implicazioni etiche e pratiche dell’IA in ambito clinico.
• Haiku sulle nuove tecnologie IA, come ChatGPT, hanno evidenziato sia opportunità che sfide nel settore educativo e della salute.

Regolamentazione e criticità

• Diverse analisi critiche hanno messo in luce come le normative possano influenzare l’uso dell’IA, specialmente in relazione alla privacy e alla protezione dei dati.
• Ultimi rapporti hanno discusso le responsabilità etiche nell’uso delle piattaforme di IA generativa, comprese le preoccupazioni riguardanti i bias e l’influenza dell’industria sulla ricerca.

Implicazioni nel settore sanitario

• Sono stati discussi i rischi associati all’utilizzo dell’IA nella medicina, come anche i benefici potenziali che possono derivare dall’integrazione dell’IA in diagnosi e trattamenti clinici.
• Ricerche recenti hanno evidenziato che modelli di linguaggio di grandi dimensioni possono supportare i professionisti della salute, sebbene comportino anche dei rischi.

Prospettive future

• La crescita di modelli di IA e il loro impatto sull’economia e sul mercato del lavoro sono stati esaminati, con previsioni su come l’IA potrebbe cambiare il panorama occupazionale nei prossimi anni.
• Iniziative volte a integrare responsabili misure di AI nelle istituzioni pubbliche sono in corso, mentre esperti avvertono che è necessaria una vigilanza continua nel settore.

Conclusione

• Il continuo sviluppo dell’IA necessiterà di approcci equilibrati che considerano i benefici e i rischi associati, enfatizzando la necessità di politiche efficaci e trasparenti per garantire un progresso responsabile.## Allegato. Metodi

Sviluppo delle Linee Guida

Gruppo Esperto sull’Etica e Governance dell’IA per la Salute

• Il gruppo è composto da 20 esperti provenienti da tutte le regioni dell’OMS, che si sono riuniti ogni due settimane per quattro mesi.
• Hanno applicato le Principi di Consenso e Raccomandazioni da linee guida precedenti per gestire l’uso emergente di modelli multimodali nelle cure sanitarie.

Mappatura dei Potenziali Usi e Benefici

• Sono stati identificati i potenziali usi e i benefici dei modelli multimodali, così come i rischi per l’utente finale.
• Sono state considerate le sfide che i sistemi sanitari e le società potrebbero affrontare con l’uso di tali sistemi di intelligenza artificiale.

Ricerca Bibliografica e Analisi

Esplorazioni delle Applicazioni degli LMM

• È stata condotta una ricerca esaustiva sulla letteratura esistente riguardante: (a) usi attuali e proposti degli LMM nella sanità, (b) usi previsti, e (c) critiche e analisi pubblicate.
• La ricerca ha coperto gli anni di evoluzione progressiva e uso degli LMM.

Sviluppo di un Quadro Etico

Identificazione di Sfide e Opportunità

• Il gruppo esperto ha elaborato un quadro appropriato per affrontare le sfide etiche e le opportunità associate all’uso degli LMM.
• È stato adottato un approccio “a catena del valore” per organizzare la governance e identificare i responsabili delle misure.

Raccomandazioni e Applicazioni

Applicabilità delle Raccomandazioni

• Le raccomandazioni sono state formulate per essere applicabili in diversi paesi e sistemi legali, considerando le normative vigenti.
• Il gruppo ha discusso le raccomandazioni da applicare a aziende, acquirenti e utenti finali, in particolare ai fornitori di assistenza sanitaria e ai pazienti.

Aggiornamenti Futuri

Necessità di Revisione delle Linee Guida

• L’OMS riconosce che le linee guida potrebbero necessitare di revisione per garantire che i risultati e le raccomandazioni del gruppo esperto rimangano pertinenti e utili.