Marco Guastavigna

AI nella scrittura?

s41077-025-00350-6Download

La tesi centrale e i concetti a supporto discussi nel documento “s41077-025-00350-6.pdf” di Cheng et al. (2025) possono essere riassunti come segue:

Tesi Principale: Il documento sostiene che è possibile utilizzare gli strumenti di intelligenza artificiale generativa basati su Large Language Models (LLM) come ChatGPT in modo etico per supportare il processo di scrittura accademica. Questa integrazione è vista come una parte legittima e naturale dell’evoluzione della comunità di ricerca globale nel campo della simulazione sanitaria, a condizione che vengano rispettate determinate salvaguardie etiche. L’obiettivo degli autori è fornire una guida chiara agli studiosi della simulazione sanitaria su come utilizzare eticamente l’IA generativa nella produzione di letteratura accademica.

Concetti e Dettagli a Supporto:

  1. Introduzione dell’IA Generativa nel Settore Accademico:
    • Gli strumenti di IA generativa, in particolare il lancio di ChatGPT nel 2022, sono stati ampiamente adottati, rendendoli più accessibili agli studiosi.
    • Gli LLM sono modelli che generano risposte coerenti basate su relazioni statistiche nei loro set di dati di addestramento, derivati da contenuti generati dall’uomo.
    • Questi strumenti, a differenza di tecnologie precedenti, possono produrre contenuti scritti originali, ponendo nuove sfide all’integrità accademica tradizionale.
  2. Posizione delle Riviste e degli Editori Accademici sull’Uso dell’IA:
    • Riviste e editori hanno un interesse nel garantire l’integrità della ricerca e pubblicano politiche sull’etica nella pubblicazione accademica.
    • Organizzazioni come il Committee on Publication Ethics (COPE), l’International Committee of Medical Journal Editors (ICMJE), i JAMA Network Journals e la World Association of Medical Editors (WAME) hanno emesso linee guida specifiche sull’uso dell’IA generativa.
    • Principi chiave delineati da tali enti:
      • Trasparenza: È una pietra angolare dell’integrità accademica. Richiede la divulgazione dell’uso degli strumenti di IA generativa, preferibilmente nella sezione dei metodi del manoscritto, descrivendo come sono stati utilizzati e come è stato gestito il loro output.
      • Non-Autorialità dell’IA: Gli strumenti di IA generativa non soddisfano gli standard di autorialità (contributo e responsabilità) e non dovrebbero essere accreditati come autori. Non possono essere ritenuti responsabili dell’accuratezza del contenuto o approvare un manoscritto.
      • Primato del Contributo Umano: Gli strumenti di IA dovrebbero supportare e migliorare il processo di scrittura, ma non devono sostituire i contributi intellettuali e creativi del team di ricerca.
  3. Problemi nell’Uso dell’IA nella Scrittura Accademica (Sfide e Rischi):
    • Plagio: Gli strumenti di IA possono generare contenuti che assomigliano strettamente (o esattamente) a fonti originali, sollevando preoccupazioni per plagio e violazione del copyright, specialmente se non rilevati da autori senza competenza nel contenuto specifico.
    • “Allucinazioni” dell’IA: L’IA può produrre contenuti convincenti ma completamente fabbricati, senza senso o fattualmente inaccurati. Non è progettata per valutare l’accuratezza e può generare contenuti errati o basati su fonti false.
    • Riferimenti Inaccurati o Fabbricati: Gli LLM sono notoriamente inefficaci nel citare la letteratura medica. Studi hanno mostrato un’alta percentuale di DOI errati o fabbricati e di articoli completamente inventati nei riferimenti generati. Solo una piccola percentuale dei riferimenti generati da ChatGPT è risultata completamente autentica e accurata.
    • Amplificazione del Bias: L’IA tende a riprodurre o amplificare i bias inerenti ai dati di origine, potenzialmente diffondendo disinformazione o minacciando l’integrità del ricercatore.
    • Responsabilità Umana: I ricercatori mantengono la piena responsabilità per l’originalità, l’accuratezza e la pertinenza del contenuto del manoscritto e per la corretta referenziazione. Si sconsiglia l’uso esclusivo dell’IA per scrivere contenuti da utilizzare parola per parola o per generare riferimenti senza verifica umana.
  4. Uso Etico dell’IA nella Scrittura (Quadro Proposto dagli Autori):
    • Gli autori hanno sviluppato le loro raccomandazioni basandosi sulle risposte di ChatGPT e sulla ricerca esistente.
    • Due Domande Guida:
      1. “Cosa sono esattamente gli LLM come ChatGPT addestrati a fare?” Generano testo sintatticamente appropriato basato su associazioni statistiche, non su un significato esplicito o una verifica dei fatti. Gli usi etici sfruttano i loro punti di forza nella struttura e nella sintassi, evitando le debolezze attraverso la supervisione umana.
      2. “L’uso specifico di ChatGPT avrà un effetto deleterio sul pensiero critico umano e sullo sviluppo accademico?” Un’eccessiva dipendenza dall’IA per l’ideazione, la generazione di contenuto primario o l’interpretazione dei dati potrebbe ostacolare lo sviluppo intellettuale.
    • Livelli Etici di Utilizzo (come nella Fig. 2 del documento):
      • Più Eticamente Accettabili: Ristrutturazione di testi o idee preesistenti (grammatica, ortografia, leggibilità, traduzione). Gli autori devono sempre verificare che il testo modifichi la loro voce e il loro pensiero critico.
      • Eticamente Contingenti: Generazione di schemi, riassunto di contenuti, miglioramento della chiarezza del testo abbozzato o brainstorming di idee. Questi usi comportano la generazione di nuovo testo e aumentano il potenziale di bias, allucinazioni o plagio se usati in modo acritico. Richiedono che gli autori garantiscano che il prodotto finale rifletta le loro idee e che il contenuto generato dall’IA non alteri il significato chiave. Le idee generate tramite brainstorming devono essere attribuite e modificate per accuratezza.
      • Eticamente Sospetti/Sconsigliati: Stesura di testo de novo senza fornire contenuto originale, sviluppo di nuovi concetti, interpretazione di dati, revisione della letteratura (senza conferma) e verifica della conformità etica o del plagio. Questi compiti rischiano errori fattuali, privano gli autori di un impegno profondo con il materiale e sono inaffidabili (specialmente per i riferimenti).
  5. Lista di Controllo per gli Autori sull’Uso Etico dell’IA (Quattro Principi Chiave):
    • Basandosi sui criteri di Mann et al. (revisione e garanzia umana, contributo umano sostanziale, riconoscimento e trasparenza).
    • Gli autori dovrebbero chiedersi:
      1. Ho usato l’IA generativa in modo da garantire che le idee, le intuizioni, le interpretazioni e le analisi critiche primarie siano le mie?.
      2. Ho usato l’IA generativa in modo da garantire che gli esseri umani mantengano la competenza nelle competenze fondamentali di ricerca e scrittura?.
      3. Ho ricontrollato per assicurarmi che tutti i contenuti (e i riferimenti) nel mio manoscritto siano accurati, affidabili e privi di bias?.
      4. Ho divulgato esattamente come gli strumenti di IA generativa sono stati utilizzati nella scrittura del manoscritto e quali parti del manoscritto hanno coinvolto l’uso dell’IA?.
    • Se la risposta a una qualsiasi di queste domande è “no”, gli autori sono incoraggiati a riflettere e riconsiderare i passaggi per affrontare il problema etico. Anche se l’uso dell’IA è etico, è comunque necessaria una divulgazione chiara e trasparente.
  6. Direzioni Future:
    • I concetti discussi si applicano principalmente a ChatGPT e strumenti LLM simili, ma le raccomandazioni potrebbero evolvere con la tecnologia.
    • Strumenti di IA specifici per l’ambiente accademico (es. Scopus AI) potrebbero mitigare problemi di bias e allucinazioni grazie a fonti dati più affidabili, e la loro etica merita ulteriori ricerche.
    • La cautela sulla diminuzione delle capacità umane è cruciale, poiché l’esternalizzazione di compiti intellettuali all’IA potrebbe comportare la perdita di competenze essenziali per i ricercatori.