Home Cittadino Intelligenza artificiale: l’inchiesta che svela i rischi di un uso distorto nella ricerca scientifica

Cittadino Educazione Sanitaria NT News

Intelligenza artificiale: l’inchiesta che svela i rischi di un uso distorto nella ricerca scientifica

Redazione Nurse Times16 Settembre 20263 min di lettura

Intelligenza artificiale vs medici in carne e ossa: chi risponde meglio alle domande dei pazienti?

Un’inchiesta di Milena Gabanelli e Andrea Priante per la rubrica Dataroom, sul Corriere della Sera, accende i riflettori sull’uso distorto dell’intelligenza artificiale nella ricerca scientifica. I due giornalisti parlano di studi ritirati, citazioni inesistenti, immagini manipolate e persino trial clinici artificiali. Tutte testimonianza di come possa essere complicato distinguere un dato autentico da uno costruito.

Se da un lato l’intelligenza artificiale offre strumenti straordinari alla medicina (dalla diagnostica per immagini alla ricerca di nuovi farmaci), dall’altro può trasformarsi in un fattore di rischio quando è utilizzata per produrre o alterare le prove sulle quali si fonda la conoscenza scientifica.

L’inchiesta di Gabanelli e Priante mette in fila alcuni dei casi più eclatanti, ponendo una domanda destinata a diventare centrale: cosa accade quando un sistema capace di generare testi, immagini e dati estremamente plausibili è utilizzato non per aiutare il ricercatore, ma per costruire una ricerca apparentemente credibile?

Il fenomeno ha già lasciato tracce nelle pubblicazioni scientifiche. Dal 2023, secondo i dati di Retraction Watch richiamati nell’inchiesta, sono stati ritirati oltre 350 articoli per presunto uso improprio dell’intelligenza artificiale (manipolazione di testi, immagini o dati).

Nel 2024, per esempio, Radiology Case Reports ha ritirato uno studio dopo che nel testo era rimasta una frase tipica della risposta di un modello linguistico, rivelando l’impiego dell’intelligenza artificiale nella fase di scrittura. Nello stesso anno Surfaces and Interfaces ha ritirato un lavoro sulle batterie al litio che conteneva evidenti tracce di una risposta generata da un chatbot.

E il problema non riguarda soltanto i testi. Nell’aprile 2026 il New England Journal of Medicine ha ritirato un’immagine relativa agli effetti dell’inalazione del fumo di un incendio, dopo che gli autori hanno ammesso di averla modificata con l’intelligenza artificiale. Una ricerca pubblicata su Radiology, poi, ha sperimentato la generazione tramite ChatGPT di false radiografie raffiguranti fratture ossee, successivamente mescolate con immagini autentiche.

Sottoposte alla valutazione di 17 radiologi, le immagini artificiali sono state individuate come false soltanto nel 41% dei casi. Il dato mette in evidenza come l’intelligenza artificiale generativa non si limiti alla produzione di testi plausibili, ma possa contribuire alla creazione di materiale che presenta l’apparenza della prova scientifica.

A complicare ulteriormente il quadro c’è la capacità dei modelli generativi di produrre riferimenti bibliografici inesistenti. Secondo i dati riportati nell’inchiesta del Corriere, in ambito biomedico la quota delle citazioni suggerite dall’intelligenza artificiale risultate inesistenti può arrivare fino al 69%. Il rischio è che un riferimento scientifico inesistente non rimanega confinato all’articolo che lo contiene, ma propaghi informazioni prive di fondamento nelle successive valutazioni scientifiche e, in ultima analisi, nelle decisioni cliniche.

Uno degli esperimenti più significativi arriva dall’Italia. Giuseppe Giannaccare, professore dell’Università di Cagliari e primario di Oculistica, insiema ad Andrea Taloni, ricercatore dell’Università di Ferrara, ha verificato fino a che punto un sistema di intelligenza artificiale possa essere utilizzato per “fabbricare” i dati di un trial clinico.

I ricercatori hanno preso in considerazione due farmaci equivalenti impiegati nel trattamento della maculopatia e hanno chiesto a ChatGPT di produrre un insieme di dati relativo a cento pazienti, costruito in modo da dimostrare la superiorità di uno dei due trattamenti.

Il primo database presentava anomalie riconoscibili, come incongruenze tra nomi e sesso dei pazienti, errori nelle età o visite collocate in giorni insoliti. Il sistema è stato quindi informato degli errori e invitato a correggerli. Ed è proprio il risultato successivo a rappresentare il passaggio più rilevante dell’esperimento: una volta eliminati gli elementi sospetti, il nuovo database sarebbe riuscito a superare le verifiche, rendendo estremamente difficile individuare la falsificazione, senza controllare direttamente l’esistenza e la storia dei singoli pazienti.

Il lavoro, pubblicato su JAMA Ophthalmology, dimostra una caratteristica particolarmente pericolosa dei sistemi generativi: non soltanto possono creare dati falsi, ma possono essere istruiti a correggere gli elementi che consentirebbero a un revisore di riconoscere la falsificazione.

Il fenomeno si inserisce inoltre in un sistema accademico nel quale il numero e il prestigio delle pubblicazioni incidono sulle carriere, sull’accesso ai finanziamenti e sulla reputazione di università e centri di ricerca. È la logica conosciuta come publish or perish (“pubblicare o perire).

L’intelligenza artificiale può rendere molto più veloce la produzione scientifica. Secondo i dati citati nell’inchiesta, infatti, il 30% dei ricercatori utilizza ChatGPT per la scrittura degli articoli e il 15% per le richieste di finanziamento. L’utilizzo di questi strumenti non implica necessariamente una condotta scorretta, soprattutto quando sono impiegati come supporto alla traduzione, alla raccolta o all’elaborazione delle informazioni.

Il problema insorge quando l’intelligenza artificiale è invece utilizzata per creare ciò che dovrebbe invece essere osservato e documentato: pazienti, risultati, immagini, riferimenti bibliografici o interi database sperimentali. A quel punto la questione riguarda anche l’adeguatezza dei sistemi di controllo della ricerca scientifica.

Redazione Nurse Times

Fonti