La minaccia della scienza spinta dall’IA sui nostri interessi.
Nei primi anni 2000, l’azienda farmaceutica americana Wyeth è stata citata in giudizio da migliaia di donne che avevano sviluppato il cancro al seno dopo aver assunto i suoi farmaci per la terapia ormonale sostitutiva. I documenti del tribunale hanno rivelato il ruolo di “dozzine di recensioni e commenti scritti da ghostwriter pubblicati su riviste mediche e supplementi utilizzati per promuovere benefici non dimostrati e minimizzare i danni” legati ai farmaci.
Wyeth, acquisita da Pfizer nel 2009, aveva pagato una società di comunicazioni mediche per produrre questi articoli, pubblicati sotto i nomi di illustri medici del settore (con il loro consenso). Qualsiasi professionista medico che leggesse questi articoli e si affidasse ad essi per consigli su prescrizioni non avrebbe avuto idea che dietro di essi ci fosse Wyeth.
L’azienda farmaceutica ha insistito sul fatto che tutto ciò che era scritto fosse scientificamente accurato e, sorprendentemente, che pagare ghostwriter per tali servizi fosse comune nel settore. Pfizer ha finito per pagare oltre 1 miliardo di dollari in risarcimenti per i danni causati dai farmaci.
Gli articoli in questione sono un eccellente esempio di “resmearch” – scienza spazzatura al servizio degli interessi aziendali. Mentre la stragrande maggioranza dei ricercatori è motivata a scoprire la verità e verificare robustamente i propri risultati, il resmearch non si preoccupa della verità – cerca solo di persuadere.
L’ascesa della ricerca guidata dall’IA
Negli ultimi anni, abbiamo visto numerosi altri esempi, come le aziende di bevande analcoliche e i produttori di carne che finanziano studi meno propensi rispetto alla ricerca indipendente a mostrare legami tra i loro prodotti e rischi per la salute. Una preoccupazione attuale importante è che gli strumenti di intelligenza artificiale riducono i costi di produzione di tali prove a praticamente zero.
Già la letteratura sulla salute pubblica osserva una sfilza di articoli che fanno uso di dati ottimizzati per l’uso con un’IA per riportare risultati a fattore singolo. I risultati a fattore singolo collegano un singolo fattore a qualche esito di salute, come trovare un legame tra il consumo di uova e lo sviluppo della demenza. Questi studi si prestano a risultati speciosi.
La necessità di una riforma nella revisione paritaria
Un problema è che la ricerca non sempre passa attraverso la revisione paritaria prima di informare la politica. Nel 2021, ad esempio, il giudice della Corte Suprema degli Stati Uniti Samuel Alito, in un’opinione sul diritto di portare un’arma, ha citato un documento di un accademico di Georgetown che presentava dati di un sondaggio sull’uso delle armi. Il sondaggio e l’accademico erano finanziati da un’organizzazione pro-armi.
Una lezione ovvia è che chiunque faccia affidamento sulla ricerca dovrebbe diffidare di quella che non ha superato la revisione paritaria. Una lezione meno ovvia è che dovremo riformare anche la revisione paritaria stessa. Negli ultimi anni si è discusso molto dell’esplosione della ricerca pubblicata e del grado in cui i revisori svolgono correttamente il loro lavoro.
Nel corso dell’ultimo decennio, diversi gruppi di ricercatori hanno fatto progressi significativi nell’identificare procedure che riducono il rischio di risultati speciosi negli articoli pubblicati. I progressi includono la pubblicazione di un piano di ricerca prima di svolgere qualsiasi lavoro (conosciuto come preregistrazione) e riportare trasparentemente tutti i passaggi di ricerca intrapresi in uno studio.
In generale, il sistema attuale sembra mal equipaggiato per far fronte al diluvio di articoli che l’IA precipiterà. I revisori devono investire tempo, sforzi e attenzione scrupolosa nel verificare preregistrazioni, analisi delle curve di specificazione, dati, codici e così via. Questo richiede un meccanismo di revisione paritaria che premi i revisori per la qualità delle loro revisioni.