Perché dovresti preoccuparti della scienza spinta dall’AI che favorisce le aziende
Nei primi anni 2000, la società farmaceutica americana Wyeth è stata citata in giudizio da migliaia di donne che avevano sviluppato il cancro al seno dopo aver assunto i suoi farmaci per la terapia ormonale sostitutiva. I documenti del tribunale hanno rivelato il ruolo di “dozzine di recensioni e commenti scritti da ghostwriter pubblicati su riviste mediche e supplementi utilizzati per promuovere benefici non provati e minimizzare i danni” legati ai farmaci.
Wyeth, acquisita da Pfizer nel 2009, aveva pagato una società di comunicazione medica per produrre questi articoli, che sono stati pubblicati sotto la firma di medici di spicco nel settore (con il loro consenso). Qualsiasi professionista medico che leggesse questi articoli e si affidasse a essi per consigli sulla prescrizione non avrebbe avuto idea che Wyeth fosse dietro di essi.
La compagnia farmaceutica ha insistito sul fatto che tutto ciò che era scritto fosse scientificamente accurato e – sorprendentemente – che pagare ghostwriter per tali servizi fosse comune nell’industria. Pfizer ha finito per pagare oltre 1 miliardo di dollari in risarcimenti per i danni causati dai farmaci.
Questi articoli sono un eccellente esempio di “resmearch” – scienza fasulla al servizio degli interessi aziendali. Mentre la stragrande maggioranza dei ricercatori è motivata a scoprire la verità e verificare i loro risultati in modo rigoroso, la resmearch non si preoccupa della verità – cerca solo di persuadere.
L’impatto dell’AI sulla ricerca scientifica
Negli ultimi anni, abbiamo assistito a numerosi altri esempi, come le aziende produttrici di bevande analcoliche e carne che finanziano studi meno propensi rispetto alla ricerca indipendente a mostrare legami tra i loro prodotti e rischi per la salute. Una preoccupazione attuale è che gli strumenti AI riducono i costi di produzione di tali prove a quasi zero.
Già la letteratura sulla salute pubblica sta osservando una valanga di articoli che utilizzano dati ottimizzati per l’uso con un AI per riportare risultati a fattore singolo. Questi studi si prestano a risultati speciosi. Quando i dataset coprono migliaia di persone e centinaia di informazioni su di loro, i ricercatori inevitabilmente trovano correlazioni fuorvianti che si verificano per caso.
Le implicazioni delle pubblicazioni AI-driven
Una ricerca delle principali banche dati accademiche, Scopus e Pubmed, ha mostrato che una media di quattro studi a fattore singolo sono stati pubblicati ogni anno tra il 2014 e il 2021. Nei primi dieci mesi del 2024, ne sono stati pubblicati ben 190. Questi non sono necessariamente motivati da interessi aziendali. Il punto è che con l’AI che facilita questo tipo di studi, diventano una tentazione aggiuntiva per le aziende che cercano di promuovere prodotti.
Il Regno Unito ha appena dato alle aziende un’ulteriore motivazione per produrre questo materiale. Le nuove linee guida governative chiedono ai produttori di alimenti per bambini di fare affermazioni di marketing che suggeriscano benefici per la salute solo se supportate da prove scientifiche. Questo, seppur ben intenzionato, potrebbe incentivare le aziende a trovare risultati che dimostrano che i loro prodotti sono sani.
Un problema è che la ricerca non sempre passa attraverso la revisione tra pari prima di influenzare le politiche. Negli ultimi anni, diversi gruppi di ricercatori hanno fatto progressi significativi nell’identificare procedure che riducono il rischio di risultati speciosi nelle pubblicazioni. I progressi includono la trasparenza nella pubblicazione dei piani di ricerca e il controllo accurato da parte dei revisori.
In generale, il sistema attuale sembra mal equipaggiato per affrontare il diluvio di articoli che l’AI precipiterà. I revisori devono investire tempo ed energia per controllare le preregistrazioni, le analisi dei dati e altro. Questo richiede un meccanismo di revisione tra pari che premi i revisori per la qualità delle loro analisi.