L’intervento dei due studiosi della Johns Hopkins nello Health Forum del JAMA va diritto al punto: per una diagnosi medica non basta che un sistema di intelligenza artificiale (IA) si avvicini alle capacità cognitive di un non addetto ai lavori, né è sufficiente che abbia le stesse capacità di un medico “medio”, considerato l’attuale tasso di errori diagnostici nella pratica clinica. Serve qualcosa di più e per ottenerlo occorre che la Politica – in concreto, le istituzioni e le agenzie sanitarie – metta l’IA nelle migliori condizioni per supportare il personale sanitario.
«Anche se l’IA, il machine learning e i large language model (LLM) sono maturati al punto che le tecnologie stesse non costituiscono più un ostacolo al successo – scrivono gli autori – resta un punto critico, in particolare la mancanza di fonti di dati adeguate, necessarie per addestrare i sistemi di IA a raggiungere l’eccellenza nella diagnosi. Se i sistemi di IA vengono addestrati su dati errati, produrranno risultati errati. I sistemi di IA che apprendono su dati errati commetteranno generalmente gli stessi errori che commettono gli esseri umani, se non di più. Ad esempio, se i dati delle cartelle cliniche elettroniche vengono utilizzati per addestrare i sistemi di IA, questi ultimi riprodurranno (come minimo) gli attuali errori diagnostici o rispecchieranno i bias di cui sono portatori gli operatori; nel peggiore dei casi, i sistemi di IA non solo sbaglieranno spesso nelle loro raccomandazioni diagnostiche, ma comprometteranno anche la formazione clinica. Se i sistemi diagnostici basati sull’IA vengono impiegati senza un’adeguata verifica e monitoraggio dopo l’impiego, è prevedibile che la qualità della diagnosi medica diminuisca e che i pazienti ne risentano».
Che fare, allora? Serve che i National Institutes of Health, l’Agency for Healthcare Research and Quality e altre istituzioni investano nella costruzione di banche dati specifiche per il machine learning dei sistemi di IA finalizzati alla diagnosi. Alcuni database utili alla diagnosi per immagine sono già in fase di sviluppo: in radiologia, oftalmologia, patologia e dermatologia. Ma non esistono cose del genere in altri ambiti disciplinari. «Lo sviluppo di sistemi di IA accurati dal punto di vista diagnostico richiede dati di alta qualità sia nella fase iniziale (dati demografici del paziente, sintomi, segni e risultati di laboratorio e radiografici) sia nella fase finale (diagnosi definitive, effetti del trattamento e outcome dell’assistenza)».
Gli autori sollecitano anche la Food and Drug Administration a impegnarsi a definire gli standard per i database completi e accurati necessari per formare i sistemi diagnostici di IA. «L’obiettivo dovrebbe essere quello di sfruttare i punti di forza complementari del medico e del computer per ottenere diagnosi migliori di quelle ottenute da uno solo dei due. In assenza, i rischi dell’IA per la diagnosi potrebbero oscurare i benefici, portando a esiti clinici peggiori, a cure non appropriate e a personale sanitario meno qualificato».
da Senti Chi Parla