Novara, due studi sull’IA in medicina: focus sugli errori

Una risposta prodotta dall’intelligenza artificiale può apparire precisa, autorevole e ben documentata anche quando contiene un’interpretazione sbagliata. È uno dei rischi analizzati in due studi scientifici collegati al territorio di Novara, firmati dal medico di medicina generale Daniele Angioni insieme ad altri ricercatori. I lavori esaminano sia gli errori che possono assumere l’aspetto di informazioni scientificamente fondate, sia l’influenza che le risposte dell’IA possono esercitare sul ragionamento clinico dei professionisti sanitari.

Quando l’errore dell’IA sembra sostenuto dalle prove

Il primo studio affronta il fenomeno definito dagli autori “evidence-like error”, cioè un errore presentato con caratteristiche che lo fanno sembrare supportato da evidenze scientifiche attendibili. Il problema non riguarda necessariamente l’invenzione di fonti inesistenti: un sistema può citare correttamente uno studio reale e, allo stesso tempo, interpretarne male il contenuto.

Tra le situazioni considerate rientrano l’estrazione di una frase senza il contesto necessario, la lettura errata dei risultati di una ricerca o l’utilizzo di una citazione autentica per sostenere una conclusione che gli autori originali non hanno formulato.

In campo medico questa dinamica assume particolare rilevanza perché una lettura scorretta di una fonte potrebbe portare a trascurare controindicazioni, limiti dello studio, differenze nei dosaggi o caratteristiche specifiche dei pazienti. Per questo la presenza di una bibliografia o di un riferimento scientifico non può essere considerata, da sola, una garanzia di affidabilità.

Il rischio di affidarsi troppo a una risposta corretta

Il secondo lavoro prende in esame un problema differente. Anche quando l’IA fornisce una risposta corretta, il modo in cui la presenta può influenzare il processo decisionale del medico. Una formulazione particolarmente sicura e convincente potrebbe infatti spingere il professionista a concentrarsi sull’ipotesi proposta dal sistema e a dedicare minore attenzione ad alternative diagnostiche meno immediate.

Da questa riflessione nasce il concetto di “algovigilanza cognitiva”. La proposta è di osservare nel tempo non soltanto la frequenza e la natura degli errori prodotti dai sistemi di intelligenza artificiale, ma anche gli effetti che il loro utilizzo continuativo può avere sul comportamento e sulle decisioni degli operatori sanitari.

Il modello proposto richiama la farmacovigilanza

Gli autori mettono in relazione questo approccio con il sistema della farmacovigilanza. Dopo l’introduzione di un medicinale nella pratica clinica, la sicurezza viene monitorata per individuare problemi o effetti indesiderati che potrebbero emergere nell’utilizzo quotidiano.

Un principio analogo potrebbe essere applicato all’IA, verificando nel tempo la comparsa di fenomeni come eccesso di fiducia nei sistemi automatici, minore controllo delle fonti e riduzione dell’autonomia decisionale. L’attenzione si sposterebbe quindi dalla sola correttezza tecnica della risposta anche al modo in cui lo strumento modifica il comportamento di chi lo utilizza.

Ricerca e formazione al centro dell’uso clinico dell’IA

I due studi propongono concetti destinati a essere sottoposti al confronto e alla verifica della comunità scientifica. “Evidence-like error” e “algovigilanza cognitiva” possono offrire una base per ulteriori ricerche e per lo sviluppo di percorsi formativi rivolti ai professionisti sanitari.

L’obiettivo indicato è favorire un impiego dell’intelligenza artificiale come strumento di supporto, mantenendo però centrale il giudizio clinico del professionista. Verificare le fonti, confrontare ipotesi differenti e conservare la capacità di mettere in discussione l’indicazione generata dalla macchina restano elementi essenziali nel processo decisionale medico.