Novara, due studi sull’IA in medicina: attenzione agli errori che sembrano corretti

L’intelligenza artificiale può fornire risposte convincenti, citare fonti reali e apparire perfettamente affidabile anche quando l’interpretazione proposta è sbagliata. È uno dei rischi analizzati in due studi scientifici legati al territorio di Novara, firmati dal medico di medicina generale Daniele Angioni insieme ad altri colleghi e dedicati all’impatto dell’IA nella pratica clinica.

Il rischio dell’“evidence-like error”

Il primo lavoro, intitolato “Quando un errore sembra una risposta perfetta”, affronta un problema particolarmente delicato: l’intelligenza artificiale può commettere un errore presentandolo con un linguaggio ordinato, autorevole e apparentemente fondato su evidenze scientifiche.

Gli autori definiscono questa situazione “evidence-like error”, cioè un errore che assume l’aspetto di una prova attendibile.

Un sistema di IA potrebbe, per esempio, individuare un articolo scientifico realmente esistente ma interpretarne in modo scorretto il contenuto, estrarre una frase senza il contesto necessario oppure utilizzare una citazione autentica per sostenere una conclusione che la fonte non formula.

In ambito sanitario il problema può avere conseguenze rilevanti, soprattutto quando vengono trascurati elementi come controindicazioni, differenze nel dosaggio o specifiche limitazioni previste da una ricerca.

Il messaggio indicato dallo studio è quindi che la presenza di una citazione non rappresenta automaticamente una garanzia di correttezza: occorre verificare direttamente che la fonte sostenga davvero quanto riportato dal sistema.

Quando una risposta corretta può influenzare il ragionamento

Il secondo studio parte da una domanda diversa: cosa accade se la risposta fornita dall’intelligenza artificiale è corretta, ma modifica il modo in cui il professionista ragiona?

Secondo gli autori, una risposta formulata con grande sicurezza può diventare dominante e spingere il medico a prendere meno in considerazione ipotesi alternative, comprese quelle meno probabili ma clinicamente rilevanti.

Da questa osservazione nasce il concetto di “algovigilanza cognitiva”, che propone di monitorare nel tempo non soltanto gli errori prodotti dai sistemi di IA, ma anche gli effetti del loro utilizzo sul processo decisionale dei professionisti.

Il paragone con la farmacovigilanza

L’idea viene accostata dagli autori alla farmacovigilanza. Dopo l’introduzione di un farmaco nella pratica quotidiana, infatti, la sua sicurezza continua a essere osservata per individuare effetti indesiderati o problemi non emersi nelle fasi precedenti.

Secondo questa impostazione, qualcosa di simile dovrebbe avvenire anche con l’intelligenza artificiale: oltre a controllare se una risposta sia giusta o sbagliata, bisognerebbe valutare se l’utilizzo continuativo dello strumento produca eccesso di fiducia, riduzione del controllo delle fonti o perdita di autonomia decisionale.

La questione diventa quindi capire se il professionista continui a verificare le informazioni, a mantenere un giudizio indipendente e a mettere in discussione le indicazioni suggerite dalla macchina quando necessario.

Ricerca e formazione per un uso più sicuro dell’IA

I due lavori vengono presentati nel quadro della rubrica regionale dedicata alla ricerca sanitaria in Piemonte e puntano a fornire strumenti concettuali utili per comprendere meglio l’ingresso dell’intelligenza artificiale nella medicina.

Concetti come “evidence-like error” e “algovigilanza cognitiva” possono essere utilizzati come base per nuovi studi, percorsi formativi e regole di sicurezza più precise.

La prospettiva indicata è quella di utilizzare l’IA come supporto alla medicina senza sostituire la competenza, la responsabilità e la capacità critica del professionista sanitario.

La pubblicazione scientifica, viene inoltre ricordato, non trasforma automaticamente un’ipotesi in una verità definitiva: definizioni e proposte devono essere sottoposte al confronto della comunità scientifica, verificate, discusse e sviluppate attraverso nuove ricerche.