L’intelligenza artificiale sta passando dalla fase delle grandi promesse a quella della verifica sul campo. In ambito medico crescono le applicazioni in diagnostica, ricerca, studi clinici e gestione dei dati, ma come misurare il valore reale di queste tecnologie per pazienti e personale sanitario? Il confronto con Federico Cabitza parte da qui e arriva al tema dell’Human Reserved: ciò che, nell’era dell’automazione, dovrebbe restare umano (leggi qui Bill Gates: intelligenza artificiale e sanità, la relazione umana deve restare centrale).

Come scrive il fondatore della Microsoft, ricordando il padre che, negli ultimi anni della malattia (Alzheimer), è stato assistito da professionisti che riuscivano a comprenderlo anche quando non era più in grado di esprimersi chiaramente: la componente umana dell’assistenza non potrebbe e non dovrebbe essere sostituita da una macchina.

Nella sua riflessione su rischi e benefici dell’IA, Gates solleva alcuni interrogativi che abbiamo posto a Cabitza, direttore del Centro Digital Health & Wellbeing della Fondazione Bruno Kessler di Trento e professore all’Università di Milano Bicocca, dove insegna interazione umano-macchina e supporto decisionale.

Quanto possiamo automatizzare la cura senza compromettere la relazione umana che ne è alla base? Se l’IA sarà in grado di diagnosticare, spiegare, assistere e persino curare, cosa dovrà essere riservato alle persone?

La questione, insomma, non è più soltanto quanto possiamo automatizzare, ma dove sia opportuno farlo.

Anche se, tra diagnostica, ricerca farmacologica, drug discovery, sviluppo di nuovi biomarcatori, gestione dei dati clinici e personalizzazione delle terapie, le aspettative sull’intelligenza artificiale sono enormi, Francesco Cabitza invita a distinguere tra applicazioni già sostenute da evidenze e promesse ancora da verificare. E, richiamando il concetto di Human Reserved, indica nella responsabilità della relazione di cura uno degli ambiti in cui la tecnologia non può sostituire l’essere umano.

Professor Cabitza, quali sono oggi gli ambiti nel campo della salute in cui possiamo già documentare un miglioramento concreto grazie all’intelligenza artificiale e quali, invece, continuano a essere sostenuti soprattutto da promesse e aspettative? 

«I risultati più convincenti riguardano compiti circoscritti e inseriti in un percorso di cura. Nello screening mammografico, per esempio, l’IA ha migliorato la sensibilità e ridotto il lavoro di lettura senza aumentare i tumori diagnosticati tra due screening. Si osservano anche i primi benefici nella produzione, ricerca e recupero di documentazione clinica. Nella scoperta di farmaci e nella personalizzazione delle terapie vediamo alcuni progressi importanti, ma dobbiamo distinguere applicazioni prototipali di ricerca da prodotti e dispositivi medici che portano benefici dimostrati per i pazienti».

Bill Gates ha introdotto il concetto di Human Reserved. È l’idea che, anche in uno scenario di crescente automazione, alcune attività e responsabilità debbano rimanere riservate agli esseri umani. Se applichiamo questo principio alla medicina e alle Life Sciences, quali sono secondo lei le aree che dovremmo considerare “human reserved”?

«È un discorso complesso che formule troppo nette rischiano di banalizzare: è più corretto parlare di livelli di automazione. In alcuni casi è opportuno delegare molte attività di un compito alla macchina, in altri invece dobbiamo preferire il “tocco umano”. Per questo motivo, se devo pensare alla riserva umana, penserei a tutto ciò che richiede precise responsabilità nella relazione di cura: comunicare una diagnosi difficile, comprendere che cosa conta per quel paziente, discutere le alternative e decidere insieme in condizioni di incertezza. L’IA può aiutare a preparare queste decisioni, ma non può assumersi la responsabilità morale e professionale che le accompagna. Il punto, per me, è preservare la presenza umana dove ha valore per il paziente, anche se una parte del compito fosse tecnicamente automatizzabile».

Più volte lei ha sottolineato che l’intelligenza artificiale può portare alla sanità più benefici che costi, ma ha anche richiamato rischi come sicurezza, privacy e soprattutto la deumanizzazione della relazione di cura. Dove vede oggi il punto di equilibrio tra ciò che possiamo affidare all’intelligenza artificiale e ciò che invece dovrebbe rimanere necessariamente nelle mani delle persone?

«Affiderei all’IA ciò che sa fare con affidabilità verificata nel contesto in cui viene usata: organizzare informazioni, individuare segnali, proporre ipotesi, alleggerire attività ripetitive. Il grado di autonomia dovrebbe dipendere dalle conseguenze di un errore e dalla possibilità di riconoscerlo e correggerlo. L’obiettivo è liberare tempo e attenzione per la cura, senza lasciare che l’automazione impoverisca il giudizio clinico o la relazione con il paziente».

Un sistema di IA può arrivare a una decisione più rapidamente e, in alcuni contesti, anche con una precisione superiore a quella umana. Ma precisione e appropriatezza non sono necessariamente la stessa cosa. Quali decisioni cliniche, organizzative o di ricerca non dovrebbero mai essere completamente delegate a un algoritmo? E quale ruolo dovrebbe avere il professionista quando la raccomandazione dell’intelligenza artificiale entra in conflitto con la sua valutazione?

«Non delegherei integralmente decisioni irreversibili o fortemente dipendenti dai valori delle persone: per esempio, limitare un trattamento, scegliere fra benefici e rischi molto diversi, stabilire priorità nell’accesso a risorse scarse. Quando il medico e l’IA sono in disaccordo, il conflitto va esaminato attentamente: controllare i dati, capire da dove nasce la divergenza, cercare eventualmente un secondo parere e motivare la decisione. Il professionista deve poter correggere l’IA, ma anche riconoscere quando è l’intelligenza artificiale a fargli notare qualcosa che aveva trascurato».

Il rischio è misurare il successo di un sistema di intelligenza artificiale attraverso parametri tecnologici – accuratezza, velocità, capacità predittiva – senza verificare se produca realmente una migliore presa in carico. Quali indicatori dovremmo utilizzare per capire se un’IA sta davvero migliorando la cura? Dovremmo misurare anche qualità della relazione medico-paziente, fiducia, appropriatezza delle decisioni, esiti clinici e capacità del professionista di mantenere il controllo?

«La domanda decisiva è se medici e pazienti, usando quel sistema, ottengono risultati migliori rispetto alla pratica corrente, rispetto a quando non lo usano. Misurerei errori evitati, esiti clinici, tempi di accesso, appropriatezza delle cure ed equità fra gruppi di pazienti. Misurerei anche gli effetti meno visibili: fiducia ben riposta, qualità della relazione, capacità del professionista di valutare criticamente il suggerimento e di mantenere le proprie competenze nel tempo».

Quali sono gli ambiti di applicazione che a suo avviso sono da tenere d’occhio, in quanto più promettenti per l’applicazione dell’intelligenza artificiale nelle Life Sciences, sia in termini di benefici per gli utenti che sotto il profilo dello sviluppo di nuove opportunità di business?

«Seguirei soprattutto l’integrazione di dati clinici, immagini e segnali raccolti nel tempo per prevenire e monitorare le malattie croniche e neurodegenerative. Vedo opportunità anche in strumenti che aiutino a gestire percorsi di cura complessi e a rendere più efficienti gli studi clinici. Per le imprese, il valore maggiore nascerà dalla capacità di dimostrare benefici reali, integrare i sistemi nel lavoro sanitario e garantirne l’affidabilità nel tempo».