Il medico deve essere parte integrante nel processo di sviluppo degli algoritmi di Intelligenza Artificiale e non semplicemente uno “spettatore” esterno. L’operatore sanitario può offrire indicazioni importanti per lo sviluppo di algoritmi che rispondano a esigenze e bisogni particolari. «Il concetto di co-creazione tra end user e sviluppatore è fondamentale nello sviluppo dell’AI», spiega Chiara Binelli, professoressa associata di Economia all’Università di Bologna. Nel contesto medico, l’AI sta diventando un alleato sempre più prezioso. Da strumenti diagnostici avanzati che supportano i medici nell’identificazione precoce di malattie, a sistemi di supporto decisionale che suggeriscono trattamenti basati su un’analisi complessa dei dati, l’AI sta trasformando il panorama sanitario. Tuttavia, mentre i benefici sono evidenti, emergono anche nuove sfide. Binelli è la coordinatrice, insieme alla collega Laura Sartori dell’Università di Bologna e Alessandra Retico, Andrea Chincarini, Francesca Lizzi e Francesco Sensi dell’Istituto Nazionale di Fisica Nucleare (INFN), di un progetto di ricerca finanziato dal PNRR (Piano nazionale di ripresa e resilienza) all’interno dello Spoke 8 di FAIR (Future Artificial Intelligence Research). Uno studio che rappresenta il primo tentativo in Italia di esplorare come la pervasività dell’AI stia modificando le modalità operative dei medici e dei fisici medici.

Come è nato e qual è l’obiettivo finale?

«Gli algoritmi di AI sviluppati, ad oggi, hanno una performance tecnica molto alta, però c’è un sottoutilizzo da parte dei medici. L’obiettivo dello studio è capire l’utilizzo, la fiducia, il grado di conoscenza e le aspettative che vengono associate all’uso dell’AI negli ospedali. Così, abbiamo sviluppato un questionario innovativo, con circa cinquanta domande, su un campione di medici italiani che, per la prima volta, include diverse tipologie di medici: radiologi, neurologi, medici nucleari, oncologi e radioterapisti».

Il criterio di scelta dei vari professionisti si è, quindi, basato su quelli che usano maggiormente l’AI…

«Sì. Sottolineo anche un altro aspetto. Le esigenze dei radiologi sono diverse rispetto, ad esempio, a un neurologo. Poi, ci sono diverse sfaccettature tra le varie figure. Quindi, il processo di sviluppo di un’Intelligenza Artificiale è molto importante. Gli algoritmi sono di ausilio ai medici e la decisione finale di utilizzo spetta a loro».

L’obiettivo è coinvolgerli sempre più nella creazione degli algoritmi?

«La sanità è un settore delicato. La mission è definire le linee guida per uno sviluppo efficace, efficiente e consapevole dell’algoritmo di AI nella pratica medica».

Quali e quante domande sono previste nel questionario?

«Il questionario si sviluppa in sei diverse sezioni. La prima raccoglie informazioni sociodemografiche sui partecipanti allo studio. La seconda raccoglie informazioni che riguardano quanto i medici abbiano usato l’AI. La terza riguarda la familiarità che hanno con gli algoritmi. Nella quarta sezione ci soffermiamo sugli immaginari dell’AI (paure ed eventuali promesse o vantaggi attesi). Nelle sezioni cinque e sei, invece, si entra nel vivo della pratica medica. Nella quinta le domande sono incentrate sull’adozione dell’AI e quanto è presente negli ospedali. Nella sesta e ultima sezione utilizziamo due esperimenti per arrivare a definire linee guida di utilizzo dell’AI».

Le domande dell’ultima sezione riguardano l’uso di tecniche di raccolta dati innovative molto utilizzate in economia…

«Nell’ultima sezione facciamo due esperimenti per confrontare un tipo di algoritmo validato in un esperimento randomizzato e un algoritmo co-creato. L’obiettivo è arrivare a linee guida su come bisognerebbe creare gli algoritmi in modo che vengano sviluppati e soprattutto utilizzati in modo efficiente. In semplici parole: attraverso gli esperimenti riusciamo a confrontare la probabilità di adozione di un algoritmo diverso da quello attualmente in adozione».

Cosa intende?

«Dopo aver raccolto informazioni su come lavorano i medici e sulle principali esigenze e problematiche che si ponevano nell’utilizzo di AI, emergevano due elementi fondamentali. Uno è che i medici non utilizzano gli algoritmi così come arrivano, perché sono strumenti non validati attraverso metodi di validazione che risultino familiari ai medici stessi. Nella seconda, il medico non è mai stato consultato nello sviluppo dell’algoritmo in quanto non è mai stato reso parte del processo di co-creazione dello stesso».

Il medico, quindi, deve essere parte integrante nel processo di creazione dell’AI…

«Esatto. È giusto che il medico partecipi al processo di creazione dell’AI e chiarisca le esigenze rispetto alle quali l’AI potrebbe essere d’aiuto. All’interno dell’ultima sezione del nostro questionario, creiamo uno scenario in cui l’algoritmo disponibile è stato co-creato. Successivamente, analizziamo se il gruppo a cui lo sottoponiamo in effetti lo usa o lo userebbe molto più di quello esistente. La partecipazione al processo di creazione dell’algoritmo aumenta la probabilità di utilizzo in quanti i medici li vedrebbero come tasselli importanti, non avrebbero né paura né tantomeno li considererebbero qualcosa di incomprensibile, in quanto parteciperebbero alla co-creazione. In un secondo esperimento, testiamo una possibilità un po’ più tecnica. In medicina esiste un protocollo secondo cui farmaci e macchinari, prima di essere immessi sul mercato, vengono testati con esperimenti randomizzati. Tutto ciò, però, non accade nel settore dell’AI. Al medico, quindi, arriva un algoritmo la cui evidenza dell’efficacia è una sorta di lungo libretto scritto da un informatico. Nel secondo esperimento sottoponiamo lo scenario dell’algoritmo randomizzato e anche in questo caso aumenta la probabilità di utilizzo».

Avete già risultati preliminari?

«Sì e le due linee guida fondamentali sono: promuovere la co-creazione e introdurre un protocollo di esperimenti randomizzati per testare la AI prima di renderla disponibile agli end users. Tutto ciò potrebbe essere normato anche dal punto di vista giuridico».

Emerge sempre più la necessità di equipe multidisciplinari…

«Non possiamo pensare che l’Intelligenza Artificiale sia una sorta di mondo a sé, composto da strumenti tecnici impenetrabili gestiti solo dagli informatici. Il medico si fida dell’AI e vuole che sia chiaro cosa fa in modo da capire come meglio usarla. In poche parole, l’AI in medicina deve diventare una sorta di “super collega”».

L’utilizzo dell’AI in sanità quanto e come può contribuire nella lotta contro il cambiamento climatico?

«Sono ancora pochi gli articoli in cui si è cercato di quantificare quanto possa impattare la fase di allentamento dei modelli di AI sull’ambiente. La richiesta energetica è esorbitante e i costi ecologici insostenibili. Insieme a un gruppo interdisciplinare di ricercatori dell’università di Aalborg, stiamo sviluppando strumenti che utilizzano metodi computazionali low-power per promuovere una green AI. Successivamente, con questi algoritmi green studieremo il fenomeno dei cambiamenti climatici. In particolare, in che modo prevederli e come aiutare le persone ad essere preparate a eventi climatici estremi».

Nel settore medico, l’AI sta diventando un alleato sempre più prezioso. I benefici sono ormai evidenti. Nel frattempo, emergono nuove domande e sfide da affrontare: come cambia il ruolo del medico in un ambiente dove l’AI gioca un ruolo centrale e come si può garantire che l’AI sia utilizzata in modo etico e responsabile.