L’intelligenza artificiale, anzi, le intelligenze artificiali sono ormai una presenza quotidiana nelle nostre vite. Stanno entrando sempre più nei flussi di lavoro ospedalieri e vengono già utilizzate in diversi ambiti clinici. Milioni di persone, inoltre, ogni settimana ricorrono a strumenti come ChatGPT per dubbi inerenti la salute. E i colossi tecnologici competono per sviluppare modelli sempre più avanzati destinati anche all’ambito sanitario, alimentando il dibattito sulla possibilità di arrivare in futuro a sistemi di “superintelligenza medica”.

Un gruppo di esperti ed esperte dalle pagine di Nature Medicine ci mettono in guardia in merito a un rischio che come società stiamo correndo e sottovalutando: sostanzialmente, scrivono che stiamo valutando queste tecnologie con criteri obsoleti e fuorvianti, non in grado di indicarci davvero se un algoritmo sia pronto a prendere decisioni cliniche con livelli sempre maggiori di autonomia.

L’inganno dei test e il divario con la realtà

Attualmente, l’intelligenza artificiale è in grado di superare brillantemente gli esami di abilitazione medica. Quegli esami che richiedono anni di studio ai futuri medici e alle future mediche.

Ma rispondere correttamente a una domanda a crocette è profondamente diverso dal gestire un paziente reale. Molti di questi test sono “statici” e i dati necessari per risolverli sono già stati letti e memorizzati dall’IA durante il suo addestramento.

Quando però questi sistemi vengono messi alla prova in situazioni cliniche complesse e dinamiche, la loro precisione crolla drasticamente, rivelando una fragilità che potrebbe avere conseguenze poco piacevoli in un contesto sanitario reale.

Gli autori denunciano in proposito che sebbene i modelli di linguaggio (LLM) superino regolarmente gli esami di abilitazione medica con punteggi superiori al 92%, la loro efficacia crolla drasticamente quando messi alla prova con compiti clinici del mondo reale, scendendo in alcuni casi fino al 44,8%.

Perché non basta essere “bravi quanto un medico”

La superintelligenza medica, secondo gli autori del commento pubblicato su Nature Medicine, non può limitarsi a emulare il personale medico. Per essere considerata tale, l’IA deve dimostrare prestazioni superiori rispetto ai migliori specialisti e ai team multidisciplinari, in compiti, come la gestione di malattie croniche o oncologiche, che richiedono la presa in carico del paziente nel lungo periodo. E soprattutto devono fare la differenza in termini di beneficio reale per il paziente.

Un medico non prende solo decisioni isolate, ma coordina cure, adatta la terapia in base a nuove informazioni e all’evoluzione della situazione, comunica con le famiglie dei pazienti e il paziente stesso. Gli autori chiedono che l’IA venga testata proprio su questa capacità di ragionamento a lungo termine e di comprensione del contesto, elementi oggi quasi del tutto assenti dalle valutazioni attuali.

Il rischio di errori “non umani”

Un punto cruciale sollevato dagli autori riguarda la natura degli errori. Proprio come un’auto a guida autonoma può percorrere migliaia di chilometri senza incidenti ma poi bloccarsi pericolosamente davanti a un ostacolo imprevisto che un umano eviterebbe facilmente, l’IA medica può fallire in modi bizzarri e imprevedibili. Questi errori “non umani” sono difficili da prevedere e possono avere un impatto sulla vita delle persone.

Per questo motivo, gli autori propongono il Medical AI Superintelligence Test (MAST), un nuovo quadro di valutazione rigoroso che va oltre i punteggi teorici, e richiede prove concrete di sicurezza e affidabilità prima che l’IA possa agire senza la costante supervisione umana.

Verso un’autonomia consapevole e sicura

Cosa deve dimostrare un’intelligenza artificiale prima che le sia permesso di agire autonomamente sulla salute di un paziente? Questa è la domanda fondamentale che gli esperti pongono alle autorità regolatorie e alla comunità scientifica, evidenziando che solo attraverso test che simulino le reali sfide cliniche e che misurino l’impatto effettivo sulla salute dei pazienti sarà possibile trasformare l’IA da un semplice assistente digitale a uno strumento rivoluzionario capace di ridurre costi, ritardi e, soprattutto, errori medici.

Man mano che i sistemi di IA evolvono, il ruolo del personale medico passerà da supervisore costante (human-in-the-loop) a supervisore esterno che interviene solo se necessario (human-on-the-loop). Ma per arrivare a questo punto, e per arrivarci in sicurezza, l’IA deve dimostrare di poter gestire situazioni impreviste.