Quando OpenAI ha lanciato ChatGPT Health a gennaio scorso, permettendo ai pazienti di sincronizzare l’intero fascicolo sanitario elettronico con un modello linguistico di grandi dimensioni (in Europa al momento non è ancora disponibile), Microsoft Copilot ha introdotto una funzionalità simile per il suo LLM e altri stanno entrando nel mercato.

Dalle pagine di JAMA un gruppo di ricerca statunitense invita alla cautela. Con l’uso da parte dei pazienti di chatbot IA che offrono informazioni mediche, «il risultato non è la democratizzazione della conoscenza medica, bensì la democratizzazione dei dati medici, compresi il linguaggio stigmatizzante, gli errori diagnostici e i pregiudizi istituzionali insiti nella cartella clinica stessa» scrivono gli autori dell’analisi appena pubblicata.

A firmare l’articolo, anzitutto un nome noto: I. Glenn Cohen, vice preside della Harvard Law School, dove dirige il Petrie-Flom Center for Health Law Policy, Biotechnology & Bioethics. Accanto a lui Ifeoma Ajunwa e Ravi B. Parikh della Emory University di Atlanta. Cohen è uno dei massimi esperti mondiali all’intersezione tra bioetica e diritto, membro eletto della National Academy of Medicine, e nel 2025 aveva già testimoniato davanti alla Commissione giudiziaria del Senato americano proprio sul tema della privacy genetica, in occasione del caso 23andMe (società californiana che offre test genetici fai-da-te).

In un articolo pubblicato sul New England Journal of Medicine nel marzo 2025, Cohen aveva spiegato che i dati genetici di 14 milioni di clienti rischiano di finire in mani diverse da quelle di 23andMe in caso di fallimento o vendita: un’eventualità che i consumatori non avevano contemplato quando li hanno condivisi.

In questo caso l’HIPAA (Health Insurance Portability and Accountability Act), la legge federale statunitense progettata per proteggere la privacy e la sicurezza delle informazioni sanitarie sensibili dei pazienti, non si applica perché 23andMe non è un’entità sanitaria tradizionale: i clienti vengono trattati dalla legge come consumatori, non come pazienti.

Le tutele offerte dalla stessa azienda (diritto alla cancellazione, opt-out dalla ricerca) sono reali ma fragili: la privacy policy riserva esplicitamente il diritto di trasferire i dati in caso di vendita o fallimento, e i clienti non possono impedirlo. Il diritto fallimentare offre qualche protezione procedurale – sorveglianza pubblica, possibile intervento della Federal Trade Commission – ma non è sufficiente.

Le raccomandazioni di Cohen già nel 2025 andavano verso un aggiornamento della legge federale sulla privacy, un’estensione dell’HIPAA alle aziende direct-to-consumer, o un ampliamento del GINA, la normativa che si concentra  sui test e sulle informazioni genetiche.

Il problema non è l’intelligenza artificiale. È il dato

Il punto di partenza dell’analisi pubblicata in questi giorni su JAMA è che le cartelle cliniche non sono archivi neutri. Contengono errori diagnostici, linguaggio stigmatizzante, pregiudizi istituzionali sedimentati nel tempo. Quando un medico chiede una consulenza a un collega, seleziona le informazioni rilevanti: manda la TAC, la biopsia, l’anamnesi pertinente. Non manda la nota del pronto soccorso di dieci anni prima, né il referto psichiatrico, né ogni singola visita mai effettuata. Quella selezione è già di per sé un atto clinico, una forma di protezione del paziente da informazioni che potrebbero distorcere il giudizio del consulente.

L’esempio che portano è molto chiaro: una giovane donna nera con anemia falciforme, la cui cartella riporta una nota di triage che la descrive come “drug-seeking”, termine che nella letteratura medica è documentato come usato in modo sproporzionato nei confronti dei pazienti afro-americani. Se sincronizza il suo fascicolo con il sistema di IA sperando di capire le proprie opzioni per il dolore, il modello ingerisce quell’etichetta e la restituisce amplificata, orientandola verso soluzioni non oppioidi che potrebbero essere inefficaci. Non è una seconda opinione: è un’eco algoritmica del pregiudizio originale.

Il vuoto legale e il divario con l’Europa

A complicare il quadro c’è una lacuna normativa di dimensioni considerevoli, almeno negli Stati Uniti. Come si è visto per il caso  23and Me, l’HIPAA, la principale legge americana sulla privacy sanitaria, tutela i dati medici finché si trovano nelle mani di soggetti definiti “covered entities“: ospedali, medici, assicurazioni. Un LLM commerciale non lo è.  Per la cronaca: 23andMe è invece acquistabile in diversi paesi d’Europa, Italia inclusa.

In Europa la situazione è strutturalmente diversa. I dati sanitari rientrano tra le categorie più protette dal GDPR, con obblighi stringenti su consenso esplicito, minimizzazione dei dati, sicurezza e trasferimento verso Paesi terzi. Bisogna chiarire chi accede ai dati, con quali garanzie e se intervengono soggetti terzi, come le compagnie assicurative. Al GDPR si affianca l’AI Act, che introduce un’ulteriore variabile: capire se una funzionalità come ChatGPT Health ricada tra i sistemi di intelligenza artificiale ad alto rischio, classificazione tutt’altro che scontata, ma che aprirebbe a obblighi aggiuntivi di valutazione, documentazione e controllo.

Un problema epistemico: l’opacità

C’è infine un problema epistemico che Cohen, Ajunwa e Parikh considerano forse il più grave: nessun ricercatore indipendente può verificare come ChatGPT Health si comporti su popolazioni diverse di pazienti, quanti errori abbia prodotto, se e come amplifichi i bias già presenti nei dati. OpenAI controlla l’accesso a tutte le informazioni di utilizzo. Gli effetti a scala di popolazione – su chi cerca assistenza medica, su quanto le persone si fidano dei medici, sulla diffusione di informazioni errate – restano non solo attualmente sconosciuti, ma strutturalmente inconoscibili.

Che cosa chiedono

La proposta conclusiva non è un freno all’innovazione, ma una domanda di accountability: protezioni della privacy più solide, accesso obbligatorio ai dati per i ricercatori indipendenti, audit sistematici dopo il lancio. Perché promettere benefici non equivale a dimostrarli e nel frattempo i dati dei pazienti sono già lì, caricati, fuori dalla portata di qualsiasi tutela legale esistente.

«La capacità di aggregare i dati sulla salute individuale e della popolazione attraverso gli LLM potrebbe accelerare la ricerca sulle malattie rare, migliorare la sorveglianza epidemica e personalizzare la gestione della salute» scrivono. «Ma questi potenziali benefici si basano sul presupposto – discutibile – che i dati siano accurati, imparziali e adeguatamente contestualizzati. Al momento, nessuna di queste ipotesi è ben fondata». E il fatto che ora i pazienti solo con un clic possano condividere la loro cartella clinica con un LLM «si discosta fondamentalmente» dal ruolo che tradizionalmente hanno le cartelle nel processo decisionale clinico.