L’innovazione corre e interviene con effetti dirompenti sulla società e sui suoi equilibri. In un ambito tanto delicato quale quello della salute, le preoccupazioni non sono poche. Con Silvia Stefanelli, Co-Titolare dello Studio Legale Stefanelli&Stefanelli ed esperta di Diritto Sanitario, abbiamo parlato di come la normativa sta intervenendo per disciplinare il contesto.
Avvocato Stefanelli, quali ritiene essere gli aspetti più rilevanti dell’AI Act?
Senza dubbio l’aspetto più innovativo dell’accordo dell’8 dicembre 2023 è rappresentato dalla disciplina sulla AI generativa. La proposta presentata nel 2021 conteneva infatti una disciplina per l’AI predittiva molto simile a quella del regolamento sui dispositivi medici (MDR), con una serie di requisiti da rispettare, un sistema di controlli preventivi e l’apposizione di una marcatura CE. I requisiti da rispettare erano ulteriori rispetto a quelli del MDR, coinvolgendo anche la qualità dei dati, gli aspetti etici e i rischi legati ai bias. Nel frattempo, si è verificato un fenomeno di portata dirompente, ovvero l’introduzione di Chat GPT. Di conseguenza, a questa architettura giuridica, rimasta per lo più invariata, è stata aggiunta oggi una parte (molto consistente) che riguarda l’AI generativa. Al momento, l’accordo è dunque composto di due parti, entrambe necessarie, che però non sembrano essere ben coordinate tra loro. Speriamo quindi che il testo che verrà votato a fine aprile in Parlamento UE armonizzi alcune discrasie.
In particolare, quale sarà l’impatto in sanità?
L’impatto in sanità sarà importante. Infatti, tutti i Software as a Medical Device (i cosiddetti SaMD) le cui funzionalità rientrano nella nozione di “intelligenza artificiale” di cui all’art. 3 del AI Act dovranno adeguarsi alla nuova disciplina entro 2 anni della pubblicazione in GUCE [ndr: Gazzetta Ufficiale dell’Unione Europea]. Quindi se l’AI Act verrà pubblicato in autunno 2024, ipotesi oggi plausibile, i termini di adeguamento cadranno nell’autunno del 2026. Tale termine potrebbe poi intersecarsi con i nuovi termini dell’art. 120 MDR (come modificato dal Reg. Ue 607/2023): infatti, i SaMD cosiddetti legacy (che possono continuare ad essere immessi sul mercato fino al 2027/2028 a seconda della classe di rischio), potrebbero doversi adeguare al MDR e all’AI Act prima se contengono un modulo di AI. Inoltre, i requisiti che dovranno essere rispettati secondo l’AI Act si alzano: l’art. 10 prevede infatti una qualità dei dati di addestramento e validazione molto più elevata, occorrerà effettuare una Valutazione dell’Impatto sui Diritti Fondamentali e i software dovranno comunque prevedere la possibilità di una supervisione umana (art. 14). Una tale circostanza attribuisce un ruolo di fondamentale importanza alla componente umana e conferma la necessità di assoggettare l’AI al principio della progettazione antropocentrica, che consiste nell’adozione di soluzioni che attribuiscano all’essere umano il potere di sorveglianza e controllo dei processi operativi. Questo porta ad un altro elemento di estrema rilevanza: il coinvolgimento diretto, molto più forte e mai realizzato in passato nell’ambito di un regolamento di prodotto, degli utilizzatori. E determina non solo un obbligo in capo al produttore ad informare e formare i sanitari che utilizzeranno i sistemi di AI, ma anche la responsabilità dei sanitari stessi ad essere formati in maniera appropriata in relazione ai sistemi che sono chiamate a usare. All’interno dell’AI Act questo elemento, già accennato nella normativa che disciplina i dispositivi medici, risulta molto potenziato.
Per quanto riguarda lo European Health Data Space (EHDS), la cui proposta di Regolamento sta seguendo il suo iter legislativo, quali si prospettano essere i principali vantaggi per ricercatori e pazienti?
L’EHDS è destinato a rivoluzionare il mondo della ricerca, specie in un Paese come il nostro che ha regole molto stringenti: mi riferisco ovviamente agli artt. 110 e 110-bis del Codice della Privacy che, nella loro applicazione, stanno creando rilevanti problemi. Per noi, l’introduzione dell’EHDS rappresenterà un salto quantico rispetto alla situazione attuale. La possibilità di accedere all’uso secondario dei dati comporterà che tutti i dati accolti per l’uso primario di diagnosi e cura potranno essere poi utilizzati, seppure non tout-court ma attraverso una specifica procedura, per finalità secondarie, tra cui la ricerca.
Nei mesi scorsi sono state espresse perplessità riguardo i meccanismi di consenso, che potrebbero limitare la quantità di dati effettivamente disponibili: cosa ne pensa?
L’EHDS, nella sua ultima versione, potenzia molto il concetto di proprietà del dato, conferendo al paziente il potere di impedirne l’uso secondario. Più esattamente, l’architettura iniziale della proposta di Regolamento prevedeva la partecipazione di tutti i dati all’alimentazione dell’EHDS, previo intervento di specifici meccanismi di controllo finalizzati alla loro organizzazione, pulizia, anonimizzazione. Nell’ultima versione, invece, è stato introdotto un potenziamento del controllo da parte del paziente: di default tutti i dati possono essere impiegati per secondary use, eccettuati i casi in cui il paziente si opponga ad alcune delle (o tutte le) finalità previste. Tuttavia, è bene sottolinearlo, non è detto che la sezione introdotta permarrà (almeno nella attuale stesura) nel corso dei negoziati del trilogo. Questa possibilità in capo ai pazienti se da una parte appare positiva perché potenzia il diritto in capo al singolo sui suoi dati, dall’altra potrebbe in effetti portare ad una limitazione della possibilità di utilizzare dati per il secondary use. Sarà molto importante che la comunicazione sul punto sia trasparente e corretta, proprio per permettere ai cittadini europei una scelta consapevole.
A suo parere, i professionisti che operano in sanità a vario titolo sono sufficientemente preparati per la gestione delle complessità inerenti l’EHDS?
Guardi, siamo figli di un’epoca in cui la regole erano scritte per il mondo reale. Poi, nell’arco di un intervallo di tempo brevissimo, a questo mondo reale si è aggiunta una realtà digitale, e con essa tutte le discipline afferenti e la necessità di mettere in campo competenze, formazione, conoscenza che ne consentano la gestione. L’aspetto particolare del contesto attuale è rappresentato dalla velocità con cui l’innovazione si muove, che rende molto difficile tenere il passo sia legislativo che di competenze per gestire in maniera appropriata opportunità e rischi connessi all’uso degli strumenti digitali. La mia risposta alla sua domanda, pertanto, è no, non credo. Ma, al tempo stesso, non credo neppure che si possa arrestare il processo: dunque, anche se la normativa prodotta ad oggi non è ancora perfetta e se le competenze non sono ancora complete, questa situazione è comunque meglio dell’assenza di regole, condizione che comporterebbe la vittoria delle “regola del più forte”.
