Nel contesto di una sanità sempre più orientata ai dati, l’IA va affermandosi come uno degli strumenti più promettenti – e più complessi – per supportare i processi decisionali clinici e organizzativi. La sua crescente diffusione impone, però, una riflessione approfondita non solo sulle potenzialità applicative, ma anche sulle implicazioni etiche, giuridiche e sistemiche che ne accompagnano l’adozione.
In questo scenario s’inserisce il progetto Faith (Fair AI for the Transformation of Healthcare), sviluppato nell’ambito del programma Fair – Future Artificial Intelligence Research, con l’obiettivo di promuovere un uso dell’IA in sanità equo, trasparente e sostenibile.
Con approccio multidisciplinare, il progetto affronta nodi cruciali come i bias algoritmici, la governance dei dati e l’integrazione delle tecnologie nella pratica clinica.
Ne parla la prof.ssa Elena Giovanna Bignami, presidente Siaarti per il triennio 2025-2027, che ne illustra razionale, obiettivi e prospettive.
Tra opportunità e criticità
L’IA sta ridefinendo il modo in cui la medicina interpreta i dati, supporta le decisioni cliniche e organizza i percorsi di cura. Dalla capacità di analizzare grandi volumi di informazioni alla possibilità di sviluppare modelli predittivi sempre più sofisticati, le applicazioni dell’IA aprono scenari promettenti in termini di personalizzazione delle terapie, efficienza dei processi e miglioramento degli esiti.
Allo stesso tempo, però, la crescente integrazione di questi strumenti solleva questioni rilevanti legate alla qualità dei dati, alla trasparenza degli algoritmi e alla responsabilità delle decisioni.
In questo scenario si inserisce il progetto Faith, promosso nell’ambito del programma Fair – Future Artificial Intelligence Research. «L’esigenza era creare un team multidisciplinare di esperti che affrontasse i tre aspetti principali: il problema clinico del trasferimento delle nuove tecnologie nella pratica reale, quello etico legato agli algoritmi e quello organizzativo, legato alla governance e alla trasferibilità delle soluzioni».
Obiettivi e quadro normativo
Il progetto Faith ha l’obiettivo di affrontare in modo strutturato i principali nodi critici legati all’introduzione dell’IA in sanità, a partire dal tema dei bias algoritmici e delle loro implicazioni etiche e giuridiche. In particolare, l’iniziativa mira a fornire una lettura dei rischi connessi all’uso di modelli predittivi, analizzando il quadro normativo di riferimento – dall’AI Act al General Data Protection Regulation fino al Data Governance Act – e contribuendo a individuare possibili strategie di mitigazione.
«Gli obiettivi sono stati anzitutto identificare i problemi ancora aperti e capire su quali aspetti sia possibile intervenire concretamente.
Alcune criticità non possono essere risolte direttamente da noi, ma possiamo favorire un percorso di chiarimento e applicazione, lavorando insieme ai colleghi giuristi per tradurre in pratica strumenti come l’AI Act e il Gdpr».
Accanto alla dimensione regolatoria, il progetto pone al centro lo sviluppo di tecnologie affidabili e orientate all’equità, mantenendo un controllo umano lungo l’intero processo decisionale.
«È fondamentale che questi sistemi restino strumenti di supporto alle decisioni cliniche, con un human oversight costante».
In questa prospettiva, Faith promuove modelli di progettazione responsabile (equity by design) e la costruzione di un ecosistema capace di garantire fiducia e sicurezza nell’uso dell’IA in ambito sanitario.
La trasparenza degli algoritmi
Uno dei nodi più critici affrontati dal progetto Faith riguarda il tema della trasparenza degli algoritmi e, in particolare, il superamento del modello delle cosiddette black box. Se nei contesti non clinici l’opacità dei sistemi può essere tollerata, in ambito sanitario diventa un limite difficilmente accettabile, soprattutto quando l’IA entra a supporto di decisioni che incidono direttamente sulla salute dei pazienti.
«Il primo grande problema è legato alla possibilità di quantificare e comprendere il rischio di bias negli algoritmi. Per questo è fondamentale chiedere che gli algoritmi siano aperti, che si possa capire da dove provengono i dati e quali sono i passaggi che portano all’output finale».
Il riferimento è ai modelli proprietari, spesso caratterizzati da una scarsa trasparenza rispetto ai dati di addestramento e ai meccanismi decisionali interni.
«Non possiamo permetterci di utilizzare in sanità sistemi di cui non conosciamo la qualità del dato o le logiche di funzionamento. Dobbiamo passare dalla logica della black box a quella dell’explainability, cioè alla possibilità di ricostruire il processo che porta alla decisione».
In questa direzione, il progetto si sviluppa all’interno di una collaborazione istituzionale che coinvolge il mondo accademico, in particolare l’Università degli Studi di Parma e il Politecnico di Milano, con l’obiettivo di sviluppare modelli di IA progettati specificamente per l’ambito clinico, basati su dati verificabili e criteri di trasparenza. Accanto alla dimensione tecnologica, emerge con forza anche il tema della scalabilità e della governance del sistema.
«Crediamo che lo sviluppo di questi strumenti debba avvenire in ambito pubblico e con una logica il più possibile centralizzata, per evitare frammentazioni che renderebbero difficile l’estensione su larga scala. L’obiettivo è costruire modelli condivisibili che possano essere adottati nei diversi contesti regionali mantenendo, però, una regia nazionale».
Un passaggio ritenuto essenziale non solo per ridurre il rischio di bias, ma anche per garantire equità nell’accesso alle tecnologie e, più in generale, nelle opportunità di cura offerte ai cittadini.
Bias clinici e validazione dei modelli
Accanto ai temi della trasparenza e della governance, il progetto Faith pone l’attenzione anche su una dimensione meno evidente ma altrettanto rilevante: quella dei bias che si generano a monte, già nella costruzione dei modelli e nella raccolta dei dati clinici.
«Un primo livello di bias è legato al modo in cui vengono condotti gli studi clinici. Si lavora necessariamente su criteri d’inclusione ed esclusione e su contesti altamente selezionati, spesso in centri con competenze e risorse specifiche. Ciò significa che i risultati non sono sempre immediatamente trasferibili ad altri setting».
A questo si aggiunge un ulteriore elemento critico legato alla validazione dei modelli.
«Dal punto di vista metodologico è fondamentale affiancare alla validazione interna una validazione esterna, che consenta di verificare la tenuta dell’algoritmo su popolazioni diverse».
Un passaggio essenziale per ridurre il rischio di distorsioni e garantire una maggiore affidabilità delle applicazioni. In questo contesto, emerge anche la necessità di accompagnare i professionisti sanitari in un percorso di aggiornamento continuo, capace d’integrare competenze cliniche e digitali alla luce delle evoluzioni normative.
«È necessario creare una formazione costante e strutturata che consenta ai clinici di utilizzare questi strumenti in modo consapevole, anche in relazione alle indicazioni dell’AI Act».
Un’esigenza resa ancora più evidente dalla presenza di livelli di competenza molto eterogenei tra i professionisti, che richiedono approcci differenziati e progressivi. In questa prospettiva, il progetto Faith si propone di contribuire a una maggiore consapevolezza di questi limiti, promuovendo approcci in grado di tenere conto della variabilità dei contesti clinici e organizzativi.
L’obiettivo è evitare che modelli sviluppati in ambienti altamente controllati possano generare risultati non coerenti quando applicati su scala più ampia, con possibili ricadute in termini di equità e appropriatezza delle cure.
Verso un modello nazionale equo
Guardando alle prospettive future, il progetto Faith si propone non solo come un’iniziativa di ricerca, ma come un possibile modello di riferimento per l’integrazione dell’IA nel sistema sanitario. L’obiettivo è costruire un approccio condiviso, capace di superare le frammentazioni e di garantire un uso equo e sostenibile delle tecnologie su scala nazionale.
«L’ambizione è sviluppare un modello che sia esportabile e adattabile nei diversi contesti regionali, mantenendo però una regia comune».
In questa prospettiva, strumenti come il Fascicolo Sanitario Elettronico assumono un ruolo centrale nel favorire l’integrazione dei dati e la costruzione di piattaforme interoperabili, in grado di sostenere lo sviluppo di modelli predittivi realmente efficaci. La sfida, però, non è solo tecnologica.
«Dobbiamo evitare che l’IA crei nuove disuguaglianze. In un sistema sanitario pubblico, l’accesso alle tecnologie deve tradursi in opportunità per tutti, non in fattore di ulteriore divario».
Accanto alla dimensione strategica, il progetto prevede anche risultati concreti sia sul piano della conoscenza sia su quello operativo. Tra questi, un’analisi multidimensionale del quadro normativo e regolatorio delle tecnologie di IA, attività formative rivolte a medici e professionisti sanitari sui rischi di bias e sull’importanza del fattore umano, e l’organizzazione di una conferenza internazionale a carattere interdisciplinare, pensata per favorire il dialogo tra clinici, sviluppatori, giuristi ed esperti di etica.
Un momento di sintesi che consentirà di condividere i risultati del progetto e tradurli in strumenti concreti, anche attraverso la pubblicazione di contributi scientifici. Accanto al tema dell’equità, emerge, infine, quello della sostenibilità, non solo organizzativa ma anche ambientale.
«Abbiamo il dovere di assicurarci che questi sistemi siano usati in modo appropriato. L’IA richiede risorse importanti, anche in termini energetici, e deve quindi essere orientata a obiettivi concreti e di reale utilità per i pazienti e per il sistema sanitario».
Articolo tratto da numero di luglio 2026 di Tecnica Ospedaliera
