I sistemi di intelligenza artificiale, basati su large language model, addestrati a masticare una enorme quantità di dati di qualunque natura e di varia fonte, si apprestano potenzialmente a entrare anche nella pratica clinica neurologica. Promettono – se ben educati, utilizzati e opportunamente controllati – di offrire un aiuto concreto al clinico, in ambito prevalentemente diagnostico, di migliorare il dialogo con il paziente o di supportare in redazioni di testi o ricerca di fonti bibliografiche per studi clinici.
È quanto suggerisce uno studio pilota, sperimentale, pubblicato di recente sul Journal of Medical Internet Reserch (1), condotto dal Centro Interdipartimentale di Ricerca Aldo Ravelli per le Neurotecnologie e le Terapie Neurologiche Sperimentali dell’Università degli Studi di Milano in collaborazione con la III Clinica Neurologica dell’Università di Milano presso il Polo Universitario San Paolo, diretta dal prof. Alberto Priori.
Il motore di sviluppo dello studio
Come utilizzare al meglio le tecnologie digitali, entrate nella pratica e vita comune e in modo massivo? Quale comportamento deve adottare e mantenere un professionista, come anche una persona in generale senza formazione specifica in ambito di intelligenza artificiale, per ricavare i maggiori benefici nel proprio settore di interesse, ottenere le maggiori performance e prevenire o contenere i rischi correlati a queste tecnologie?
Sono alcuni quesiti chiave da cui si è mossa l’idea dello studio sperimentale, applicato specificatamente alla neurologia, che ha analizzato utilità, efficacia e rischi di ChatGPT e Gemini, due dei LLM più impiegati a livello globale, prendendo come riferimento il lazy neurologist o dummy neurologist, il professionista che conosce le tecnologie disponibili ma che utilizza senza consapevolezza delle effettive potenzialità, compreso possibili implicazioni e rischi, a causa di una mancata formazione specifica alle spalle. Il lavoro, nato in ambito neurologico, potrà essere esteso anche ad altri settori, per esempio giuridici o letterari e editoriali, grazie anche alle iniziative della Academy di IA (la StAI Academy) nata di recente all’Università di Milano che, essendo un ateneo di impronta generalista, ben rappresenta i diversi percorsi professionali.
L’obiettivo è comprendere le modalità di utilizzo da parte di chi vi fa normalmente ricorso, identificare i rischi connessi e i bisogni formativi. Lo studio, che al momento ha utilizzato cartelle cliniche scelte a random per fare le diverse simulazioni, potrà essere esteso a diversi altri ambiti neurologici, oltre alla diagnosi, con l’intento soprattutto di modificare e migliorare le interazioni con il sistema, facendo ricorso anche ai nuovi sistemi che, pur nella versione gratuita, si sono via via sempre più raffinati.
Gli ambiti di applicazione degli LLM in neurologia
Sono vasti e di varia natura. «L’ambito diagnostico», dichiara Sara Marceglia, professore di Bioingegneria presso l’ateneo milanese, «è uno dei principali e dei più semplici, a cui possono essere applicati gli LLM, cui si aggiungono, per esempio, la sintesi della documentazione clinica dopo la prima visita, la consultazione della letteratura scientifica sia a scopo clinico sia di ricerca. Inoltre, queste tecnologie possono essere impiegate per migliorare la relazione e il dialogo con il paziente, per esempio nelle fasi di telemonitoraggio o di teleassistenza domiciliare in cui una parte delle informazioni utili al neurologo possono essere convogliate in autonomia dal paziente in una chatbot strutturato sulla base di LLM e di algoritmi di IA. L’endpoint principale del nostro studio era definire e valutare l’utilità di questi strumenti tecnologici in contesti di real world, ricavandone delle evidenze scientifiche. Infatti, gli LLM di più largo uso come ChatGPT e Gemini sono generalisti, sono cioè addestrati su diversi ambiti del sapere, ampi e diversificati, senza una precisa specificità in una determinata disciplina, nello specifico la neurologia. Aspetto, quest’ultimo, che non va trascurato o sottovalutato».
Questa potenziale criticità potrebbe incentivare la costruzione di sistemi dedicati alla neurologia, come già avviene in altri contesti, utilizzando degli Small Language Models (SLM) che hanno l’ulteriore vantaggio, dovendo limitarsi a fornire informazioni in un campo specifico e più ristretto, di fornire risposte più adeguate anche in assenza di specifiche indicazioni, per esempio sulle fonti a cui attingere per costruire la risposta, aumentando di conseguenza l’efficacia di utilizzo e la sostenibilità degli SLM.
«Va, infatti, considerato che ogni volta che si fa un’interrogazione per quanto minimale, il sistema consuma energia e al contempo introduce rischi e problemi legati alla privacy. Infatti, se in modo inconsapevole vengono trasferite informazioni, quali per esempio il referto di un paziente, al LLM, senza utilizzare un sistema di protezione, come può essere quello all’interno dei sistemi dell’ospedale o dell’università, in cui sono già state attivate e rispettate tutte le norme di sicurezza e privacy vigenti per legge, ma uno strumento di uso pubblico, come gli LLM gratuiti, le probabilità di incappare in un evento avverso aumenta sensibilmente. Rischi che potrebbero invece diminuire con gli SLM. Quindi, la prima raccomandazione è di usare gli strumenti istituzionali che, di norma, hanno domini specifici per la struttura che ha acquistato il sistema e che, soprattutto, non vengono utilizzati per il cosiddetto fine tuning dei modelli, cioè l’uso dei risultati dell’interazione con gli utenti per addestrare in modo più raffinato un modello di IA e renderlo più preciso».
Va, inoltre, considerato che in neurologia, come in altri ambiti, applicazioni più classiche rispetto alla IA generativa (cioè i LLM), come il machine learning o il deep learning possono essere di alta efficacia per la lettura delle immagini e per il supporto al clinico in scelte terapeutiche. Non ultimo va valutato il problema dell’integrazione di questi sistemi nella quotidianità clinica, dovendosi scontrare con il tema dell’interoperabilità, con il rischio di fornire informazioni che restano isolate o frammentate o di duplicare dati. «Sistemi realmente efficaci», sottolinea Marceglia, «devono essere integrati nella pratica e nei sistemi informativi sanitari, ambito su cui sta investendo in parte anche il Pnrr nel capitolo della IA e dello sviluppo di ecosistemi di dati sanitari».
Lo stato dell’arte dello studio
Lo studio attuale è stato sviluppato utilizzando sistemi di IA gratuita, la versione base e pubblica di ChatGPT e Gemini disponibili al momento della sperimentazione, che differiscono da quelle disponibili, che risultano migliorate e aggiornate dall’utilizzo nel corso dell’ultimo periodo, potendo pertanto offrire oggi dati diversi e più maturi rispetto a quelli ottenuti al momento della sperimentazione.
«Il primo aspetto che abbiamo voluto indagare è quanto questi strumenti siano o possano diventare di reale supporto al clinico. Nell’attuale contesto è stata lasciata al neurologo la libertà di inserire e rivolgere al sistema qualunque tipo di domanda, secondo le proprie necessità. Mentre un raffinamento del prompt, quindi del tipo di domanda che viene posta al sistema, presumibilmente potrà dare un supporto maggiore. Quale fra i diversi prompt possa essere il più efficace allo scopo, senza essere eccessivamente impegnativo, in termini di gestione delle finalità e funzionalità richieste o di manutenzione e aggiornamento sarà oggetto di studi successivi. Quindi queste tecnologie, per essere realmente efficaci, devono essere user friendly, funzionali, puntuali nel tipo di informazioni fornite e performanti. Prossimo passo, presumibilmente oggetto di un nuovo studio, sarà anche capire quale supporto e aiuto possano dare al medico coadiuvato, rispetto al medico senza formazione, così da potere creare un sistema ad hoc. Infatti, non basta addestrare un sistema, o anche una porzione di LLM: per renderla di pratico utilizzo e validato è necessario che risponda alle regole dell’AI ACT, la prima legge completa dell’Unione Europea sull’intelligenza artificiale, che mira a regol(ment)are lo sviluppo e l’uso dell’IA basandosi sulla valutazione del rischio (rischio inaccettabile, alto, limitato, minimo) per proteggere i diritti fondamentali della persona e/o del contesto, promuovere l’innovazione e la competitività. Ciò rende necessario che questi strumenti siano certificati, valutando una loro possibile evoluzione verso software concepiti come dispositivo medico».
Infatti, al di là della ricerca scientifica, che può essere portata avanti dall’università e dai centri di ricerca, per rendere questi strumenti utilizzabili nella pratica quotidiana/clinica è necessario avvalersi di aziende specializzate che possono supportare l’intero processo, gestirne la complessità nonché la manutenzione e l’upgrading.
Le evidenze
I dati preliminari dello studio suggeriscono una potenziale efficacia degli LLM in neurologia. «Dal punto di vista della prima diagnosi, i due modelli di LLM interrogati non se la sono cavata male, benché il neurologo abbia prevalso in accuratezza diagnostica, che ha raggiunto il 75%, superando ChatGPT (54%) e Gemini (46%). Entrambi i LLM hanno mostrato limitazioni nel ragionamento clinico sfumato e nella tendenza a prescrivere più test diagnostici nel 17-25% dei casi.
Infatti, simulando la prima visita, abbiamo voluto valutare la qualità e appropriatezza dei suggerimenti offerti dai sistemi circa gli accertamenti e le indagini aggiuntive per qualificare meglio il quadro clinico. È emerso, in funzione dell’input diagnostico dato, che sia ChatGPT sia Gemini tendevano a prescrivere più esami rispetto a quelli ritenuti opportuni dal neurologo, presumibilmente perché mancanti di alcune finezze sul paziente, per esempio di dati osservazionali in mano al medico raccolti nel corso della visita. Quindi, in questo senso i LLM non si sono rivelati di grande aiuto per il clinico.
Tuttavia, l’aspetto interessante è che questi strumenti forniscono una spiegazione della diagnosi che giustifica il pacchetto di esami proposti dal sistema: un elemento che per interazioni successive può diventare di supporto, con l’obiettivo di avere una sorta di consulente virtuale con cui il clinico può dialogare». Se, da un lato, la valutazione limitata alla prima interazione può essere stata penalizzante, perché non sufficientemente strutturata, dall’altro questa prima valutazione ha contribuito a evidenziare i rischi potenziali di un uso non adeguato di questi strumenti digitali.
«Il primo dato emerso», precisa la professoressa Marceglia, «per contrastare questa evenienza più che plausibile, è fare una corretta formazione addestrando tutti gli utilizzatori in maniera capillare, affinché possano ottenere il massimo beneficio dalla tecnologia disponibile, educando al tipo di domande da porre e in quale modalità e tono e alle successive interazioni al fine di capire se i suggerimenti proposti sono fondati su base scientifica, oppure no».
L’indagine sui medici specializzandi
Parallelamente a questo studio, gli autori hanno condotto una indagine che ha coinvolto medici specializzandi in neurologia, i cui risultati sono di prossima pubblicazione su Neurology, in cui è stato chiesto di riferire la propria percezione di conoscenza e livello di utilizzo di strumenti di IA e quali le attese correlate al loro impiego.
«È emerso chiaramente che la gran parte degli specializzandi fa uso quotidiano di questi strumenti, pur con la consapevolezza di una conoscenza mediamente elementare dello strumento, esponendosi oltre a un utilizzo non ottimale, a potenziali errori umani fin dal primo accesso e dalla prima richiesta d’informazioni, aumentando di conseguenza anche le probabilità di allucinazioni. Da ciò il bisogno di training e di una formazione specifica (tanto che si sta introducendo l’argomento nelle scuole di specialità) per educare a questi sistemi: cosa sono, come funzionano, di quali dati necessitano, le modalità per una migliore interazione e così via».
Va tuttavia sottolineato che anche una corretta (in)formazione può ridurre, ma non abbattere del tutto il rischio di allucinazione, tramite l’attivazione di specifiche strategie che aiutano a captare una potenziale allucinazione.
«La riduzione del rischio di allucinazione potrà essere ampiamente migliorato, ma poiché questi sistemi si basano sulla statistica, sulla probabilità di occorrenza e di collegamento fra concetti, il valore aggiunto sta nel cogliere un dato fake, non utilizzabile a scopo clinico, diagnostico, di ricerca o di altro impiego. Per esempio, in caso di ricerche bibliografiche, che rappresentano un ambito ad alto rischio di allucinazioni, gli LLM possono essere smentiti andando a verificare il tenore della fonte, vero o fake, quindi la reperibilità ed esistenza nei principali motori di ricerca. Questi sistemi funzionano, invece, molto bene nel supportare e migliorare la redazione di un testo, perfezionare il lessico, il tone of voice, specie in caso di lingue non madri, con un sensibile risparmio del tempo nella revisione e correzione».
Il rischio di un overtreatment diagnostico legato al sistema
Potenzialmente questo aspetto in futuro potrà essere migliorato. «Ciò dipenderà anche dal tipo di utilizzo», precisa Marceglia, «perché allo stato attuale, in assenza d’integrazione, il sistema si può alimentare con informazioni sul paziente immesse dal medico/neurologo sulla base dei dati alla prima visita o di informazioni riferite dal paziente stesso, dal caregiver o da altra figura assistenziale. In futuro, invece, le informazioni integrate potranno essere reperite dal Fascicolo Sanitario Elettronico o dalla cartella clinica informatizzata. Il sistema potrà così estrarre e sintetizzare le informazioni, grazie a una capacità sensibilmente maggiore di convogliare e analizzare dati».
In linea generale questi strumenti, se ben addestrati, con informazioni più puntuali, potrebbero aiutare il clinico a modificare una prima scelta, non solo diagnostico-strumentale, ma anche farmacologica di fronte a più opzioni terapeutiche possibili.
«Questi sistemi possono integrare facilmente linee guida o selezionare più velocemente la linea guida e le raccomandazioni d’interesse, o se opportunamente utilizzati e interoperabili, possono essere messi a sistema in modo più articolato, per esempio per presentare in maniera più facile ed efficace le opzioni terapeutiche al paziente, grazie a spiegazioni più dirette, più colloquiali e divulgative, espresse in maniera più coinvolgente». Una recente review (2) dimostra che nel percepito del paziente questi sistemi sono ritenuti più empatici del medico, per le modalità di dialogo più cerimoniose. Un dato rilevabile da tutti gli studi di letteratura sull’argomento, suggerendo che sistemi di IA potrebbero essere introdotti per favorire la migliore relazione medico-paziente o per la presentazione delle opzioni terapeutiche allo stesso. Vero è, infatti, che il medico non è più il solo decisore: si avvale di un team in cui è coinvolto anche il paziente con cui vengono condivise le scelte terapeutiche.
«Un trattamento se non è ben accetto dal paziente perde in efficacia, diminuisce l’aderenza terapeutica e, di fatto, l’outcome atteso. Quindi la compartecipazione del paziente nella scelta terapeutica è fondamentale e ciò è ben noto in oncologia, in patologie croniche, dove le opzioni di trattamento sono (di norma) maggiori e in diversi altri campi».
Sviluppi dell’IA e nuove tecnologie
Più le tecnologie si utilizzano, più funzionano meglio: importante è mantenere il controllo dell’utilizzo.
«L’ignoranza dello strumento, quindi il suo cattivo utilizzo», conclude Marceglia, «si riversa anche sulle performance della macchina stessa. In buona sostanza, occorre avere consapevolezza dell’uso del mezzo, tenuto conto che sono tecnologie costose in termini di realizzazione, di immissione dati, di consumo di energia, mantenimento e aggiornamento dati. Pertanto, laddove possibile e sufficiente, il consiglio è di ricorrere non al sistema intero ma a porzioni più piccole dello stesso, con il vantaggio di una maggiore sostenibilità e interoperabilità. Nell’attuale contesto, in cui si sta osservando una esplosione dei macrosistemi, cioè di grandi LLM, addestrati a livello globale con dati compatibili, non è da escludere che la curva possa andare verso la specializzazione in determinati ambiti, come quello giuridico o medico.
Per esempio, è di recente uscito ChatGPT salute dedicato al paziente; sarà opportuno capire come funziona lo strumento, come è stato addestrato, come e se è stato differenziato il livello d’informazione e addestramento anche in funzione dell’utilizzo e della popolazione che ne fa uso: tutti aspetti di cui, noi esperti, abbiamo la responsabilità. Occorre, infine, imparare a selezionare e cercare dati digitali di buon valore, aspetto tanto più importante in ambiti come la medicina: il garbage (la spazzatura) dei sistemi ne peggiora le performance, a danno del clinico e del paziente».
Bibliografia
1) Maiorana NV, Marceglia S, Treddenti M et al. Large Language Models in Neurological Practice: Real-World Study. Journal of Medical Internet Research, 2025, 22:27:e73212. Doi: 10.2196/73212
2) Howcroft A, Bennett-Weston A, Khan A et al. AI chatbots versus human healthcare professionals: a systematic review and meta-analysis of empathy in patient care. British Medical Bulletin, Volume 156, Issue 1. Doi: https://doi.org/10.1093/bmb/ldaf017
Articolo tratto dal numero di giugno 2026 di Tecnica Ospedaliera
