di Parminder Bhatia
Negli ultimi anni, l'intelligenza artificiale (AI) ha rivoluzionato il settore sanitario, diventando un supporto fondamentale per diagnosi, trattamento e gestione dei pazienti. Tuttavia, per garantire che queste tecnologie siano realmente al servizio delle persone, rispettino la dignità umana e operino in un contesto di controllo e supervisione, è necessario adottare un approccio responsabile e multidisciplinare.
In GE HealthCare, siamo convinti che la fiducia sia il pilastro di ogni innovazione tecnologica. Da oltre 125 anni, sviluppiamo dispositivi medici e soluzioni per la cura dei pazienti, supportando oltre un miliardo di persone all'anno con le nostre tecnologie diagnostiche, tra cui radiografie, PET, ecografie ed ECG. Per garantire un uso etico e sicuro dell'AI, abbiamo sviluppato i nostri Principi per una AI responsabile, che guidano ogni fase della progettazione e dell’implementazione delle nostre soluzioni.
I nostri 7 principi per una AI responsabile
I nostri principi assicurano che ogni sistema di AI sia progettato rispettando i più alti standard di performance, sicurezza e responsabilità:
- Sicurezza: vogliamo garantire la massima sicurezza, evitando applicazioni indesiderate dell'AI e promuovendo l'uso sostenibile delle tecnologie in linea con gli obiettivi ESG (Environment, Social, Governance) di GE HealthCare.
- Validità e affidabilità: i nostri sistemi AI sono progettati per fornire risultati accurati e coerenti e per funzionare in modo prevedibile all'interno di intervalli di variazione accettabili.
- Sicurezza informatica e resilienza: i nostri sistemi AI sono progettati per resistere a eventi avversi e a cambiamenti inattesi nel loro ambiente o nelle loro modalità d'uso. Ci assicuriamo che garantiscano riservatezza, integrità e disponibilità dei dati anche in presenza di attacchi informatici o tentativi di accesso non autorizzati.
- Responsabilità e trasparenza: garantiamo che ogni sistema di AI sia tracciabile e comprensibile, fornendo informazioni tempestive e significative agli stakeholder, adattate alle competenze e alle esigenze di accessibilità di ciascun pubblico di riferimento. Ogni decisione presa da un sistema di AI è regolata da una struttura di responsabilità ben definita.
- Spiegabilità e interpretabilità: i nostri sistemi AI sono progettati per essere trasparenti e comprensibili, in modo che il processo decisionale possa essere tracciato e giustificato.
- Tutela della privacy: progettiamo sistemi AI che garantiscono la protezione dei dati personali e la privacy degli utenti. Adottiamo le migliori pratiche per proteggere l'autonomia, l’identità e la dignità degli individui.
- Equità e riduzione dei bias: sviluppiamo e utilizziamo sistemi AI che garantiscono equità, inclusione e accessibilità per tutti, evitando discriminazioni e pregiudizi.
Dalla teoria alla pratica: applicazioni concrete
L'implementazione responsabile dell'AI non è solo una questione teorica, ma si traduce in soluzioni pratiche per migliorare la sanità.
1. Mitigare le allucinazioni dell'AI
Le "allucinazioni" dell'AI si verificano quando il sistema genera informazioni errate o fuorvianti che sembrano plausibili ma non sono basate sulla realtà. In ambito sanitario, tali errori possono portare a diagnosi o trattamenti errati. Per mitigare questo rischio, adottiamo tecniche di prompt engineering, ottimizzando gli input per migliorare la precisione delle risposte. Ad esempio, fornire informazioni strutturate come anamnesi, sintomi e dati di imaging migliora significativamente la precisione rispetto a domande aperte e vaghe.
Inoltre, utilizziamo la tecnica Retrieve-Augment-Generate (RAG), che ancora le risposte dell'AI a dati reali e verificabili. Inoltre, il grounding visivo rafforza la precisione dei risultati, collegando le descrizioni testuali a regioni specifiche nelle immagini mediche. Un esempio è il Medical Report Grounding (MRG), che evidenzia automaticamente aree sospette, come un addensamento polmonare in una radiografia, aiutando il radiologo a confermare la diagnosi sulla base della regione di interesse nella scansione.
Ulteriori strategie includono l’uso di tecniche di spiegabilità e ragionamento basato su ontologie, che confrontano i sintomi con le classificazioni note delle malattie per prevenire errori. Infine, meccanismi di controllo della temperatura nei modelli di linguaggio aiutano a stabilizzare le risposte e migliorare la riproducibilità dell’output.
Grounding visivo per ancorare le descrizioni testuali a specifiche regioni nelle immagini
2. AI responsabile nella progettazione
I nostri principi di AI responsabile guidano lo sviluppo di strumenti avanzati con l’obiettivo di migliorare sicurezza, trasparenza ed efficacia clinica. Un esempio è lo strumento Real-Time Ejection Fraction (EF), attualmente in fase di sviluppo, che semplifica la valutazione della funzione ventricolare sinistra utilizzando l’ecografia point-of-care (POCUS). La funzione ventricolare sinistra è un parametro essenziale per valutare la salute del cuore. Questo strumento fornisce misurazioni rapide e semi-automatizzate della frazione di eiezione (EF) con un indicatore di qualità a semaforo (verde, giallo, rosso) che aiuta a valutare in tempo reale la qualità e la coerenza della scansione.
Lo strumento Real-Time Ejection Fraction in azione
Tradizionalmente, il calcolo della frazione di eiezione richiede immagini e misurazioni manuali, un processo che può durare dai 10 ai 15 minuti e che necessita di competenze specialistiche. I test effettuati sul nostro strumento dimostrano che consente di ottenere risultati più rapidi, contribuendo a migliorare sia la velocità che la precisione delle valutazioni.
L'AI responsabile si concretizza in questo strumento attraverso un sistema di qualità codificato a colori che permette agli operatori sanitari di visualizzare e selezionare i dati più affidabili. La sicurezza è stata migliorata grazie a suggerimenti forniti durante le scansioni subottimali, mentre la responsabilità è garantita attravero la conferma manuale e la tracciabilità dei fotogrammi selezionati.
Migliorando l’accessibilità e riducendo la variabilità nei risultati, lo strumento è progettato per aumentare l’accuratezza diagnostica. Validato confrontando le misurazioni con quelle effettuate da esperti, aiuta a fornire diagnosi rapide e a garantire che tutti possano accedere a cure cardiache avanzate in modo equo.
3. Definizione degli usi previsti
Affinché un sistema di AI possa garantire sicurezza, prestazioni ottimali e conformità normativa, è fondamentale definire con precisione i suoi casi d'uso. Ogni tecnologia AI deve essere progettata con scopi ben delineati, assicurando che il suo impiego sia appropriato e affidabile.
Questo aspetto diventa ancora più rilevante per le tecnologie come i foundation model, che hanno capacità molto ampie ma necessitano di un adattamento specifico per svolgere compiti precisi in maniera efficace e sicura. Stabilire chiaramente gli ambiti di applicazione consente di mantenere il controllo sulle prestazioni, assicurare la conformità normativa e ridurre i rischi.
Definire gli ambiti di utilizzo è essenziale per sfruttare appieno il potenziale dell’AI, mantenendo al tempo stesso un livello elevato di sicurezza e affidabilità. Nei prossimi approfondimenti, continueremo a esplorare le strategie per un’implementazione responsabile dell’AI in ambito sanitario, con l’obiettivo di garantire innovazione e qualità nelle cure ai pazienti.
