Necessarie descrizioni delle immagini e metadati dei pazienti, ma anche valutazione pubblica degli algoritmi e monitoraggio durante l’applicazione clinica
Il gruppo di lavoro sull’intelligenza artificiale della International skin imaging collaboration (Isic) ha pubblicato le prime linee guida che si rivolgono agli sviluppatori di algoritmi di intelligenza artificiale da utilizzare in dermatologia.
Pubblicate su Jama Dermatology [1], contengono un’ampia gamma di raccomandazioni che le parti interessate dovrebbero considerare durante la realizzazione di questi software; «ci auguriamo che possano aiutare anche gli organismi di regolamentazione di tutto il mondo nei processi di validazione e valutazione», ha affermato Roxana Daneshjou dermatologa della Università di Stanford, in California, e prima autrice del documento.
Per esempio, le linee guide raccomandano che i data set dei dati utilizzati dagli algoritmi di intelligenza artificiale abbiano descrizioni delle immagini e dettagli sulle informazioni connesse: «per le fotografie, occorre specificare il tipo di fotocamera utilizzata; se le immagini sono state scattate in condizioni standard o variabili; se sono state realizzate da fotografi professionisti, da profani oppure da operatori sanitari». Inoltre, dovrebbe essere inclusa una descrizione, il tipo di illuminazione utilizzata e se contengono segni di penna, capelli, tatuaggi, ferite o effetti chirurgici.
Le linee guida dell’Isic forniscono anche indicazioni riguardo ai metadati relativi ai pazienti: ciascuna immagine deve essere associata alla posizione geografica del soggetto fotografato e al centro medico visitato, nonché all’età, al sesso, all’etnia e al tono della pelle. Daneshjou ha affermato che si tratta di un aspetto trascurato negli algoritmi attuali, che risentirebbero quindi di una minore precisione.
Gli autori hanno osservato che le modalità con cui le immagini in un set di dati sono etichettate rappresentano un aspetto delicato nello sviluppo di algoritmi di intelligenza artificiale per la dermatologia: si dovrebbe includere la diagnosi istopatologica nell’etichettatura, ma questo potrebbe causare confusione e bias negli algoritmi che elaborano i dati.
«Un’altra raccomandazione importante è che gli sviluppatori dovrebbero facilitare una valutazione pubblica degli algoritmi da parte dei ricercatori – ha detto Daneshjou – mentre oggi, in molti casi, questo non avviene, con ripercussioni sulla robustezza e sulla riproducibilità dei software». E cita il caso di Google, che ha vantato l’accuratezza e la capacità diagnostica di un proprio assistente dermatologico, ma «non c’è modo per i ricercatori di verificare in modo indipendente queste affermazioni».
I ricercatori dell’Isic raccomandano anche di considerare e discutere gli aspetti etici delle applicazioni, valutandone l’impatto sulle popolazioni vulnerabili: «un algoritmo che suggerisce trattamenti medici estetici può avere effetti negativi, data la natura distorta degli standard di bellezza», mentre «un algoritmo che diagnosticasse i carcinomi a cellule basali omettendo i carcinomi basocellulari pigmentati, che si osservano più spesso nelle persone di colore, non presenterebbe le necessarie caratteristiche di equità».
Prima di implementare un algoritmo di intelligenza artificiale, gli autori raccomandano che vengano eseguiti studi clinici prospettici necessari per la sua convalida mentre, dopo la sua immissione sul mercato, serviranno «ulteriori ricerche sul monitoraggio durante l’applicazione clinica». L’articolo fa notare che attualmente non esistono algoritmi di intelligenza artificiale approvati dalla Food and drug administration americana per l’utilizzo in dermatologia; ci sono invece diverse applicazioni che hanno il marchio CE in Europa, ma non dispongono ancora di meccanismi per la sorveglianza post-vendita».
Le raccomandazioni Isic «forniscono un quadro per un linguaggio comune riguardo ai set di dati di intelligenza artificiale specificamente adattati alla dermatologia»
Un commento a questo lavoro è giunto da Justin M. Ko, direttore della dermatologia medica alla Stanford Health Care, secondo cui le raccomandazioni Isic sono tempestive e forniscono un quadro per un linguaggio comune riguardo ai set di dati di intelligenza artificiale specificamente adattati alla dermatologia.
«Man mano che le capacità di apprendimento automatico e gli sforzi commerciali continuano a migliorare – ha affermato Ko – diventa sempre più importante poter “guardare dentro il cofano” e valutare tutti i fattori critici che influenzano lo sviluppo di queste capacità. Le linee guida consentono di ottenere più trasparenza nella valutazione dei dati e delle prestazioni di modelli e algoritmi, ma impongono anche di considerare questioni etiche».
Una preoccupazione è l’impatto degli algoritmi di intelligenza artificiale sulla società o sui sistemi sanitari: «l’ultima cosa che vorremmo – ha continuato l’esperto – è lo sviluppo di robusti sistemi di intelligenza artificiale che però aumentino le difficoltà di accesso alle cure, che generino ansia e preoccupazione nei pazienti, che creino una barriera tecnologica all’assistenza o che aumentino le disparità».
Nello sviluppo di algoritmi di intelligenza artificiale per la dermatologia, un importante problema pratico è il modo in cui le prestazioni previste si tradurranno nell’uso nel mondo reale, e queste linee guida «costituiscono un passaggio fondamentale per plasmare l’avvento dell’intelligenza artificiale nel migliorare i risultati clinici e nel promuovere una relazione tra clinici e pazienti fondata su principi di equità e trasparenza».
Renato Torlaschi
Bibliografia
1. Daneshjou R, Barata C, Betz-Stablein B, et al. Checklist for Evaluation of Image-Based Artificial Intelligence Reports in Dermatology: CLEAR Derm Consensus Guidelines From the International Skin Imaging Collaboration Artificial Intelligence Working Group. JAMA Dermatol. 2022 Jan 1;158(1):90-96.
