Paradossalmente la scia delle problematiche legate al discriminazione di genere e di razza ha travalicato i limiti degli algoritmi, come viene riportato da due importanti editoriali, il primo presente sulla rivista Jama il secondo su EBioMedicine.
Si tratta della necessità di introdurre un controllo sugli algoritmi, in analogia alla farmacovigilanza. Infatti con la crescita delle applicazioni dedicate alla medicina, sale la necessità di ottimizzazione legata alle peculiarità e specificità dei diversi gruppi.
Ancora molte difficoltà per la diagnostica
In base a quanto riportato da Peter Embi, Docente presso l’indiana University, il problema è stato fatto emergere da un gruppo di ricercatori della IBM. Questi avevano effettuato l’analisi di efficienza a carico di un algoritmo che è stato utilizzato per un’indagine sul rischio di incidenza di depressione post partum in un campione di donne.
Quello che è risultato dall’indagine sui parametri è che, per via del fatto che la maggior parte dei dati sono stati raccolti a partire da donne di popolazione bianca, quelle appartenenti ad alcune minoranze etniche rischiano di subire discriminazioni indirette, o meglio, di non rientrare nel range.
Le performance di uno specifico algoritmo, infatti, dipendono fortemente dai parametri di ingresso e di conseguenza avere una profilazione scarsamente mirata può portare a risultati poco soddisfacenti se non addirittura a veri e propri danni.
Inoltre bisogna anche tener presente l’elemento umano nella compilazione e nella parametrizzazione a monte, in buona e cattiva fede.
Come già sottolineato da alcuni ricercatori dell’università di Stanford come James Zou e Londa Schiebinger sull’importante rivista di settore EBioMedicine, gli algoritmi su cui si basa intelligenza artificiale, partono da parametri che vengono ricavati storicamente da soggetti che sono principalmente uomini bianchi.
Nel caso specifico si parla di diagnosi relativa ai tumori, ai problemi agli occhi, malattie cardiache e altre patologie frequenti. È quindi importantissimo effettuare una calibrazione e un’ottimizzazione, per rendere sempre più aderente al singolo soggetto un algoritmo.
Maggiore profilazione e inclusività
Nel settore biomedicale, questi software servono per rendere possibile una diagnosi più accurata, favorire i medici nella selezione delle terapie e fornire gli strumenti per la ricerca.
Se i dati che costituiscono la materia su cui lavora l’algoritmo non sono rappresentativi, perché non tengono in considerazione fattori rilevanti, come genere o appartenenza etnica, ci si può trovare di fronte ad un vero e proprio muro.
Infatti l’intelligenza artificiale, che ha un potere discrezionale molto basso se confrontato con quella di un medico, in questi casi propone soluzioni inattendibili.
È stato il caso degli ossimetri che hanno avuto, come riportano gli esperti di Stanford, un’importanza enorme nel monitoraggio dei pazienti affetti da Covid.
Senza scendere troppo nel dettaglio, questi dispositivi si basano sull’assorbimento di determinate lunghezze d’onda della luce da parte dei globuli rossi quando sono ossigenati, ma a essere influente è anche la melanina, che è la molecola responsabile della colorazione della pelle.
Il risultato è che gli ossimetri, se vengono applicati su persone con concentrazioni di pigmento molto alte, presentano risultati inattendibili, che vanificano anche quelli sull’ossigenazione.
Gli errori sui report sono più che triplicati laddove non si abbia una pelle particolarmente chiara, anche se la concentrazione di melanina resta un elemento di disturbo anche per soggetti non strettamente caucasici. Sono stati riportati anche errori piuttosto pesanti per quanto riguarda le donne.
Una maggiore comprensione di questi dati, e la riduzione degli errori, permetterà di avere risultati qualitativamente superiori e che possono permettere di fare passi da gigante. Fattore da non trascurare, se si prende in considerazione le tante strade che questi dati possono aprire. Strade, che possono portare al creare diagnosi o nuovi farmaci che possono andare a salvare la vita di molte persone.
