Un algoritmo di intelligenza artificiale che può riconoscere la razza di un essere umano guardando solo le lastre ai raggi X. È quello che hanno ottenuto alcuni ricercatori del Massachusetts Institute of Technology e della Harvard Medical School, come riferisce un nuovo articolo del Boston Globe.[1]
Gli stessi ricercatori hanno anche pubblicato uno studio su Lancet.[2]
Precisione dell’algoritmo sarebbe addirittura del 90%
La precisione dell’algoritmo sarebbe addirittura del 90% ma la cosa che più meraviglia è che gli stessi scienziati che hanno raggiunto questo risultato non sanno come l’algoritmo ci riesca.
Riconoscere la razza di un essere umano da una lastra raggi X non è una cosa che gli stessi esseri umani possono fare ma questo programma di intelligenza artificiale, che originariamente era stato addestrato solo per leggere le lastre ai raggi X o delle scansioni TC, sembra aver trovato il modo.
Algoritmo riconosceva le lastre dei pazienti neri
Marzyeh Ghassemi, un professore di ingegneria elettrica e informatica al MIT e uno degli autori dello studio, spiega che all’inizio ha pensato ad un errore quando i suoi studenti gli hanno riferito gli strani risultati.
Tutto è nato quando l’algoritmo, analizzando le lastre ai raggi X di diversi toraci, etichettava le lastre dei pazienti neri come aventi più probabilità di avere segni di una malattia. A quel punto i ricercatori, come spiega Leo Anthony Celi, un professore della Harvard Medical School e altro autore dello studio, hanno cominciato a chiedersi: come fa un algoritmo a riconoscere la razza di un essere umano da una lastra?
Forse c’entra la melanina
I ricercatori hanno poi usato l’algoritmo su lastre di diverse parti del corpo, anche quelle di una mano o della colonna vertebrale, tutte immagini che non avevano alcun segno evidente relativo alla razza, come il colore della pelle o la capigliatura. Non è possibile trovare una differenza razziale solo guardando l’interno del corpo, men che meno il genoma.
Mail programma identificava la razza con precisione notevole e distingueva accuratamente tra soggetti bianchi e soggetti neri.
I ricercatori hanno fatto un’ipotesi: forse c’entra la melanina, il pigmento che fa sì che la pelle abbia un certo colore. I raggi X e gli scanner TC probabilmente in qualche modo rilevano, in tracce minime, il contenuto della melanina sulla pelle. Queste informazioni vengono incorporate nell’immagine digitale che poi viene data in pasto all’algoritmo.
Note e approfondimenti
- MIT, Harvard scientists find AI can recognize race from X-rays — and nobody knows how – The Boston Globe
- AI recognition of patient race in medical imaging: a modelling study – The Lancet Digital Health (DOI: 10.1016/S2589-7500(22)00063-2)
