Centro de Diagnóstico Médico Dr. Lúcio Coelho
Mesmo quando recebiam pouca informação, os sistemas conseguiam adivinhar a etnia dos pacientes com grande precisão.
Modelos de inteligência artificial podem identificar a raça de alguém apenas através dos seus raios X, de acordo com um novo estudo publicado na The Lancet Digital Health, algo que seria impossível para um médico humano que olhasse para as mesmas imagens.
As conclusões levantam algumas questões preocupantes sobre o papel da IA nos diagnósticos médicos e no tratamento — será que a discriminação racial pode sem querer ser aplicada pelos softwares no estudo de imagens como estas?
A equipa de investigadores treinou o software usando centenas de milhares de raios-X que incluíam detalhes sobre a etnia dos pacientes e depois testou a IA ao apresentar-lhe imagens que ainda não tinha visto e que não revelavam a raça.
O computador conseguiu prever a raça do paciente com grande precisão, mesmo quando os raios-X eram de pessoas da mesma idade e do mesmo sexo. Em alguns grupos de imagens, a precisão foi de 90%, escreve o Science Alert.
Os resultados da pesquisa são semelhantes aos de um outro estudo que mostrou que a inteligência artificial tem uma maior probabilidade de não identificar sinais de doenças mentais nos raios-X de negros. Os cientistas estão agora a tentar entender em que parte do processo é que este viés começa a acontecer.
Mesmo quando a informação dada é limitada, removendo-se pistas sobre a densidade óssea ou com um foco em apenas uma parte pequena do corpo, os modelos ainda continuaram a adivinhar a raça do paciente. É possível que o sistema encontre sinais de melanina que ainda são desconhecidos pelos cientistas.
O estudo deixa ainda muitas questões por responder e os investigadores acreditam que é importante termos a noção do viés racial que pode aparecer em sistemas de inteligência artificial.
“Precisamos de fazer uma pausa. Não podemos acelerar o uso de algoritmos nos hospitais e nas clínicas até termos a certeza de que não estão a fazer decisões racistas ou sexistas”, remata o cientista Leo Anthony Celi.
