Javier Domínguez Ferreiro / Flickr
No final de maio, a Microsoft tomou a decisão de despedir dezenas de jornalistas para os substituir por Inteligência Artificial (IA). Uma semana depois, foram acusados de racismo.
Os jornalistas e editores demitidos geriam o site MSN News, a página inicial automática do navegador Microsoft Edge. O site não escreve notícias, mas extrai notícias de outras fontes e divide as receitas de publicidade com os editores originais. Costumava ser gerida por humanos, que selecionavam histórias que aderiam às suas diretrizes editoriais e editavam artigos, fotos e manchetes sempre que necessário.
Agora, apenas semanas da substituição de humanos por software, os robôs do MSN News foram acusados de racismo pelo membro da banda britânica Little Mix, Jade Thirlwall, depois de o MSN ter publicado uma história sobre o racismo que sofreu na escola, acompanhada por uma imagem da companheira de banda do Little Mix, Leigh-Anne Pinnock.
Thirlwall não sabia que a notícia tinha sido colocada no site do MSN por um algoritmo e atribuiu-a a um jornalismo preguiçoso.
“Isto acontece acontece-me a mim e à @leighannepinnock a toda a hora que já se tornou uma piada”, escreveu Thirlwall no Instagram. “É um jornalismo preguiçoso. É ignorante. É rude. Ofende-me que não consigam diferenciar as duas mulheres de cor em quatro membros de um grupo. Há até imagens minhas no artigo, seguidas por uma imagem de Leigh como se não pudessem perceber que não somos a mesma pessoa de raça mista”.
Jade Thirlwall / Instagram
De acordo com o jornal britânico The Guardian, as imagens que acompanham o artigo foram selecionadas pelo software AI.
A IA e a tecnologia de apendizagem de máquina têm um problema de racismo. Desde dispensadores de sabão que não dispensam sabão a carros autónomos com maior probabilidade de atropelar um negro porque não reconhece tons de pele mais escuros, existem vários exemplos de tecnologia que não funcionam como deveriam, porque não foi testado com pessoas não brancas em mente.
O reconhecimento de imagem não é diferente. A Google já teve de se desculpar pela aplicação de fotografias com etiqueta automática, que rotulou dois negros como gorilas.
O software usado pelo MSN não conseguiu distinguir entre Thirlwall e Pinnock, duas mulheres de raça mista, sugerindo que pode ter problemas semelhantes. O problema foi corrigido por um humano mais tarde.
