Os carros autónomos são “racistas” (e atropelam mais pessoas com peles escuras)

No ano passado, as empresas Microsoft, IBM e Amazon foram alertadas sobre o facto de estarem a utilizar tecnologia de reconhecimento facial tendenciosa contra pessoas com pele escura. Agora, descobriu-se que alguns carros autónomos podem ter o mesmo problema.

Segundo uma análise do Georgia Institute of Technology, da Universidade da Geórgia, Estados Unidos (EUA), divulgada em fevereiro de 2019, alguns sistemas usados ​​por carros autónomos para detetar pedestres têm dificuldade em identificar pessoas com tons de pele mais escuros, o que torna maior a probabilidade de serem atingidas em caso de acidente.

Através da análise de dados do Berkeley Driving Dataset, nomeadamente vídeos de Nova Iorque, Berkeley, São Francisco e San José, os investigadores responsáveis pelo estudo verificaram como os sistemas reagiriam a diferentes tipos de pedestres, indica um artigo do Mashable, publicado na terça-feira.

A equipa escolheu oito sistemas de reconhecimento de imagem frequentemente utilizados ​​em veículos autónomos e avaliou como estes captam cada tom de pele, segundo a escala de Fitzpatrick – sistema para classificar os tons de pele humanos -, tendo descoberto “um desempenho uniformemente pior para detetar pedestres com tipos de pele entre 4 e 6″, que são mais escuros.

Existem, contudo, vários fatores que podem levar a resultados imprecisos, como a hora do dia ou a cor da roupa. Os investigadores descobriram, porém, tendo em consideração apenas a cor da pele, a precisão desses sistemas caiu, em média, 5% para pedestres com pele mais escura.

(cv)

Ora, se um sistema não identifica uma pessoa como pedestre, a mesma corre mais risco de ser atingida, visto que o computador “não consegue prever o seu comportamento”.

“A principal lição do nosso trabalho é que os sistemas de visão que compartilham estruturas comuns aos que testamos devem ser examinados mais de perto”, disse ao Vox Jamie Morgenstern, um dos autores do estudo, na terça-feira.

Muitos carros autónomos usam uma mistura de LiDAR, radares, sensores e câmaras. Algumas empresas dependem muito das câmaras, como o sistema de piloto automático da Tesla. A empresa Ambarella, com sede em Silicon Valley, está a desenvolver um sistema autónomo que depende quase inteiramente de câmaras.

No entanto, nem todas as empresas recorrem a esses dispositivos. A Blackmore foca-se no Doppler LiDAR, então as roupas e o tom de pele não importam. Ao invés disso, o sistema mede a velocidade dos objetos.

Este relatório agora divulgado deve ser visto como “um grão de sal”, devido ao facto de o mesmo ainda não ter sido revisto pelos pares, de os investigadores não terem testado modelos de deteção de objetos usados por carros autónomos e não terem tido acesso aos dados de treino usados ​​pelos fabricantes.

Ao invés disso, testaram modelos usados ​​por académicos. A análise teve que ser conduzida desta forma devido ao facto de as empresas não disponibilizarem os seus dados para análise, o que o Vox considera “uma questão séria, de interesse público”.

Porém, isso “não significa que o estudo não seja valioso”. Como indicou a co-diretora do AI Now Research Institute, Kate Crawford, no Twitter: “Num mundo ideal, os académicos testariam os modelos reais e os conjuntos de treino usados ​​por fabricantes de automóveis autónomos. Mas, como esses dados nunca são disponibilizados (um problema em si), estudos como este oferecem fortes luzes sobre os riscos reais”.

Os resultados desta análise contribuem para um corpo crescente de evidências sobre como o viés humano infiltra-se nos sistemas automatizados de tomada de decisão, definido como viés algorítmico.

O exemplo mais famoso tornou-se público em 2015, quando o sistema de reconhecimento de imagem do Google classificou os afro-americanos como “gorilas”. Três anos depois, o sistema Rekognition, da Amazon, foi criticado por associar 28 membros do Congresso a fotos criminais.

Outro estudo revelou que três sistemas de reconhecimento facial – IBM, Microsoft e Megvii da China – eram mais propensos a identificar erradamente o género de pessoas de pele escura (especialmente mulheres) do que de pessoas de pele clara.

De acordo com o artigo do Vox, visto que os sistemas algorítmicos aprendem com base nos exemplos com os quais são alimentados, caso não recebam exemplos suficientes de negros durante o estágio de aprendizagem, terão mais dificuldade em reconhecê-los quando estiverem em uso.

De facto, os autores do estudo observaram que os modelos de deteção de objetos analisados foram treinados principalmente com exemplos de pedestres de pele clara. Por outro lado, os mesmos modelos não deram importância suficiente à aprendizagem dos poucos exemplos de pessoas de pele escura disponibilizados.

A equipa acredita que uma das soluções passa por incluir mais exemplos de pessoas com pele escura durante a fase de treino destes sistemas.

Para o problema mais amplo do viés algorítmico, as propostas existentes passam por garantir que as equipas responsáveis por desenvolver novas tecnologias sejam racialmente diversas.

“Se todos os membros da equipa forem caucasianos, do sexo masculino, ou ambos, pode acontecer que não lhes ocorra verificar como o algoritmo manipula a imagem de uma mulher negra. Mas, se houver uma mulher negra na sala, isso provavelmente lhe ocorrerá”, exemplificou Joy Buolamwini, do Massachusetts Institute of Technology (MIT).

Outra solução é exigir que as empresas testem os seus algoritmos quanto a preconceitos e demonstrem que os mesmos atendem a determinados padrões de imparcialidade antes de serem implementados.

Kartik Hosanagar, autor de “A Human’s Guide to Machine Intelligence”, acredita que a criação de um teste explícito para o preconceito é “a coisa mais útil a ser feita”. Exigir que toda as equipas tenham “diversidade suficiente será difícil porque a diversidade pode englobar raça, género, nacionalidade. Mas há certas coisas importantes que uma empresa tem que fazer. Testar o preconceito racial será o mais eficaz”, acrescentou.

TP, ZAP //

PARTILHAR

1 COMENTÁRIO

RESPONDER

"Ou és infetado ou morres de fome". Trabalhadores da Amazon nas Filipinas denunciam condições precárias

Trabalhadores contratados pela empresa de segurança Ring da Amazon que trabalham em call centers nas Filipinas denunciam condições de trabalho que dizem ser precárias, mostrando-se ainda mais preocupados com a situação por causa da pandemia …

"Momento muito duro". André Almeida sofreu rotura de ligamentos e arrisca paragem longa

O futebolista internacional português André Almeida sofreu uma entorse do joelho direito, que resultou numa “rotura do ligamento cruzado anterior e do ligamento lateral interno”, informou esta segunda-feira o Benfica. O lateral dos encarnados saiu aos …

Apoio à retoma. Empresas com perdas de 25% podem reduzir horário até 33% já esta terça-feira

Empregadores com quebra de faturação igual ou superior a 25% vão poder reduzir até 33% o horário dos trabalhadores, entre outubro e dezembro, segundo a alteração ao regime de retoma progressiva de empresas em crise. O …

Chega quer tornar voto obrigatório e sanções para quem não cumprir

O deputado único do Chega entregou uma nova proposta no âmbito do projeto de revisão constitucional do partido para tornar o voto obrigatório para todos os cidadãos que o possam exercer e sanções para quem …

A Alemanha quer tornar o teletrabalho um direito legal

O Governo alemão prepara-se para publicar um projeto de lei que dará aos trabalhadores do país o direito legar de trabalhar a partir de casa. A medida aplicar-se-á a todos as atividades laborais que possam …

Novo surto em lar de Beja e 90 alunos em isolamento em Famalicão

Um surto de covid-19 identificado no Lar de Idosos do Centro Paroquial e Social do Salvador, em Beja, já infetou 31 pessoas, sendo 24 utentes e sete funcionários, divulgou a Unidade Local de Saúde do …

Mais de 600 anos depois, encontram-se (várias) semelhanças entre a covid-19 e a peste negra

Numa altura em que o vírus da covid-19 se tem espalhado por todo o mundo, as comparações com outras doenças pandémicas são inevitáveis. Um exemplo disso foi a peste negra que em 1348 fez com …

Nacionalista apoiado pela Turquia eleito Presidente de Chipre do Norte

O nacionalista Ersin Tatar, apoiado pela Turquia, foi no domingo eleito "Presidente" da autoproclamada República Turca de Chipre do Norte (RTCN), numa vitória surpreendente face ao dirigente cessante, Mustafa Akinci, anunciou o conselho eleitoral. Com 51,74% …

China alerta que detectou coronavírus vivo numa embalagem de comida congelada

O Centro para o Controlo e Prevenção de Doenças da China alerta que detectou amostras vivas do novo coronavírus em embalagens de comida congelada, pelo que estas podem ser um veículo de contágio. Já tinham sido …

Marcelo está a fazer o que a ministra da Saúde “devia ter feito”, critica Ordem dos Médicos

O bastonário da Ordem dos Médicos, Miguel Guimarães, criticou esta segunda-feira a ministra da Saúde, Marta Temido, e elogiou o Presidente da República, Marcelo Rebelo de Sousa, por ter decidido reunir com representantes de várias …