Erros em sistema de reconhecimento facial geram polémica nos EUA

Amazon

Amazon Rekognition

Erros descobertos no sistema de reconhecimento facial da gigante de comércio electrónico Amazon provocaram esta semana fortes reacções políticas nos Estados Unidos.

Organizações de defesa de liberdades civis e membros do Senado dos Estados Unidos exigem explicações da empresa e de instituições públicas acerca ao uso da tecnologia.

Com o objectivo de avaliar falhas no seu funcionamento, a ACLU – Associação para as Liberdades Civis dos EUA, realizou um teste com o Rekognition, programa de reconhecimento facial desenvolvido pela Amazon.

Analisando deputados e senadores, o sistema “identificou” 28 como criminosos. A ferramenta relacionou as imagens dos políticos com fotos de bancos de dados de pessoas detidas.

Além do erro no reconhecimento, a associação denuncia funcionamento discriminatório contra pessoas negras. Cerca de 40% dos políticos falsamente identificados como criminosos eram afro-americanos, embora estes representem apenas 20% dos membros do Congresso cujas fotos foram submetidas ao teste.

Uma das preocupações da associação é o facto de o sistema ser comercializado pela Amazon a preço baixo, podendo ser usada pelas mais diversas instituições públicas, como a polícia e outras forças de segurança. Se o software não funciona adequadamente, os agentes podem cometer abusos em investigações ou até mesmo realizar detenções com base em reconhecimentos que não correspondem à realidade.

A Amazon tem feito um marketing agressivo para comercializar a ferramenta junto de forças de segurança. O argumento é que pode identificar até 100 rostos numa foto.  Ainda de acordo com a ACLU, há departamentos de polícia em alguns estados norte-americanos que já adoptaram a tecnologia.

Devido a estes problemas, a ACLU questiona a participação da Amazon em negócios e serviços que envolvam vigilância, e exige que a empresa se afaste desta área de negócio. “Os negros já são prejudicados de forma desproporcional na acção policial. É fácil ver como o Rekognition pode exacerbar essa descriminação”, afirma a ACLU em comunicado oficial.

Um exemplo citado na nota foi o caso de uma mulher negra, detida pela polícia na cidade de San Francisco, que foi colocada de joelhos e sob a mira de uma arma, porque o sistema de reconhecimento usado pelos agentes tinha identificado erradamente a matrícula do seu carro como sendo a de um veículo roubado.

Em maio, a organização de congressistas negros dos EUA, Congressional Black Caucus, tinha enviado uma carta ao presidente da Amazon, Jeff Bezos, expressando preocupação com a adopção do Rekognition.

Estamos preocupados com as consequências não esperadas que esta forma de inteligência artificial pode ter, nomeadamente para americanos negros, imigrantes não registados e manifestantes”, afirmaram os parlamentares.

Após a divulgação do teste da ACLU, os senadores do Partido Democrata Ron Wyden, Cory Booker e Ed Markey exigiram explicações a 39 organismos públicos do país, nas mais variadas áreas – da defesa ao comércio, incluindo as agências de segurança.

No documento, os parlamentares pedem que as instituições expliquem o eventual uso que estão a fazer de algum sistema de reconhecimento facial, com que parâmetros e objetivos, como está a decorrer o processo de adopção e como o rigor é garantido ou fiscalizado.

No documento, os senadores admitem que os programas de reconhecimento facial têm ficado mais acessíveis, mas alertam para os riscos de uso inadequado delas. “Essas tecnologias vêm com riscos inerentes, incluindo o comprometimento do direito de americanos à privacidade, assim como vieses raciais e de gênero”, comentaram.

A Amazon publicou entretanto uma nota, assinada por Matt Wood, na qual rebate o estudo da ACLU. A empresa questiona a metodologia e a base das imagens usadas. Wood afirma ainda que o Rekognition não deve ser usado na área de segurança pública como critério único e autónomo para tomada de decisões, mas apenas como uma forma de apoio aos agentes – que, acrescentou Wood, devem supervisionar e tomar as decisões.

Entretanto, Matt Wood defende que as tecnologias de reconhecimento facial já são mais eficientes do que o olhar humano a identificar imagens. “Não devemos deitar fora o forno porque foi regulado de forma errada e queimou a pizza”, conclui.

PARTILHAR

RESPONDER

43% das escolas no mundo sem condições de higiene para reabertura segura

Mais de 40% das escolas no mundo não têm acesso a condições básicas de higiene, como água para lavar as mãos e sabão, aumentando os riscos de reabertura no contexto da pandemia de covid-19, alertam …

Mais seis mortes, 325 novos casos e 237 recuperados

Portugal regista esta quinta-fira mais seis mortes por covid-19, 325 novos casos de infeção e mais 237 pessoas dadas como recuperadas em relação a quarta-feira, segundo o boletim diário da Direção-Geral da Saúde (DGS). De acordo …

"Filme fantástico". Novo livro revela cartas entre Kim Jong-un e Donald Trump

O líder norte-coreano, Kim Jong-un, qualificou o seu relacionamento com o Presidente dos Estados Unidos, Donald Trump, como um “filme fantástico”, segundo os editores de um livro a ser publicado, que revela a correspondência entre …

Grupo avisa Bruxelas que Portugal pode tornar-se ilha ferroviária na Europa

Um grupo de portugueses ligados ao setor ferroviário alertou a comissária europeia dos Transportes para a possibilidade de Portugal se tornar uma ilha ferroviária na Europa devido ao atraso em adotar "a bitola europeia" nas …

China encontra traços do coronavírus em asas de frango importadas do Brasil

Traços do novo coronavírus foram encontrados em asas de frango importadas do Brasil, na cidade de Shenzhen, no sul da China, noticiou, esta quinta-feira, um jornal oficial do Partido Comunista Chinês (PCC). Os traços foram detetados …

Denúncia de Rui Pinto leva a congelamento de conta bancária da Doyen

Oito milhões de euros que estavam numa conta bancária do fundo de investimento Doyen foram congelados pelas autoridades portuguesas. Uma denúncia do whistleblower português Rui Pinto levou o fundo a ser investigado por suspeitas de fraude …

Preocupado com a Bielorrúsia, Macron ligou a Putin (e aproveitaram para falar da vacina russa)

O Presidente francês, Emmanuel Macron, manifestou esta quarta-feira ao seu homólogo russo, Vladimir Putin, "uma preocupação muito grande" quanto à situação na Bielorrússia após a reeleição do chefe de Estado autoritário bielorrusso, Alexander Lukashenko. Segundo indicou …

Obras do Hospital Militar de Belém custaram mais do triplo do valor estimado

As obras no Hospital Militar de Belém, em Lisboa, custaram mais do valor inicialmente estimado, avançou o Diário de Notícias esta quarta-feira. De acordo com o jornal, estava inicialmente previsto que a reabilitação de três …

Autópsia a Valentina revela descolamento do crânio

A autópsia a Valentina, a menina de 9 anos encontrada morta na serra D’el Rei, em Peniche, distrito de Leiria, em meados de maio, revela descolamento do crânio, avança esta quinta-feira o Correio da Manhã. …

Rio pede "coerência" na lotação do Avante e faz comparação com estádios

O líder do PSD pronunciou-se sobre a lotação da festa do Avante, lembrando que, se for reduzida para metade, isso é o mesmo que os estádios do FC Porto ou do Sporting estarem cheios. Na sua …