Erros descobertos no sistema de reconhecimento facial da gigante de comércio electrónico Amazon provocaram esta semana fortes reacções políticas nos Estados Unidos.
Organizações de defesa de liberdades civis e membros do Senado dos Estados Unidos exigem explicações da empresa e de instituições públicas acerca ao uso da tecnologia.
Com o objectivo de avaliar falhas no seu funcionamento, a ACLU – Associação para as Liberdades Civis dos EUA, realizou um teste com o Rekognition, programa de reconhecimento facial desenvolvido pela Amazon.
Analisando deputados e senadores, o sistema “identificou” 28 como criminosos. A ferramenta relacionou as imagens dos políticos com fotos de bancos de dados de pessoas detidas.
Além do erro no reconhecimento, a associação denuncia funcionamento discriminatório contra pessoas negras. Cerca de 40% dos políticos falsamente identificados como criminosos eram afro-americanos, embora estes representem apenas 20% dos membros do Congresso cujas fotos foram submetidas ao teste.
Uma das preocupações da associação é o facto de o sistema ser comercializado pela Amazon a preço baixo, podendo ser usada pelas mais diversas instituições públicas, como a polícia e outras forças de segurança. Se o software não funciona adequadamente, os agentes podem cometer abusos em investigações ou até mesmo realizar detenções com base em reconhecimentos que não correspondem à realidade.
A Amazon tem feito um marketing agressivo para comercializar a ferramenta junto de forças de segurança. O argumento é que pode identificar até 100 rostos numa foto. Ainda de acordo com a ACLU, há departamentos de polícia em alguns estados norte-americanos que já adoptaram a tecnologia.
Devido a estes problemas, a ACLU questiona a participação da Amazon em negócios e serviços que envolvam vigilância, e exige que a empresa se afaste desta área de negócio. “Os negros já são prejudicados de forma desproporcional na acção policial. É fácil ver como o Rekognition pode exacerbar essa descriminação”, afirma a ACLU em comunicado oficial.
Um exemplo citado na nota foi o caso de uma mulher negra, detida pela polícia na cidade de San Francisco, que foi colocada de joelhos e sob a mira de uma arma, porque o sistema de reconhecimento usado pelos agentes tinha identificado erradamente a matrícula do seu carro como sendo a de um veículo roubado.
Em maio, a organização de congressistas negros dos EUA, Congressional Black Caucus, tinha enviado uma carta ao presidente da Amazon, Jeff Bezos, expressando preocupação com a adopção do Rekognition.
“Estamos preocupados com as consequências não esperadas que esta forma de inteligência artificial pode ter, nomeadamente para americanos negros, imigrantes não registados e manifestantes”, afirmaram os parlamentares.
Após a divulgação do teste da ACLU, os senadores do Partido Democrata Ron Wyden, Cory Booker e Ed Markey exigiram explicações a 39 organismos públicos do país, nas mais variadas áreas – da defesa ao comércio, incluindo as agências de segurança.
No documento, os parlamentares pedem que as instituições expliquem o eventual uso que estão a fazer de algum sistema de reconhecimento facial, com que parâmetros e objetivos, como está a decorrer o processo de adopção e como o rigor é garantido ou fiscalizado.
No documento, os senadores admitem que os programas de reconhecimento facial têm ficado mais acessíveis, mas alertam para os riscos de uso inadequado delas. “Essas tecnologias vêm com riscos inerentes, incluindo o comprometimento do direito de americanos à privacidade, assim como vieses raciais e de gênero”, comentaram.
A Amazon publicou entretanto uma nota, assinada por Matt Wood, na qual rebate o estudo da ACLU. A empresa questiona a metodologia e a base das imagens usadas. Wood afirma ainda que o Rekognition não deve ser usado na área de segurança pública como critério único e autónomo para tomada de decisões, mas apenas como uma forma de apoio aos agentes – que, acrescentou Wood, devem supervisionar e tomar as decisões.
Entretanto, Matt Wood defende que as tecnologias de reconhecimento facial já são mais eficientes do que o olhar humano a identificar imagens. “Não devemos deitar fora o forno porque foi regulado de forma errada e queimou a pizza”, conclui.
ZAP // Agência Brasil / Fast Company
