Utah deu contrato milionário a empresa de vigilância de IA (que não tinha IA) com laços à KKK

Utah deu um contrato de cinco anos no valor de 20,7 milhões de dólares a uma empresa de vigilância de Inteligência Artificial (IA) que não tinha sequer tecnologia de IA. O fundador da empresa teve também laços com a KKK na sua juventude.

A empresa, chamada Banjo, propôs analisar câmaras de trânsito, câmaras de CCTV, redes sociais, sistemas de emergência do 112 e dados de localização em tempo real, a fim de alertar a polícia sobre onde um determinado crime estava a ocorrer.

Além disso, também propôs criar uma “solução para os sem-abrigo” e detetar “eventos de opioides” através do seu software, chamado Live Time. Para fazer isto, a Banjo recolheu um grande fluxo de dados de cidades e condados de Utah, nos Estados Unidos.

O principal problema é que a Banjo não usou Inteligência Artificial como tinha prometido, escreve a VICE. Desta forma, a empresa conseguiu uma vantagem em relação aos seus rivais no concurso lançado pelo estado do Utah.

“As capacidades reais do Live Time pareciam inconsistentes com as alegações da Banjo”, escreveu John Dugall, um auditor estadual, num relatório divulgado esta semana.

Desde que as revelações da VICE vieram a público, o contrato de cinco anos foi suspenso e uma auditoria de privacidade foi encomendada. Uma investigação da OneZero também revelou documentos que mostram que o CEO da empresa, Damien Patton, admitiu ser um skinhead neonazi na sua juventude e uma vez ajudou um líder do KKK num tiroteio a uma sinagoga.

Como resposta à polémica, a Banjo entretanto trocou de nome e chama-se agora safeXai.

Numa demonstração para o auditor em 2020, a Banjo afirmou que nenhuma das suas tecnologias é realmente “Inteligência Artificial”, e o auditor descobriu que ela não possui a maioria das capacidades que originalmente disse que tinha durante o concurso público.

A auditoria revelou ainda o perigo de apropriação indevida ou roubo dos dados trabalhados por parte da empresa tecnológica.