Os algoritmos do Twitter e do Zoom estão a ser acusados de terem funcionalidades racistas. A ferramenta de fundos virtuais do Zoom apaga as cabeças e a ferramenta de corte do Twitter não foca os rostos. As queixas começaram este fim-de-semana.
No caso do Zoom, a ferramenta de fundos virtuais do sistema de videoconferências elimina a cara de pessoas negras, e no caso do Twitter, a ferramenta de corte automático – usada para destacar as partes mais importantes de uma fotografia – não funciona sempre com pessoas negras, revela o Público.
Colin Madland, um estudante do Canadá, foi a primeira pessoa primeiro a dar conta do que se estava a passar. Quando Madland – que é branco – tentou publicou imagens de uma videoconferência recente com um colega negro, para se queixar dos problemas do Zoom, o Twitter editou a fotografia focando-se apenas na cara de Madland.
Depois do jovem denunciar o caso, várias pessoas partilharam outros exemplos de falhas dos algoritmos das duas empresas.
Tanto o Twitter, como o Zoom garantem que já estão a trabalhar para resolver os problemas. “A nossa equipa testa (os modelos de algoritmos) para casos de viés antes de os lançar e não encontrou provas de preconceito racial ou de género. Mas é claro pelos exemplos que temos mais análises a fazer”, disse um porta-voz do Twitter em declarações à imprensa.
Dantley Davis, diretor do Twiteer, acredita que o problema se deve à barba de Colin Madland, mas reconhece que esses detalhes não deveriam afetar o sistema.“Estou irritado com isto”, admitiu numa publicação no Twitter. “Contudo, estou em posição de corrigir isto, e é o que vou fazer”, afirmou.
Por enquanto, o Twitter defende que lidar com algoritmos acidentalmente preconceituosos é uma área que requer atenção contínua. “É uma questão muito importante. Para dar resposta, analisámos o nosso modelo antes de o lançar, mas é algo que precisa de melhorias constantes”, escreveu Parag Agrawal, responsável pela tecnologia do Twitter, numa publicação na rede social.
A rede social Zoom também diz estar a par do problema e garante que “já contactamos diretamente o utilizador para perceber o problema”, pode ler-se num comunicado da empresa.
Não é a primeira vez que algoritmos de serviços online são acusados de racismo ou revelam viés, existem livros inteiros que falam de muitos casos. Em tempos, pesquisar a palavra “gorilas” já foi sinónimo de encontrar imagens de negros no Google e “meninas negras” era equivalente a pornografia.
