Bogdan Kulynych
Um estudo levado a cabo por Bogdan Kulynych, um estudante da universidade suíça EFPL, mostrou que o algoritmo do Twitter dá preferência a caras mais novas, mais magras e com pele mais clara.
A empresa, que já tinha estado envolvida numa polémica devido ao enviesamento do algoritmo, pagou agora 3500 dólares a Bogdan para estudá-lo.
Durante a pesquisa, o investigador gerou rostos artificiais com características distintas, e deixou-as correr no algoritmo do Twitter para perceber em quais este se focava.
Tendo em conta que os rostos foram criados digitalmente, foi possível gerar caras quase iguais, alterando apenas pequenos pontos, como o tom de pele, a largura do rosto, o género ou a idade.
O estudo permitiu comprovar que o algoritmo prefere os rostos mais novos, mais finos e mais claros, em detrimento dos mais velhos, mais largos e mais escuros.
“Nós criamos estes filtros porque acreditamos que isso é o que a beleza é, e isso acaba por moldar os nossos modelos e criar estas noções irrealistas do que significa ser atraente”, referiu Rumman Chowdhury, diretor da equipa de Inteligência Artificial do Twitter, citado pelo jornal The Guardian.
O enviesamento do algoritmo do Twitter já tinha sido motivo de polémica em 2020, depois de alguns utilizadores terem percebido que apareciam mais caras brancas do que negras – e até mais cães brancos do que pretos).
Na altura, a empresa pediu desculpa. “A nossa equipa fez testes no algoritmo e não encontrou enviesamento racial ou de género. Mas é óbvio, a partir destes exemplos, que temos mais análises a fazer. Vamos continuar a partilhar o que aprendemos, as ações que praticamos e vamos abrir os nossos testes para que outros possam avaliar e replicar.”
Esta questão levou a empresa a lançar um prémio de milhares de dólares para investigadores que conseguissem demonstrar características prejudiciais do algoritmo — e Bodgan foi o vencedor.
“Os malefícios do algoritmo não são apenas bugs. Muita da tecnologia que é nociva não o é por acidente ou erros, mas pelo próprio desenho. Isto vem de uma tentativa de maximizar o engagement e, no geral, os lucros, externalizando os custos para outros”, explicou o investigador.
Traduzindo, a beleza é estipulada numa reunião em que meia duzia de pessoas estabelecem o que é beleza, e que tal mandarem prender perpetuamente essa pessoas por crimes contra a humanidade?
pois a beleza não é um rosto, mas sim a pessoa.