Twitter oferece 3.000 euros a quem ajudar a resolver o enviesamento racial do seu algoritmo

ZAP // Rawpixel

A rede social Twitter anunciou um novo concurso destinado a investigadores e hackers para identificar e resolver o enviesamento racial do algoritmo usado para cortar as imagens que são carregadas pelos utilizadores.

Segundo anunciou no Twitter, a empresa proprietária da rede social lançou um novo desafio a investigadores, programadores e hackers, para identificar e resolver o aparente enviesamento racial que o seu algoritmo introduz quando os utilizadores cortam as imagens que carregam nas suas publicações.

Num post publicado entretanto no seu blog, o Twitter detalhou ainda que o bug bounty se destina a “identificar potenciais danos deste algoritmo, além dos que nós próprios pudemos encontrar”.

O vencedor do desafio receberá um prémio de 3.500 dólares, cerca de 3.000 euros, e os finalistas da competição serão igualmente remunerados com valores entre os 1.000 e os 500 dólares.

Os bug bounties, ou desafios de “caça ao bug“, são desafios lançados pelas empresas que premeiam quem encontrar bugs ou falhas de segurança nas suas infra-estruturas tecnológicas.

No post publicado no seu perfil do Twitter, a empresa explicou o desafio: “Atenção a todos os caçadores de recompensas: é tempo de começar. Acabamos de divulgar os detalhes completos do nosso desafio de caça ao enviesamento do algoritmo, que estará aberto até dia 6 de agosto. Mais detalhes no nosso blog“.

“Com este desafio, pretendemos lançar um precedente no Twitter e em toda a indústria, para que os danos causados por algoritmos sejam identificados de forma proactiva pela comunidade”, acrescentou a empresa.

O ano passado, recorda o Business Insider, o estudante de doutoramento Colin Madland chamou a atenção para este problema, denunciando o enviesamento de um algoritmo do ZOOM que apagava a face dos utilizadores negros quando escolhiam uma imagem de fundo para fazer uma videochamada.

O problema de enviesamento dos algoritmos, com que o Twitter se debate já há alguns anos, está relacionado com as escolhas feitas pela ferramenta automática usada para cortar as imagens carregadas pelos utilizadores, que parece estar enviesada racialmente contra pessoas negras.

Ao escolher a parte mais interessante de uma imagem para fazer o preview do post, o algoritmo de machine learning do Twitter privilegia, por exemplo, mostrar as cabeças das pessoas em vez de pescoços ou testas.

O problema é que quando uma imagem contém faces de pessoas de diferentes etnias, o algoritmo parece escolher invariavelmente como “parte mais interessante” da imagem as faces de pessoas brancas.

Alertados pelo post de Colin Madland, vários utilizadores do Twitter conduziram testes ao comportamento do algoritmo — entre os quais, o programador Tony Arcieri, que experimentou carregar uma imagem com as fotos do antigo presidente Barack Obama e do senador norte-americano Mitch McConnell.

Arcieri testou várias combinações das posições de Obama e McConnell, incluindo uma versão com inversão das cores (e até mudar as cores das gravatas dos retratados).  Invariavelmente, o algoritmo do Twitter escolheu a imagem do senador em detrimento da imagem do ex-Presidente.

Outros utilizadores tentaram replicar a experiência de Arcieri para verificar se o enviesamento do algoritmo da rede de microblogs era real. E aparentemente, é.

Nos últimos meses, diversos analistas tentaram explicar por que razão o algoritmo do Twitter parecer nutrir preferência por pessoas brancas. Segundo alguns destes peritos, a razão é simples: ao algoritmos são executados por máquinas, mas são programados por pessoas, e os programadores do Twitter são, alegadamente, maioritariamente brancos.

Mas esta abordagem não explica de que forma é que os programadores teriam introduzido no algoritmo este seu gosto peculiar — nem por que motivo o Twitter não consegue identificar as linhas de código responsáveis pelo enviesamento.

Uma outra abordagem, mais sofisticada, sustenta que a inteligência artificial do algoritmo, baseado em machine learning, terá provavelmente identificado padrões nas imagens que se mostraram mais apelativas para a audiência alvo do Twitter — e “aprendido” a destacar pessoas brancas para captar a sua atenção. Uma questão de número$, portanto.

De acordo com uma terceira hipótese, a explicação pode ser mais simples: o algoritmo poderá estar a analisar a iluminação das imagens e a privilegiar as zonas mais claras. Mas tal enviesamento pareceria, à partida, fácil de resolver — e que o teste de Arcieri com as cores invertidas parece desmentir.

Qualquer que seja a sua origem, o facto é que o Twitter não conseguiu até agora identificar e resolver o problema — algo que, por uns poucos milhares de dólares, espera agora conseguir com a ajuda da comunidade de hackers, programadores, investigadores e, certamente, activistas empenhados em banir do Twitter o racismo do seu algoritmo.