Twitter oferece 3.000 euros a quem ajudar a resolver o enviesamento racial do seu algoritmo

ZAP // Rawpixel

A rede social Twitter anunciou um novo concurso destinado a investigadores e hackers para identificar e resolver o enviesamento racial do algoritmo usado para cortar as imagens que são carregadas pelos utilizadores.

Segundo anunciou no Twitter, a empresa proprietária da rede social lançou um novo desafio a investigadores, programadores e hackers, para identificar e resolver o aparente enviesamento racial que o seu algoritmo introduz quando os utilizadores cortam as imagens que carregam nas suas publicações.

Num post publicado entretanto no seu blog, o Twitter detalhou ainda que o bug bounty se destina a “identificar potenciais danos deste algoritmo, além dos que nós próprios pudemos encontrar”.

O vencedor do desafio receberá um prémio de 3.500 dólares, cerca de 3.000 euros, e os finalistas da competição serão igualmente remunerados com valores entre os 1.000 e os 500 dólares.

Os bug bounties, ou desafios de “caça ao bug“, são desafios lançados pelas empresas que premeiam quem encontrar bugs ou falhas de segurança nas suas infra-estruturas tecnológicas.

No post publicado no seu perfil do Twitter, a empresa explicou o desafio: “Atenção a todos os caçadores de recompensas: é tempo de começar. Acabamos de divulgar os detalhes completos do nosso desafio de caça ao enviesamento do algoritmo, que estará aberto até dia 6 de agosto. Mais detalhes no nosso blog“.

“Com este desafio, pretendemos lançar um precedente no Twitter e em toda a indústria, para que os danos causados por algoritmos sejam identificados de forma proactiva pela comunidade”, acrescentou a empresa.

O ano passado, recorda o Business Insider, o estudante de doutoramento Colin Madland chamou a atenção para este problema, denunciando o enviesamento de um algoritmo do ZOOM que apagava a face dos utilizadores negros quando escolhiam uma imagem de fundo para fazer uma videochamada.

O problema de enviesamento dos algoritmos, com que o Twitter se debate já há alguns anos, está relacionado com as escolhas feitas pela ferramenta automática usada para cortar as imagens carregadas pelos utilizadores, que parece estar enviesada racialmente contra pessoas negras.

Ao escolher a parte mais interessante de uma imagem para fazer o preview do post, o algoritmo de machine learning do Twitter privilegia, por exemplo, mostrar as cabeças das pessoas em vez de pescoços ou testas.

O problema é que quando uma imagem contém faces de pessoas de diferentes etnias, o algoritmo parece escolher invariavelmente como “parte mais interessante” da imagem as faces de pessoas brancas.

Alertados pelo post de Colin Madland, vários utilizadores do Twitter conduziram testes ao comportamento do algoritmo — entre os quais, o programador Tony Arcieri, que experimentou carregar uma imagem com as fotos do antigo presidente Barack Obama e do senador norte-americano Mitch McConnell.

Arcieri testou várias combinações das posições de Obama e McConnell, incluindo uma versão com inversão das cores (e até mudar as cores das gravatas dos retratados).  Invariavelmente, o algoritmo do Twitter escolheu a imagem do senador em detrimento da imagem do ex-Presidente.

Outros utilizadores tentaram replicar a experiência de Arcieri para verificar se o enviesamento do algoritmo da rede de microblogs era real. E aparentemente, é.

Nos últimos meses, diversos analistas tentaram explicar por que razão o algoritmo do Twitter parecer nutrir preferência por pessoas brancas. Segundo alguns destes peritos, a razão é simples: ao algoritmos são executados por máquinas, mas são programados por pessoas, e os programadores do Twitter são, alegadamente, maioritariamente brancos.

Mas esta abordagem não explica de que forma é que os programadores teriam introduzido no algoritmo este seu gosto peculiar — nem por que motivo o Twitter não consegue identificar as linhas de código responsáveis pelo enviesamento.

Uma outra abordagem, mais sofisticada, sustenta que a inteligência artificial do algoritmo, baseado em machine learning, terá provavelmente identificado padrões nas imagens que se mostraram mais apelativas para a audiência alvo do Twitter — e “aprendido” a destacar pessoas brancas para captar a sua atenção. Uma questão de número$, portanto.

De acordo com uma terceira hipótese, a explicação pode ser mais simples: o algoritmo poderá estar a analisar a iluminação das imagens e a privilegiar as zonas mais claras. Mas tal enviesamento pareceria, à partida, fácil de resolver — e que o teste de Arcieri com as cores invertidas parece desmentir.

Qualquer que seja a sua origem, o facto é que o Twitter não conseguiu até agora identificar e resolver o problema — algo que, por uns poucos milhares de dólares, espera agora conseguir com a ajuda da comunidade de hackers, programadores, investigadores e, certamente, activistas empenhados em banir do Twitter o racismo do seu algoritmo.

Armando Batista, ZAP //

PARTILHAR

4 COMENTÁRIOS

  1. O algoritmo está certo, não há nenhum bug.
    E o twitter sabe disso, se não o prémio não era uns miseráveis 3.000 €.

RESPONDER

Em apenas três anos, a Austrália perdeu um terço dos seus coalas

A seca, os incêndios florestais e a desflorestação na Austrália levaram o país a perder um terço dos seus coalas nos últimos três anos. A Austrália perdeu cerca de 30% dos seus coalas nos últimos …

Há modelos matemáticos que preveem se uma música vai ser viral — os mesmos utilizados com a covid-19

O uso de modelos matemáticos para antecipar o nível de sucesso de uma música pode começar a ser usado, a partir da publicação do presente estudo, por artistas e editoras para melhorar o desempenho dos …

Alemanha. Funcionário de posto de combustível abatido a tiro por cliente que se recusou a usar máscara

Um homem de 49 anos matou um funcionário de um posto de combustível na Alemanha, após tentar comprar cerveja sem utilizar a máscara. No país, o uso deste equipamento de proteção é obrigatório para entrar …

Um violino gigante flutuou no Grande Canal de Veneza (ao som de Vivaldi)

No passado fim de semana, um violino gigante, com quase 12 metros de comprimento, desceu o Grande Canal de Veneza. A bordo estava um quarteto de cordas, que tocou Four Seasons de Vivaldi. O Noah's Violin …

Assembleia de credores aprova recuperação da Groundforce

Esta quarta-feira, os credores da Groundforce aprovaram a recuperação da empresa. Em causa está uma dívida de 154 milhões de euros. Os credores da Groundforce, reunidos esta quarta-feira em assembleia de credores, no tribunal de Monsanto, …

Europeus acreditam numa "guerra fria" entre os EUA e a China e Rússia

A maioria dos cidadãos da União Europeia (UE), 62%, considera que os Estados Unidos (EUA), com apoio das instituições comunitárias, estão numa nova "guerra fria" com a China, mas recusam envolvimento nacional, revelou um inquérito …

Desenho de Van Gogh esteve guardado mais de 100 anos. Agora, é exibido pela primeira vez

O Museu de Amesterdão, nos Países Baixos, ganhou um novo inquilino: Study for 'Worn Out', um desenho recém-descoberto de Vincent van Gogh. O holandês Vincent van Gogh ainda continua a impressionar o mundo inteiro com a …

No Afeganistão, as professoras estão prontas para desafiar o regime talibã

No Afeganistão, as professoras estão prontas para desafiar o regime talibã, com receio de que os avanços dos últimos 20 anos tenham sido conquistados em vão. A Vice falou com algumas professoras afegãs que garantem continuar …

Apenas um terço das crianças em 91 países tem acesso a uma alimentação adequada, alerta UNICEF

Apenas um terço das crianças com menos de dois anos em 91 países em desenvolvimento têm acesso aos alimentos que necessitam para um crescimento saudável, revelou um relatório da UNICEF, apontando que nenhum progresso foi …

Preços das casas voltaram a aumentar no segundo trimestre

Entre abril e junho, o índice de Preços da Habitação (IPHab) cresceu 6,6% em termos homólogos. A revelação foi feita esta quarta-feira pelo Instituto Nacional de Estatística (INE). O Índice de Preços da Habitação (IPHab) cresceu …