Emojis de cenouras escondem mensagens antivacinação nas redes sociais

Grupos do Facebook estão a usar o emoji de cenoura para ocultar conteúdo antivacinação das ferramentas de moderação automatizadas.

A BBC viu vários grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da palavra “vacina”. Os algoritmos do Facebook tendem a concentrar-se em palavras, em vez de imagens.

Os grupos estão a ser usados ​​para partilhar relatos não confirmados de pessoas que teriam ficado com sequelas ou sido até mortas por vacinas.

Após a BBC entrar em contacto com a Meta, empresa dona do Facebook, os grupos foram removidos.

“Removemos este grupo por violar as nossas políticas relacionadas com a desinformação prejudicial e avaliaremos qualquer outro conteúdo semelhante de acordo com esta política. Continuamos a trabalhar em estreita colaboração com especialistas em saúde pública e o governo do Reino Unido para combater ainda mais a desinformação sobre a vacina contra a covid”, declarou a empresa em comunicado.

No entanto, os grupos reapareceram desde então.

Um dos grupos existe há três anos, mas mudou de nome em agosto de 2022 para se concentrar em histórias sobre vacinas — antes era um grupo para partilhar “brincadeiras, apostas e vídeos engraçados”.

As regras do grupo maior afirmam: “Use palavras de código para tudo”. E acrescenta: “Nunca use a palavra com ‘c’, a palavra com ‘v’ ou a palavra com ‘r’ (covid, vacina, reforço, respetivamente)”. Foi criado há mais de um ano e tem mais de 250 mil membros.

Marc Owen-Jones, investigador de desinformação e professor da Universidade Hamad Bin Khalifa, no Catar, foi convidado a participar na observação.

“Eram pessoas a dar relatos de familiares que morreram logo após tomarem a vacina contra a covid-19”, diz Khalifa. “Mas em vez de usar as palavras ‘covid-19’ ou ‘vacina’, estavam a usar emojis de cenouras”.

“Inicialmente, eu fiquei um pouco confuso. Até que a ficha caiu — (os emojis) estavam a ser usados como uma forma de escapar, ou aparentemente de escapar, dos algoritmos de deteção de notícias falsas do Facebook”, acrescenta.

Just got invited to a Facebook group with a couple of hundred thousand members where people share stories about why they think the Covid vaccine killed people they knew. But instead of saying vaccine they use the 🥕 symbol, presumably to evade censorship. Very odd pic.twitter.com/mvXBv1aXBX

— Marc Owen Jones (@marcowenjones) September 11, 2022

Risco moderado

Em 2021, dados do Escritório de Estatísticas Nacionais do Reino Unido sugeriram que havia um risco de um em cinco milhões de morrer em decorrência da vacina contra a covid-19, em comparação com um risco de 35 mil mortes por cinco milhões de morrer da doença em si, sem a vacina.

As grandes empresas de tecnologia usam algoritmos para vasculhar as suas plataformas em busca de conteúdo nocivo — mas são treinados principalmente com base em palavras e texto, escreveu Hannah Rose Kirk num blog para o Oxford Internet Institute.

Rose Kirk fez parte de uma equipa de investigação que criou uma ferramenta chamada HatemojiCheck: um check-list para identificar áreas em que os sistemas de Inteligência Artificial não lidam muito bem com o abuso baseado em emojis.

“Apesar de ter uma compreensão impressionante de como a linguagem funciona, os modelos de linguagem de Inteligência Artificial viram muito poucos emojis”, diz Kirk. “Eles são treinados com base numa coletânea de livros, artigos e sites, até mesmo na totalidade da Wikipédia em inglês, mas esses textos raramente apresentam emojis”.

Emojis e racismo

As plataformas já foram criticadas por não bloquear ou remover emojis de macacos e bananas quando publicados como gesto racista nas contas de jogadores de futebol negros.

Se o projeto de lei de segurança online entrar em vigor no Reino Unido, as grandes empresas de tecnologia vão enfrentar penalidades severas por não identificar e remover rapidamente conteúdo prejudicial nas suas plataformas.

Mas há preocupações de que as ferramentas atualmente em uso não sejam boas o suficiente para lidar com o grande volume de conteúdo publicado — e com as nuances e diferenças culturais que podem obscurecer o significado.

Escondendo-se à vista de todos

Os emojis podem ter vários significados, além do que for declarado oficialmente pelo Unicode, o consórcio que os gere.

A Agência de Combate às Drogas dos EUA divulgou um poster a demonstrar como os emojis podem ser usados ​​para discutir drogas ilegais.

“É uma forma moderna de esteganografia: escrever e esconder uma mensagem à vista de todos, mas de tal forma que, a menos que você saiba para onde olhar, não a vê”, explica o professor Alan Woodward, especialista em segurança cibernética da Universidade de Surrey, no Reino Unido.

“O que tudo isso demonstra é a inutilidade de tentar automatizar a moderação de conteúdo para evitar a partilha de material ‘prejudicial'”, diz ele.

O Facebook disse no ano passado que tinha removido mais de 20 milhões de conteúdos contendo desinformação sobre a covid-19 ou a vacina desde o início da pandemia.

A empresa também diz que remove conteúdos que alegam que as vacinas em geral são mais perigosas do que a doença contra a qual protegem ou que são tóxicas.

O presidente dos EUA, Joe Biden, criticou as gigantes da tecnologia por não fazerem o suficiente para combater a disseminação de desinformação sobre as vacinas online.

Ele disse esperar que o Facebook faça mais para combater “a desinformação ultrajante” sobre as vacinas contra o coronavírus que estão a ser espalhadas na sua plataforma.