Bebés falsos e a guerra em Gaza. O que é real e o que é mentira?

Uma imagem de um bebé a chorar, entre os escombros dos bombardeamentos, tornou-se viral como um sinal da tragédia de Gaza. Mas, afinal, é falsa e foi gerada por Inteligência Artificial (IA) – o que constitui um novo problema que dificulta a percepção do que é real, ou mentira.

A guerra entre Israel e o Hamas na Faixa de Gaza, está a ser marcada por um fenómeno que não é novo, mas que se tem acentuado – a divulgação de imagens falsas, feitas com Inteligência Artificial (IA), que são visualizadas e partilhadas milhões de vezes.

Entre bebés falsos nos escombros da guerra, há também vídeos que mostram supostos ataques de mísseis israelitas, ou tanques a percorrerem bairros em ruínas, e famílias à procura de sobreviventes no que sobra das suas casas.

Estas imagens manipuladas são usadas como propaganda para gerar alegações falsas quanto às culpas pelas vítimas da guerra, ou para enganar as pessoas sobre os horrores – que são reais – no campo de batalha.

Mas como saber se uma imagem é falsa?

Nos últimos dias, houve uma imagem, em particular, que deu que falar – a de um bebé palestiniano a chorar, preso nos escombros de um edifício, depois de um bombardeamento israelita.

Divulgada online a 19 de Outubro passado, a imagem tornou-se viral e o jornal francês Libération publicou-a numa das suas capas, nas mãos de um manifestante que a segurava impressa num cartaz. Contudo, não divulgou que era falsa (talvez porque ainda não tinha essa informação na altura em que a publicou).

Muitas pessoas manifestaram nas redes sociais, a dor que a imagem lhes causava. “O meu coração está despedaçado a ver esta foto. Vontade de correr até lá para pegar no bebé ao colo”, escreveu uma utilizadora do X, o antigo Twitter.

Só que, afinal, esta imagem terá sido gerada por IA e até já tinha aparecido na Internet há oito meses, como “rosto” do horror do terramoto que atingiu a Turquia e a Síria em Fevereiro deste ano.

🇸🇾🇸🇾🇸🇾🇸🇾🙏🙏 pic.twitter.com/Xt9VZ5kaRB

— @ana_wbas (@ana_wbas3) February 7, 2023

Olhando atentamente para a fotografia, a expressão facial bastante exagerada do bebé levanta suspeitas, com demasiadas rugas no queixo e na testa.

Se olharmos mais de perto, parece ter dedos a mais, o que reflecte o facto de a IA continuar a ter problemas para gerar certas partes do corpo humano.

A imagem foi assinalada como falsa pelo projecto europeu de verificação Veraai.eu, a par de outras imagens partilhadas online sobre a guerra em Gaza, nomeadamente a de um bombardeamento mesmo em frente a um bebé, de cidadãos israelitas a serem alojados em tendas temporárias e de adeptos do Atlético de Madrid a segurarem bandeiras da Palestina.

Some AI-generated images are being shared in relation to the Israel-Hamas conflict. Here are a few I’ve seen so far:

1- Home bombed in front of a child
2- Temporary tents for Israeli citizens
3- Palestinian flag held by Atletico Madrid fans
4- A child under the rubble in Gaza pic.twitter.com/WD1PfeOm57

— Shayan Sardarizadeh (@Shayan86) October 24, 2023

Desinformação para “atingir os impulsos mais profundos”

Apesar de falsas e manipuladas, estas imagens geram uma revolta real e uma percepção concreta. Portanto, acabam por conseguir atingir os objetivos de propaganda para os quais são criadas.

Assim, estamos perante uma realidade em que a IA é usada como arma, o que nos dá um vislumbre do perigo do que pode vir aí em futuros conflitos, ou até em actos eleitorais próximos.

“Vai piorar – para muito pior – antes de melhorar“, analisa Jean-Claude Goldenstein, CEO da empresa de tecnologia CREOpoint que usa a IA para avaliar a validade de reivindicações online, em declarações à Associated Press (AP).

“Imagens, vídeo e áudio: com a IA generativa será uma escalada como se nunca viu“, prevê Goldenstein.

Estas imagens falsas são criadas para “atingir os impulsos e ansiedades mais profundos das pessoas“, aponta, por seu turno, Imran Ahmed, CEO do Centro de Combate ao Ódio Digital, uma organização sem fins lucrativos que rastreia a desinformação de guerra.

Esta estratégia de “desinformação” é projectada para fazer com que as pessoas “se envolvam com ela”, aponta Ahmed em declarações à AP.

De Zelenskyy a ordenar rendição ao casaco “estiloso” do Papa

Trata-se de uma tendência que já se vinha verificando também com a guerra na Ucrânia. Ainda recentemente um vídeo divulgado online mostrava o presidente ucraniano Volodymyr Zelenskyy a ordenar aos cidadãos do seu país para se renderem aos russos – imagens estas que foram obviamente manipuladas.

Há ainda o caso do casaco “puffer” do Papa Francisco que enganou muitos jornalistas em Março deste ano.

O líder da Igreja Católica apareceu numa imagem, a passear na rua, com as suas habituais vestes brancas e com um grande casaco branco por cima, almofadado e comprido. A completar o look, o Papa tinha ao peito uma corrente prateada com uma cruz.

Este Papa em modo “estiloso” viralizou nas redes sociais, e a imagem falsa acabou por ser definida como “o primeiro caso de desinformação massificada de uma IA”.

Para lá do lado cómico deste episódio com o Sumo Pontífice, há preocupações sérias quando, no próximo ano, haverá várias eleições importantes em diversos países, nomeadamente nos EUA.

Teme-se que a IA venha a ser usada para espalhar mentiras que podem acabar por se reflectir nas urnas de voto.

Com tudo isto, é certo que urge investir em novas tecnologias e softwares que permitam detectar “deepfakes” e reconhecer a autenticidade dos conteúdos divulgados na Internet.

O grande desafio dos próximos tempos vai ser esse – como confirmar que o conteúdo que existe online é verdadeiro, ou falso.