Como não ser enganado pela IA

O rápido avanço das tecnologias de Inteligência Artificial (IA) tem tornado cada vez mais difícil distinguir os conteúdos gerados por IA e aqueles ‘mesmo reais’. A capacidade de detetar imagens, vídeos, áudio e textos manipulados por IA é fundamental para nos protegermos dos enganos do “Novo Mundo”.

A desinformação gerada por IA trouxe desafios únicos, devido à escala, velocidade e facilidade de produção de conteúdos falsos, que não exigem grandes recursos.

Várias ferramentas permitem, hoje em dia, a criação de imagens, vídeos e áudios quase indistinguíveis da realidade.

Contudo, ainda é possível identificar alguns erros comuns em conteúdos gerados por IA. Para ajudar a identificá-los, nos vários “planos multimédia”, a New Scientist elaborou quatro listas, com dicas para detetar as imperfeições mais comuns.

Cinco tipos comuns de erros em imagens IA

• Implausibilidades socioculturais: A cena está a representar um comportamento raro, invulgar ou surpreendente para determinadas culturas ou figuras históricas?
• Implausibilidades anatómicas: Observe com atenção. As partes do corpo, como as mãos, têm uma forma ou tamanho invulgar? Os olhos ou a boca têm um aspeto estranho? Algumas partes do corpo fundiram-se?
• Artefactos estilísticos: A imagem parece pouco natural, quase demasiado perfeita ou estilística? O fundo parece estranho ou como se lhe faltasse alguma coisa? A iluminação é estranha ou variável?
• Implausibilidades funcionais: Algum objeto parece bizarro ou como se não fosse real ou não funcionasse? Por exemplo, há botões ou fivelas de cintos em sítios estranhos?
• Violações da física: As sombras apontam em direções diferentes? Os reflexos dos espelhos são consistentes com o mundo representado na imagem?

Seis dicas para detetar vídeos gerados por IA

• Movimentos da boca e dos lábios: Há momentos em que o vídeo e o áudio não estão completamente sincronizados?
• Falhas anatómicas: O rosto ou o corpo tem um aspeto estranho ou move-se de forma não natural?
• Rosto: Procure inconsistências na suavidade do rosto ou rugas à volta da testa e das bochechas, bem como sinais faciais.
• Iluminação: A iluminação é inconsistente? As sombras comportam-se como seria de esperar? Preste especial atenção aos olhos, sobrancelhas e óculos da pessoa.
• Cabelo: Os pêlos faciais têm um aspeto estranho ou movem-se de forma estranha?
• Pestanejar: Pestanejar demasiado ou pouco pode ser sinal de um deepfake.

Cinco dicas para descobrir se uma conta é um bot

• Emojis e hashtags: A utilização excessiva destes elementos pode ser um sinal.
  Frases, escolhas de palavras ou analogias invulgares. Uma redação invulgar pode indicar um bot de IA.
• Repetição e estrutura: Os bots podem utilizar palavras repetidas que seguem formas semelhantes ou rígidas e podem utilizar excessivamente determinados termos de calão.
• Fazer perguntas: Estas podem revelar a falta de conhecimento de um bot sobre um tópico – especialmente quando se trata de locais e situações locais.
• Presuma o pior: se uma conta de rede social não for um contacto pessoal e a sua identidade não tiver sido claramente validada ou verificada, pode muito bem ser um bot de IA.

Quatro formas de ouvir se um áudio é clonado ou falsificado

• Figuras públicas: Se o clip de áudio for de um funcionário eleito ou de uma celebridade, verifique se o que está a dizer é consistente com o que já foi relatado ou partilhado publicamente sobre as suas opiniões e comportamento.
• Procurar incoerências: Compare o clip de áudio com vídeos ou clips de áudio previamente autenticados que apresentem a voz da mesma pessoa. Existem incoerências no som da voz ou nos seus maneirismos de discurso?
• Silêncios incómodos: Se estiver a ouvir uma chamada telefónica ou uma mensagem de voz e o orador estiver a fazer pausas invulgarmente longas enquanto fala, pode estar a utilizar tecnologia de clonagem de voz alimentada por IA.
• Estranho e prolixo: Quaisquer padrões de discurso robótico ou uma forma de falar invulgarmente prolixa podem indicar que alguém está a utilizar uma combinação de clonagem de voz para imitar a voz de uma pessoa e um modelo linguístico de grande dimensão para gerar as palavras exatas.