ZAP // Wikipedia; Google
A Google DeepMind tem vindo a utilizar o seu método de marca de água de Inteligência Artificial (IA) nas respostas do chatbot Gemini, desde há meses, e agora está a disponibilizar a ferramenta a qualquer programador de IA.
A Google tem vindo a desenvolver uma técnica de marcas de água em texto baseada em IA, para identificar automaticamente conteúdos gerados pelos seus chatbots de textos escritos por humanos.
O SynthID foi apresentado oficialmente esta quarta-feira, num estudo publicado na Nature. Esta ferramenta visa prevenir o uso indevido dos chatbots, por exemplo, em atividades como disseminação de desinformação ou fraude académica.
A Google decidiu disponibilizar uma versão de código aberto desta técnica, permitindo que outras empresas de IA generativa possam incorporar marcas de água similares nos resultados dos seus modelos de linguagem.
Pushmeet Kohli, um dos autores do estudo, explicou à New Scientist, que a criação do SynthID é um passo importante para o desenvolvimento de ferramentas mais eficazes de identificação de conteúdo gerado por IA.
“Embora o SynthID não seja uma solução milagrosa para identificar conteúdos gerados por IA, é um elemento importante para o desenvolvimento de ferramentas de identificação de IA mais fiáveis”, disse o investigador da Google DeepMind – a equipa de investigação de IA da Google, que combina os antigos laboratórios Google Brain e DeepMind (dona do ChatGPT).
Em maio deste ano, a Google DeepMind anunciou que tinha aplicado SynthID em serviços de texto e vídeo gerados por IA a partir dos serviços Gemini e Veo AI da Google, respetivamente. O estudo agora publicado demonstrou que esta ferramenta superou técnicas testadas anteriormente.
A técnica mostrou-se eficaz, principalmente em textos mais longos.
Os especialistas alertam, no entanto, que o SynthID não é imune a recursos computacionais capazes de retirar as marcas de água dos textos.
Um “adversário determinado” com enormes quantidades de poder computacional poderia ainda remover essas marcas de água de IA, alertou Hanlin Zhang, da Universidade de Harvard, à New Scientist.
