Sem formação na área, gerou um modelo de IA “sem filtros” a partir de uma falha do ChatGPT. “WormGPT” foi usado “em massa” e abriu portas a vírus, fraudes e campanhas de desinformação. Jovem de 22 anos foi libertado.
Tirando partido uma falha de segurança no sistema de Inteligência Artificial (IA) do ChatGPT, um jovem de 22 anos de Gaia criou uma aplicação criminosa que seria usada para cometer diversos crimes, entre os quais “elaboradas fraudes financeiras, ciberataques, espionagem corporativa e até campanhas de desinformação direcionadas”.
Sem qualquer formação na área de cibersegurança, o jovem foi detido depois de ter criado o modelo de IA que apelidou de “WormGPT”. Tudo começou quando o hacker descobriu um defeito na arquitetura do sistema criado pela OpenAI e usado por milhões de pessoas.
A vulnerabilidade que encontrou abriu portas à criação de guias para fraudes financeiras, vírus informáticos e outros programas prejudiciais e foi utilizada para aceder diretamente ao sistema da OpenAI e gerar um modelo de IA “sem filtros”, revelou a PJ ao Jornal de Notícias esta quarta-feira.
O “WormGPT” foi projetado para ser capaz de criar conteúdos maliciosos de forma quase automática. A ferramenta, que também permitiu desenvolver programas de espionagem e até campanhas de desinformação, foi disponibilizada online durante meses.
“Houve uma utilização massiva da ferramenta para a prática de ilícitos criminais”, revelou a PJ.
As autoridades identificaram e prenderam o jovem, levando-o ao juiz de instrução criminal do Porto. Após análise do caso, o juiz decidiu libertá-lo, mas impôs restrições rigorosas, como a proibição de aceder a determinados sites e a obrigação de se apresentar semanalmente às autoridades.
O jovem ter-se-á arrependido das suas ações e retirado a aplicação da Internet.
