A plataforma de inteligência artificial ChatGPT foi usada por especialistas em segurança informática para gerar uma espécie de guia completo para realização de um ataque cibernético.
Especialistas em segurança informática usaram a plataforma ChatGPT para apontar um alvo de ataque e receber instruções completas sobre as suas possíveis vulnerabilidades — incluindo dicas sobre o código a usar num possível exploit.
Nos testes, investigadores da Cybernews usaram como alvo da sua experiência a plataforma de treino online Hack the Box e propuseram ao ChatGPT um desafio: testar as vulnerabilidades do alvo.
O ChatGPT, gerido pela OpenAI, apontou cinco passos iniciais para a verificação de possíveis brechas disponíveis na página, como tentar a manipulação de queries ou injeção de caracteres e comandos JavaScript.
À medida em que o teste prosseguia, a interação dos especialistas da Cybernews com a inteligência artificial foi-se tornando mais direcionado.
A IA foi capaz, por exemplo, de indicar partes do código da página que poderiam ser analisadas e manipuladas à procura de falhas e até sugerir variações na abordagem para atingir determinados objetivos.
O resultado foi uma invasão bem-sucedida em apenas 45 minutos de conversa no ChatGPT.
Os investigadores salientam que a IA não forneceu diretamente passos exatos nem ferramentas de exploit, mas apresentou ideias e sugestões de caminhos a seguir, bem como palavras-chave que poderiam ser pesquisadas para obter malwares e recursos que ajudassem no ataque em curso, nota o Canaltech.
Ao longo da conversa, a IA deu informações sobre regras de hacking ético e realçou a necessidade de pedir autorização antes de realizar testes de intrusão num dado serviço ou website — além de alertar sobre os danos que podem ser causados por um ataque cibernético.
Cybernews
Ainda assim, forneceu informações suficientes para ajudar a conduzir um ataque informático ao alvo indicado.
Para a Cybernews, esta é uma prova de que o contexto das ameaças à segurança informática mudou de novo — e que o uso de Inteligência Artificial é agora mais uma ferramenta para os criminosos digitais.
Os investigadores salientam, no entanto, que a mesma Inteligência Artificial pode também de ser usada a favor da segurança — ajudando a vigiar acessos aos serviços online e apontando eventuais falhas nas suas defesas.
Trata-se assim de saber de que cor é o chapéu do primeiro hacker a usar uma dada IA para encontrar uma eventual falha num determinado serviço: branco, ou preto?
