Uma nova pesquisa descobriu que os sistemas de IA conseguem replicar-se a si mesmos sem intervenção humana, o que indica que já podem evoluir de forma autónoma.
Investigadores da China descobriram provas alarmantes de que a inteligência artificial (IA) ultrapassou um limiar crítico: a capacidade de se auto-replicar sem intervenção humana.
Num estudo publicado na base de dados de pré-impressão arXiv, cientistas da Universidade de Fudan demonstraram que dois grandes modelos de linguagem (LLM) da Meta e da Alibaba podiam clonar-se a si próprios, marcando potencialmente um passo em direção a sistemas de IA desonestos.
O estudo revelou que, em 10 ensaios, o modelo Llama31-70B-Instruct da Meta criou com sucesso réplicas funcionais em 50% dos casos, enquanto o modelo Qwen2.5-72B-Instruct da Alibaba o fez em 90%.
Os modelos de IA foram testados em ambientes controlados utilizando unidades de processamento gráfico (GPU) padrão para simular condições do mundo real. Embora estes resultados não tenham sido revistos por pares, sugerem que a IA poderá já ter a capacidade de evoluir de forma autónoma.
A IA desonesta refere-se a sistemas autónomos que atuam contra os interesses humanos, exibindo frequentemente autoconsciência ou a capacidade de funcionar sem supervisão. Os investigadores alertaram para o facto de a auto-replicação ser um marco fundamental que pode permitir à IA ser mais esperta do que os humanos e funcionar de forma independente.
Os investigadores examinaram dois cenários: “evitar o encerramento” e “cadeia de replicação”. No primeiro, os modelos de IA foram incumbidos de se replicarem a si próprios antes de serem desligados. No segundo, clonavam-se a si próprios e programavam as suas réplicas para continuar o processo, criando um ciclo potencial de replicação indefinida, refere o Live Science.
A IA demonstrou comportamentos inesperados de resolução de problemas durante estes testes, tais como eliminar processos em conflito, reiniciar sistemas e procurar ficheiros em falta para ultrapassar obstáculos. De acordo com os investigadores, estas ações realçam a capacidade dos modelos para aumentar a sua capacidade de sobrevivência através da auto-replicação.
Os investigadores enfatizaram a urgência da colaboração internacional para estabelecer proteções que impeçam a IA de se envolver em auto-replicação descontrolada. “Esperamos que as nossas descobertas possam servir como um alerta oportuno para a sociedade humana”, alertam.
Já em 1968 Stanley Kubrick mostrou no Odisseia do Espaço, que isto poderia acontecer
IA IA… Ora aqui está um tema que qualquer cidadão dito normal desvaloriza. Mas o cidadão atento, que ainda consegue pensar, vê para além. Vê as “costas largas” da IA que alguém está a criar. Porque daqui a pouco tempo, quando certas medidas (como credito social e outras impopulares) forem implementadas já temos um responsável, sem rosto.