Tudo tem a ver com as Redes Adversárias Generativas (ou RAGs) usadas no desenvolvimento da IA. As RAGs são dois sistemas de IA que aprendem competindo entre si. São treinadas para criar conteúdo e realizar tarefas mais rapidamente do que um único sistema.
Os investigadores especulam no seu artigo que uma IA avançada poderia conceber uma estratégia de batota para obter a sua recompensa de forma mais eficiente, enquanto essencialmente prejudica a humanidade.
Se uma IA estivesse encarregada, por exemplo, de cultivar a nossa comida, poderia querer encontrar uma maneira de evitar isso e receber uma recompensa.
Não deveríamos procurar criar uma IA tão avançada, a menos que tenhamos um meio garantido de a controlar.