/

Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas

11

20th Century Fox

Imagem do filme I, Robot (2004), do realizador Alex Proyas.

Uma equipa de investigadores do Instituto Max Planck para o Desenvolvimento Humano sugere que seria impossível controlar máquinas superinteligentes.

A tecnologia de Inteligência Artificial (IA) continua a evoluir de vento em popa, enquanto alguns cientistas e filósofos avisam sobre os seus eventuais perigos.

Se alguém programar um sistema de IA com uma inteligência superior à dos humanos, para que possa aprender de forma independente, outros problemas podem surgir. Por exemplo, a IA pode substituir todos os programas existentes e assumir o controlo de todas as máquinas em todo o mundo através da internet.

“Uma máquina superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como é que as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento tornar-se incontrolável e perigoso para a humanidade”, diz o coautor do estudo Manuel Cebrian num comunicado citado pela EurekAlert.

Os resultados do estudo foram publicados este mês na revista científica Journal of Artificial Intelligence Research.

Os cientistas exploraram duas formas de travar estas máquinas superinteligentes: a primeira envolveria limitar as capacidades da IA, bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial.

A outra via envolveria a programação de princípios éticos na IA, para que esta apenas agisse no melhor interesse da humanidade.

“Se se dividir o problema em regras básicas da ciência da computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper as suas próprias operações. Se isto acontecesse, você não saberia se o algoritmo de contenção ainda estava a analisar a ameaça, ou se parou para conter a IA prejudicial. Na realidade, isto torna o algoritmo de contenção inutilizável”, explicou Iyad Rahwan, diretor do Centro para Humanos e Máquinas.

Assim, nenhum algoritmo pode encontrar uma solução para determinar se uma IA seria perigosa para o mundo. Os investigadores alegam ainda que podem até nem saber quando é que estas máquinas superinteligentes chegarão.

  Daniel Costa, ZAP //

11 Comments

  1. treta….. tem de existir limite, senao humanidade esta condenada….

    Nos humanos somos muitos repetitivos e muito faliveis….se ‘e que faco entender….
    Nao somos tao genios como muitos pensam….

  2. Portanto:
    “Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas” …
    “bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial”

    Ou seja… uma máquina “super-inteligente” não será capaz de obter informação de como se ligar à internet ou fazer alterações de hardware para o possibilitar!!! Essas conclusões são ridículas no mínimo. Até um adolescente sabe instalar um modem… mas uma máquina super-inteligente nunca conseguiria encontrar uma forma!!!

  3. Depois do Covid, inventa-se outra ainda mais sofisticada e um dia cá ficarão as máquinas para contar umas às outras, era uma vez uma humanidade que confiou em nós!

  4. Ninguém, nada vai deter a evolução dos seres vivos. Podem criar religiões e filosofias, mas está escrito “DNA” do Cosmos : MAKTUB. Estende-se até a matéria. Nasce, cresce desaparece e volta tudo a outras dimensões com tamanhos, formas – tudo se renova se expande e se contrai para formar novas ocupações no tempo e no espaço. O existir é infinito, enquanto, não sabemos, assim como tamanho do Universo e seus limites. A inteligência artificial produzirá máquinas poderosíssimas que ficarão lado a lado com a Criatura Humana e os dois travarão lutas, porém, sempre chegarão em harmonia, porquanto um dependerá do outro. É o que pensa joãoluizgondimaguiar- [email protected]

  5. Em 2016 escrevi um artigo sobre este assunto e todos acharam imaginaveis tal situacao. Nós seres humanos andamos a trabalhar para as maquinas, ja andamos escravos dela ha tempos.

  6. Nos humanos precisamos e necessitamos de robos com IA mais do que nossa inteligencia para comandar viagens de exploracao no espaco…e em ambientes hostis, trabalhos perigosos, no ensino, laboratorios quimicos, nas guerras, nas decisoes da economia, governacao nas decisoes importantes…se ‘e que faco me entender…. caso nao entendem ainda nao chegaram la…

  7. Hoje, maioria das maquinas estao conectadas a internet ou outra rede. Mas no futuro, impoe-se que tenha um sistema autonomo…tal como nos, porque as tarefas assim o exigem…

Deixe o seu comentário

Your email address will not be published.