Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas

20th Century Fox

Imagem do filme I, Robot (2004), do realizador Alex Proyas.

Uma equipa de investigadores do Instituto Max Planck para o Desenvolvimento Humano sugere que seria impossível controlar máquinas superinteligentes.

A tecnologia de Inteligência Artificial (IA) continua a evoluir de vento em popa, enquanto alguns cientistas e filósofos avisam sobre os seus eventuais perigos.

Se alguém programar um sistema de IA com uma inteligência superior à dos humanos, para que possa aprender de forma independente, outros problemas podem surgir. Por exemplo, a IA pode substituir todos os programas existentes e assumir o controlo de todas as máquinas em todo o mundo através da internet.

“Uma máquina superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como é que as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento tornar-se incontrolável e perigoso para a humanidade”, diz o coautor do estudo Manuel Cebrian num comunicado citado pela EurekAlert.

Os resultados do estudo foram publicados este mês na revista científica Journal of Artificial Intelligence Research.

Os cientistas exploraram duas formas de travar estas máquinas superinteligentes: a primeira envolveria limitar as capacidades da IA, bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial.

A outra via envolveria a programação de princípios éticos na IA, para que esta apenas agisse no melhor interesse da humanidade.

“Se se dividir o problema em regras básicas da ciência da computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper as suas próprias operações. Se isto acontecesse, você não saberia se o algoritmo de contenção ainda estava a analisar a ameaça, ou se parou para conter a IA prejudicial. Na realidade, isto torna o algoritmo de contenção inutilizável”, explicou Iyad Rahwan, diretor do Centro para Humanos e Máquinas.

Assim, nenhum algoritmo pode encontrar uma solução para determinar se uma IA seria perigosa para o mundo. Os investigadores alegam ainda que podem até nem saber quando é que estas máquinas superinteligentes chegarão.

Daniel Costa, ZAP //

PARTILHAR

11 COMENTÁRIOS

  1. treta….. tem de existir limite, senao humanidade esta condenada….

    Nos humanos somos muitos repetitivos e muito faliveis….se ‘e que faco entender….
    Nao somos tao genios como muitos pensam….

  2. Portanto:
    “Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas” …
    “bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial”

    Ou seja… uma máquina “super-inteligente” não será capaz de obter informação de como se ligar à internet ou fazer alterações de hardware para o possibilitar!!! Essas conclusões são ridículas no mínimo. Até um adolescente sabe instalar um modem… mas uma máquina super-inteligente nunca conseguiria encontrar uma forma!!!

  3. Depois do Covid, inventa-se outra ainda mais sofisticada e um dia cá ficarão as máquinas para contar umas às outras, era uma vez uma humanidade que confiou em nós!

  4. Ninguém, nada vai deter a evolução dos seres vivos. Podem criar religiões e filosofias, mas está escrito “DNA” do Cosmos : MAKTUB. Estende-se até a matéria. Nasce, cresce desaparece e volta tudo a outras dimensões com tamanhos, formas – tudo se renova se expande e se contrai para formar novas ocupações no tempo e no espaço. O existir é infinito, enquanto, não sabemos, assim como tamanho do Universo e seus limites. A inteligência artificial produzirá máquinas poderosíssimas que ficarão lado a lado com a Criatura Humana e os dois travarão lutas, porém, sempre chegarão em harmonia, porquanto um dependerá do outro. É o que pensa joãoluizgondimaguiar- [email protected]

  5. Nos humanos precisamos e necessitamos de robos com IA mais do que nossa inteligencia para comandar viagens de exploracao no espaco…e em ambientes hostis, trabalhos perigosos, no ensino, laboratorios quimicos, nas guerras, nas decisoes da economia, governacao nas decisoes importantes…se ‘e que faco me entender…. caso nao entendem ainda nao chegaram la…

  6. Hoje, maioria das maquinas estao conectadas a internet ou outra rede. Mas no futuro, impoe-se que tenha um sistema autonomo…tal como nos, porque as tarefas assim o exigem…

RESPONDER

Comportamento dos gatos varia tendo em conta (apenas) sete traços de personalidade

Um novo estudo, levado a cabo na Finlândia, descobriu que a personalidade dos gatos pode ser definida através de uma combinação de apenas sete traços de personalidade. De acordo com uma nova investigação, cujos resultados foram …

Medvedev esmagador rouba Grand Slam a Djokovic. E os campeões também choram

O sérvio Novak Djokovik falhou o seu encontro com a história do ténis, depois de uma inesperada e dolorosa derrota em três sets frente ao russo Daniil Medvedev. Ainda não foi desta que um tenista …

318 dias depois, máscaras deixam de ser obrigatórias na rua (mas recomendadas em aglomerados)

O uso de máscara no exterior deixa de ser obrigatório a partir desta segunda-feira, 318 dias depois, passando a ser facultativo e recomendado em algumas situações, como os aglomerados de pessoas. Esta obrigação durou, no total, …

CBS anuncia um reality show para ativistas. E alguns já o odeiam

O anúncio de um novo programa de televisão, apresentado como uma competição entre ativistas, cujo vencedor será o que tiver mais impacto nas redes sociais, causou polémica este fim de semana nos Estados Unidos. O novo …

A poesia moderna pode ter surgido muito antes do que se pensava

Descoberta feita por professor da Universidade de Cambridge vem colocar os inícios da poesia moderna no século II e não no século V, como se acreditava, quando os Bizantinos começaram a introduzi-las nos seus cânticos …

Agricultora com raízes portuguesas quer cultivar plantações com água salgada

Camila Reveles é nascida e criada no Brasil, mas há quatro gerações, o tetravô de Reveles deixou Portugal e mudou-se para a região de Praia Seca, perto do Rio de Janeiro. Com ele trouxe a …

BMW apresenta dois novos conceitos de veículos elétricos de duas rodas

No passado fim de semana, a BMW apresentou dois conceitos de veículos elétricos com duas rodas no IAA Mobility 2021, na Alemanha. Ambos foram desenvolvidos por divisões distintas da fabricante. A Vision AMBY e a i …

Dono de empresa de crio-preservação acusa a ex-mulher de roubar corpos congelados

  Duas empresas russas de crio-preservação, administradas respetivamente por ex-cônjuges, estão em conflito aberto. Na passada quarta-feira, a empresa do ex-marido acusou a empresa da sua antiga esposa de tentar roubar corpos congelados e equipamentos de um …

"Papel do orgasmo como descongestionante nasal" vence Prémio Ig Nobel 2021

O prémio, que é uma sátira do Prémio Nobel, também destacou este ano uma pesquisa sobre a melhor forma de transportar rinocerontes – de cabeça para baixo e pelas pernas – e o papel da …

Rampa de lançamento para os Jogos Olímpicos, este ginásio de boxe está a definhar com a covid

O East Coast Boxing Club tira jovens lutadores da rua e dá-lhes uma casa para praticar boxe. Agora, o ginásio atravessa sérias dificuldades devido à covid-19. Em Kampala, a capital do Uganda, encontra-se o East Coast …