Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas

20th Century Fox

Imagem do filme I, Robot (2004), do realizador Alex Proyas.

Uma equipa de investigadores do Instituto Max Planck para o Desenvolvimento Humano sugere que seria impossível controlar máquinas superinteligentes.

A tecnologia de Inteligência Artificial (IA) continua a evoluir de vento em popa, enquanto alguns cientistas e filósofos avisam sobre os seus eventuais perigos.

Se alguém programar um sistema de IA com uma inteligência superior à dos humanos, para que possa aprender de forma independente, outros problemas podem surgir. Por exemplo, a IA pode substituir todos os programas existentes e assumir o controlo de todas as máquinas em todo o mundo através da internet.

“Uma máquina superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como é que as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento tornar-se incontrolável e perigoso para a humanidade”, diz o coautor do estudo Manuel Cebrian num comunicado citado pela EurekAlert.

Os resultados do estudo foram publicados este mês na revista científica Journal of Artificial Intelligence Research.

Os cientistas exploraram duas formas de travar estas máquinas superinteligentes: a primeira envolveria limitar as capacidades da IA, bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial.

A outra via envolveria a programação de princípios éticos na IA, para que esta apenas agisse no melhor interesse da humanidade.

“Se se dividir o problema em regras básicas da ciência da computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper as suas próprias operações. Se isto acontecesse, você não saberia se o algoritmo de contenção ainda estava a analisar a ameaça, ou se parou para conter a IA prejudicial. Na realidade, isto torna o algoritmo de contenção inutilizável”, explicou Iyad Rahwan, diretor do Centro para Humanos e Máquinas.

Assim, nenhum algoritmo pode encontrar uma solução para determinar se uma IA seria perigosa para o mundo. Os investigadores alegam ainda que podem até nem saber quando é que estas máquinas superinteligentes chegarão.

Daniel Costa Daniel Costa, ZAP //

PARTILHAR

11 COMENTÁRIOS

  1. treta….. tem de existir limite, senao humanidade esta condenada….

    Nos humanos somos muitos repetitivos e muito faliveis….se ‘e que faco entender….
    Nao somos tao genios como muitos pensam….

  2. Portanto:
    “Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas” …
    “bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial”

    Ou seja… uma máquina “super-inteligente” não será capaz de obter informação de como se ligar à internet ou fazer alterações de hardware para o possibilitar!!! Essas conclusões são ridículas no mínimo. Até um adolescente sabe instalar um modem… mas uma máquina super-inteligente nunca conseguiria encontrar uma forma!!!

  3. Depois do Covid, inventa-se outra ainda mais sofisticada e um dia cá ficarão as máquinas para contar umas às outras, era uma vez uma humanidade que confiou em nós!

  4. Ninguém, nada vai deter a evolução dos seres vivos. Podem criar religiões e filosofias, mas está escrito “DNA” do Cosmos : MAKTUB. Estende-se até a matéria. Nasce, cresce desaparece e volta tudo a outras dimensões com tamanhos, formas – tudo se renova se expande e se contrai para formar novas ocupações no tempo e no espaço. O existir é infinito, enquanto, não sabemos, assim como tamanho do Universo e seus limites. A inteligência artificial produzirá máquinas poderosíssimas que ficarão lado a lado com a Criatura Humana e os dois travarão lutas, porém, sempre chegarão em harmonia, porquanto um dependerá do outro. É o que pensa joãoluizgondimaguiar- jlg21.com@gmail.com

  5. Nos humanos precisamos e necessitamos de robos com IA mais do que nossa inteligencia para comandar viagens de exploracao no espaco…e em ambientes hostis, trabalhos perigosos, no ensino, laboratorios quimicos, nas guerras, nas decisoes da economia, governacao nas decisoes importantes…se ‘e que faco me entender…. caso nao entendem ainda nao chegaram la…

  6. Hoje, maioria das maquinas estao conectadas a internet ou outra rede. Mas no futuro, impoe-se que tenha um sistema autonomo…tal como nos, porque as tarefas assim o exigem…

RESPONDER

Liquidez é "abundante" mas "é preciso fazê-la chegar" à economia, diz Centeno

O governador do Banco de Portugal, Mário Centeno, indicou que a crise de 2008 e de 2020 não são comparáveis devido à abundância de dinheiro disponível e que há liquidez para travar o impacto económico, mas …

Chega quer telefone e Internet pagos aos trabalhadores do Estado em teletrabalho

O Chega entregou no Parlamento, este domingo, um projeto de resolução no qual recomenda ao Governo que dê "o exemplo" e pague as despesas de telefone e Internet aos trabalhadores do Estado que estão em …

Governo quer que progressões na Função Pública passem a ser anuais

A ministra da Modernização do Estado e da Administração Pública, Alexandra Leitão, admitiu propor aos sindicatos um alongamento da tabela remuneratória da função pública e criar progressões anuais. Em entrevista ao Diário de Notícias e Dinheiro …

Há 100 dias, a direita tombou os 24 anos de poder socialista açoriano. OE2021 é a prova de fogo

Há 100 dias, deu-se uma das maiores reviravoltas da política açoriana: José Manuel Bolieiro foi empossado presidente, o PS superou o PSD no sufrágio mas a maioria de direita no Parlamento uniu forças para pôr …

Portugal vai comprar cerca de 38 milhões de vacinas, "muito mais" do que as necessárias

Em entrevista à agência Lusa, Marta Temido anunciou que Portugal vai comprar cerca de 38 milhões de vacinas contra a covid-19. Portugal vai comprar cerca de 38 milhões de vacinas contra a covid-19, “muito mais” do …

As mulheres na corrida a Marte (uma é portuguesa e sonha caminhar no Planeta Vermelho)

A chegada do veículo Perseverance da NASA a Marte teve dedo de várias mulheres, umas das quais a portuguesa Florbela Costa, Engenheira Aeronáutica do grupo suíço Maxon que falou com o ZAP sobre a sua …

"Truque" nas nomeações para altos cargos no Estado favorece PS

Em 165 concursos públicos para altos cargos, 129 deles são ocupados por dirigentes que tinham sido nomeados antes em regime de substituição. O Governo está a fazer nomeações para os cargos de topo no Estado …

Moratórias terminam no final do mês, mas banca afasta catástrofe

As moratórias privadas para crédito à habitação terminam já no próximo dia 31 de março e não está previsto o seu prolongamento. O ECO realça que as moratórias que vão terminar no final do mês representam …

Governo compra 139 mil computadores fornecidos pela empresa do Magalhães

Depois de ter lançado o Magalhães, que foi distribuído aos alunos do 1.º ciclo pelo Governo de José Sócrates, a JP Sá Couto vai voltar a fornecer computadores ao Estado. De acordo com o Correio da …

Julien Stéphan diz adeus ao Rennes após fazer história no clube

O treinador Julien Stéphan deixou hoje o comando técnico do Rennes, anunciou hoje o nono classificado da Liga francesa de futebol, após uma série de quatro derrotas seguidas e ter conseguido apenas um triunfo em …