Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas

20th Century Fox

Imagem do filme I, Robot (2004), do realizador Alex Proyas.

Uma equipa de investigadores do Instituto Max Planck para o Desenvolvimento Humano sugere que seria impossível controlar máquinas superinteligentes.

A tecnologia de Inteligência Artificial (IA) continua a evoluir de vento em popa, enquanto alguns cientistas e filósofos avisam sobre os seus eventuais perigos.

Se alguém programar um sistema de IA com uma inteligência superior à dos humanos, para que possa aprender de forma independente, outros problemas podem surgir. Por exemplo, a IA pode substituir todos os programas existentes e assumir o controlo de todas as máquinas em todo o mundo através da internet.

“Uma máquina superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como é que as aprenderam. Portanto, surge a questão de saber se isso poderia em algum momento tornar-se incontrolável e perigoso para a humanidade”, diz o coautor do estudo Manuel Cebrian num comunicado citado pela EurekAlert.

Os resultados do estudo foram publicados este mês na revista científica Journal of Artificial Intelligence Research.

Os cientistas exploraram duas formas de travar estas máquinas superinteligentes: a primeira envolveria limitar as capacidades da IA, bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial.

A outra via envolveria a programação de princípios éticos na IA, para que esta apenas agisse no melhor interesse da humanidade.

“Se se dividir o problema em regras básicas da ciência da computação teórica, descobre-se que um algoritmo que comandaria uma IA para não destruir o mundo poderia inadvertidamente interromper as suas próprias operações. Se isto acontecesse, você não saberia se o algoritmo de contenção ainda estava a analisar a ameaça, ou se parou para conter a IA prejudicial. Na realidade, isto torna o algoritmo de contenção inutilizável”, explicou Iyad Rahwan, diretor do Centro para Humanos e Máquinas.

Assim, nenhum algoritmo pode encontrar uma solução para determinar se uma IA seria perigosa para o mundo. Os investigadores alegam ainda que podem até nem saber quando é que estas máquinas superinteligentes chegarão.

Daniel Costa Daniel Costa, ZAP //

PARTILHAR

11 COMENTÁRIOS

  1. treta….. tem de existir limite, senao humanidade esta condenada….

    Nos humanos somos muitos repetitivos e muito faliveis….se ‘e que faco entender….
    Nao somos tao genios como muitos pensam….

  2. Portanto:
    “Humanidade não será capaz de controlar máquinas superinteligentes, avisam cientistas” …
    “bloqueando por exemplo o seu acesso à internet, o que, em contrapartida, limitaria o seu potencial”

    Ou seja… uma máquina “super-inteligente” não será capaz de obter informação de como se ligar à internet ou fazer alterações de hardware para o possibilitar!!! Essas conclusões são ridículas no mínimo. Até um adolescente sabe instalar um modem… mas uma máquina super-inteligente nunca conseguiria encontrar uma forma!!!

  3. Depois do Covid, inventa-se outra ainda mais sofisticada e um dia cá ficarão as máquinas para contar umas às outras, era uma vez uma humanidade que confiou em nós!

  4. Ninguém, nada vai deter a evolução dos seres vivos. Podem criar religiões e filosofias, mas está escrito “DNA” do Cosmos : MAKTUB. Estende-se até a matéria. Nasce, cresce desaparece e volta tudo a outras dimensões com tamanhos, formas – tudo se renova se expande e se contrai para formar novas ocupações no tempo e no espaço. O existir é infinito, enquanto, não sabemos, assim como tamanho do Universo e seus limites. A inteligência artificial produzirá máquinas poderosíssimas que ficarão lado a lado com a Criatura Humana e os dois travarão lutas, porém, sempre chegarão em harmonia, porquanto um dependerá do outro. É o que pensa joãoluizgondimaguiar- jlg21.com@gmail.com

  5. Nos humanos precisamos e necessitamos de robos com IA mais do que nossa inteligencia para comandar viagens de exploracao no espaco…e em ambientes hostis, trabalhos perigosos, no ensino, laboratorios quimicos, nas guerras, nas decisoes da economia, governacao nas decisoes importantes…se ‘e que faco me entender…. caso nao entendem ainda nao chegaram la…

  6. Hoje, maioria das maquinas estao conectadas a internet ou outra rede. Mas no futuro, impoe-se que tenha um sistema autonomo…tal como nos, porque as tarefas assim o exigem…

RESPONDER

Jornalistas estrangeiros denunciam "declínio da liberdade" na China

A China utilizou as medidas para controlar o coronavírus, a intimidação e restrições de visto para limitar a cobertura jornalística estrangeira em 2020, dando início a um "rápido declínio da liberdade na media", denunciou o …

Sindicato dos chefes da PSP interpôs ação judicial por causa da pré-aposentação

O Sindicato Nacional da Carreira de Chefes da PSP indicou este domingo que interpôs uma ação judicial para impugnar um despacho da direção nacional da Polícia Segurança Pública sobre a lista de pedidos da passagem …

"A agricultura em Montalegre vai acabar". Praga de javalis destrói culturas

Os agricultores do concelho de Montalegre andam desesperados com o facto dos javalis andarem a destruir as culturas. A população destes animais tem aumentado muito nos últimos anos e as medidas de controlo têm sido …

50 mil euros. Governo cria prémio nacional para proteger florestas

No próximo Conselho de Ministros, na quinta-feira, o Governo vai discutir um prémio bianual para projetos que ajudem a melhorar a floresta, do ponto de vista técnico, científico ou da comunicação. A notícia é avançada esta …

Polícia Judiciária ajudou a evitar dois ataques em França

As informações partilhadas pela Polícia Judiciária (PJ) com a Europol foram cruciais para alcançar a detenção do jihadista marroquino que viveu em Portugal. Hicham El-Hanafi foi condenado a 30 anos de prisão em França, na semana …

Duque de Edimburgo foi transferido para outro hospital

O Palácio de Buckingham anunciou esta segunda-feira que o príncipe Filipe, marido da rainha do Reino Unido, Isabel II, foi transferido para outro hospital de Londres para continuar o tratamento de uma infeção. O Palácio disse …

Presidência da UE. Governo trabalha para encontro com Biden durante "semestre português"

A presidência portuguesa do Conselho da União Europeia quer um encontro com o Presidente Joe Biden ainda durante o primeiro semestre. A presidência portuguesa do Conselho da União Europeia (UE) está a trabalhar na realização de …

Vacina da Pfizer. Intervalo entre doses aumenta para 28 dias (e lista de prioritários vai incluir pessoas com trissomia-21)

O intervalo entre a toma das duas doses da vacina da Pfizer/BioNtech contra a covid-19 foi alargado de 21 para 28 dias, anunciou esta segunda-feira o secretário de Estado Adjunto e da Saúde, António Lacerda …

Caso do avião com cocaína. PJ vai vigiar Aérodromo de Tires 24 horas por dia

A Polícia Judiciária (PJ) vai vigiar as movimentações de aeronaves e passageiros que chegam e saem do Aeródromo de Tires 24 horas por dia. A informação foi adiantada pelo Correio da Manhã, que falou com …

Facebook paga 650 milhões para encerrar litígio sobre vida privada nos EUA

O juiz federal norte-americano James Donato aprovou a indemnização de 650 milhões de dólares (540 milhões de euros) a 1,6 milhões de utilizadores do estado norte-americano do Illinois por parte do Facebook. Este acordo, assinado na …