ZAP // Sergei Tokmakov, 0fjd125gk87 / Pixabay
Será que as máquinas conseguem realmente compreender a justiça, a equidade e os direitos humanos?
No que parece ser o enredo de um filme de ficção científica passado numa distopia, os Emirados Árabes Unidos têm um novo plano arrojado: deixar a Inteligência Artificial escrever as leis.
Segundo o ZME Science, os responsáveis máximos dos Emirados Árabes Unidos querem entregar grande parte do processo legislativo — escrever, atualizar e rever leis – à IA.
A ideia é que isto conduzirá a regras mais inteligentes, a uma governação mais rápida e a menos entraves burocráticos.
Trata-se de uma experiência inédita a nível mundial, que permite que as máquinas moldem o código jurídico de um país inteiro.
“Este novo sistema legislativo, alimentado por inteligência artificial, irá mudar a forma como criamos as leis, tornando o processo mais rápido e mais preciso”, afirmou o Xeque Mohammed bin Rashid al-Maktoum, também governante do Dubai, para os meios de comunicação social estatais.
Mas enquanto a proposta parece atraente, as implicações são tudo menos simples.
Porquê?
Os sistemas legislativos são notoriamente lentos, ineficientes e, muitas vezes, simplesmente confusos. A redação de novas leis pode demorar anos e o impasse político pode bloquear reformas importantes.
O processo também tende a tornar as leis verbosas e complexas, tornando por vezes extremamente difícil para as pessoas comuns compreendê-las.
Em teoria, a IA pode ultrapassar isso. Pode analisar milhares de leis em segundos, detetar incoerências, identificar lacunas e até retirar ideias de outros países com sistemas jurídicos semelhantes.
É, sem dúvida, uma ferramenta poderosa. Pode ajudar os legisladores a concentrarem-se nos problemas reais, em vez de perderem tempo com papelada ou teatro político.
Este novo sistema, que será supervisionado por uma unidade governamental denominada Gabinete de Inteligência Regulamentar, vai recorrer a uma enorme base de dados de leis locais e federais, decisões judiciais e registos governamentais.
A IA irá então analisar todos estes dados e sugerir correções legais, ajustes e atualizações. E sim, vai mesmo escrever a lei em linguagem simples, em várias línguas, para que todos no país – desde juízes a expatriados – a possam compreender.
Num país como os EUA, onde 90% da população não é cidadã, isso pode ser transformador.
Segundo os responsáveis do país, o sistema pode reduzir o tempo de redação da legislação em 70%. Mas os críticos alertam para o facto de a experiência poder sacrificar a transparência, a equidade e o controlo democrático do processo.
Pode correr terrivelmente mal
O problema é que as leis não são só uma questão de eficiência. Têm a ver com justiça, direitos e valores. E é aí que as coisas se complicam: a ideia poder correr terrivelmente mal — de mais de uma forma.
Em primeiro lugar, os sistemas de IA continuam a não ser fiáveis. “Estes sistemas ainda ‘alucinam factos’ e têm problemas de fiabilidade e de robustez”, explica Vincent Straub, investigador de IA em Oxford, ao Financial Times.
Por outras palavras, inventam coisas.
Pior ainda, a IA não compreende as consequências humanas. Não compreende o contexto. E, definitivamente, não compreende a justiça.
Como explica Marina De Vos, cientista informática da Universidade de Bath, a IA pode propor algo que faz sentido para uma máquina mas que pode não fazer sentido nenhum para ser implementado — e acabar por decidir a vida das pessoas com base em coisas que simplesmente não fazem sentido na nossa sociedade.
Depois, há o problema dos lobbies e dos abusos.
A IA não se limita a escrever leis perfeitamente equilibradas — tem as suas próprias tendências e pode até ser usada como arma para as manipular subtilmente.
Os investigadores norte-americanos Bruce Schneier e Nathan Sanders alertam para o facto de a Inteligência Artificial poder criar aquilo a que chamam “microlegislação“, nota o MIT Technology Review: pequenos ajustes ocultos a projetos de lei que servem interesses poderosos sem que ninguém se aperceba.
Quer inclinar as regras a favor de uma empresa ou sector? Alimente a sua IA com os dados certos e ela reescreverá discretamente o campo de jogo.
A burocracia existe por uma razão
Há outra razão pela qual os Emirados Árabes Unidos estão a experimentar isto: porque não são uma democracia. É um Estado autoritário que tem sido descrito como uma “autocracia tribal“, em que as sete monarquias constituintes são dirigidas por governantes tribais de uma forma autocrática.
Nos EAU não existem instituições democraticamente eleitas e não há um compromisso formal com a liberdade de expressão. Por outras palavras, os governantes dos EAU não precisam de ganhar votos nem de debater projetos de lei no parlamento.
Esta circunstância confere-lhe uma vantagem única quando se trata de testar grandes reformas digitais. Mas, obviamente, isto significa que há pouco espaço para a dissidência ou para o controlo público.
Se a IA tomar uma decisão errada ou que beneficie os poderosos em detrimento do cidadão comum, há poucos mecanismos para a contestar ou rever.
O resultado poderá ser um sistema jurídico mais rápido, sim – mas também mais opaco, menos responsável e potencialmente perigoso, de formas que só se tornam claras depois de os danos terem sido causados.
“A lei é fundamentalmente um esforço humano“, diz Ahmad al-Khalil, especialista jurídico dos EAU, ao Khaleej Times, um jornal dos Emirados Árabes Unidos. “A supervisão humana continua a ser crucial, especialmente no que diz respeito aos direitos, à equidade e à interpretação”.
Por enquanto, os EAU não revelaram quais as ferramentas de IA que vão usar, como planeiam garantir que são seguras e responsáveis, nem exatamente como o processo irá funcionar.
Mas esta pode acabar por ser uma experiência cujos resultados vão ecoar por todo o mundo. As ferramentas já existem; a única questão é saber como são utilizadas.
