Uso da inteligência artificial está a ser discutido atualmente em Bruxelas, onde os eurodeputados pretendem regular o uso da tecnologia nos espaços urbanos. Enquanto principais beneficiadoras (e conhecedoras) da implementação da IA, as cidades querem ter voto na matéria, tanto que já criaram uma iniciativa comum.
Cidades como Barcelona, Londres ou Amesterdão estão a unir forças para influenciar a legislação comunitárias que irá regular o uso da Inteligência Artificial em território europeu.
É que apesar de a tecnologia já ser amplamente usada, a sua aplicação é muitas vezes ordenada pelos governos nacionais e implementada por empresas privadas, deixando os municípios com pouco poder de decisão em matérias como a segurança ou a privacidade dos cidadãos.
Devido aos benefícios que podem surgir da aplicação da IA em áreas como a saúde, a educação ou os transportes, os municípios (e os seus representantes) querem ter a certeza de que o trabalho dos eurodeputados resulta em legislação concordante com as suas preferências.
A lei que está atualmente a ser discutida em Bruxelas é a primeira do género e tem como objetivo restringir o uso de tecnologias de reconhecimento facial em locais onde pode ser imposto o cumprimento de lei.
A única exceção será o combate à “criminalidade grave” — algo que os ativistas pela privacidade, reguladores e municípios consideram ser uma ‘brecha’ que poderá ser aproveitada por estados mais autoritários ou empresas responsáveis pela implementação da tecnologia.
“Nós queremos banir totalmente os sistemas de vigilância biométrica, até termos garantias de que estes sistemas respeitam os direitos fundamentais”, explicou Laia Bonet, vice-presidente da câmara de Barcelona, citada pela versão europeia do Politico.
Reconhecimento facial vs direitos fundamentais
O assunto é de tal forma importante para algumas cidades, como Barcelona, Londres, Amesterdão e Nova Iorque, que os seus representantes decidiram criar uma iniciativa comum intitulada Urban AI Observatory. O objetivo é precisamente encontrar uma voz comum entre as cidades e sobre o uso da inteligência artificial.
“A união pode providenciar evidências para uma melhor legislação nacional, porque na maioria das vezes as cidades não têm o poder de parar as coisas, mesmo que quisessem”, escalarece Theo Blackwell, diretor de assuntos digitais da cidade de Londres.
Em última análise, a iniciativa representa mais um episódio da longa tradição das grandes cidades europeias se posicionarem ideologicamente à esquerda dos seus governos nacionais em assuntos tidos como progressistas, como é o caso das alterações climáticas ou a imigração.
Na discussão em torno da IA e do seu uso em contexto urbano, as cidades contam ainda com o apoio de ativistas, eurodeputados e reguladores na área da privacidade — que sempre alertaram para a violação de direitos fundamentais com a tecnologia de reconhecimento facial.
A título de exemplo, os reguladores britânicos avisaram que serão mesmo precisos critérios exigentes para empresas de identificação biométrica preencherem de forma a permitir a sua implementação.
Recentemente, estes reguladores realizaram uma investigação sobre o uso de reconhecimento facial, a qual descobriu que nenhuma das situações analisadas relativamente ao uso da IA se enquadrava nas regras de proteção de dados imposta pela União Europeia — que o Reino Unido ainda segue.
O município de Londres é adepto do uso do reconhecimento facial por parte da polícia para ajudar a identificar criminosos, mas desconfia que este mecanismo está também a ser usado por empresas privadas.
“Uma coisa são as forças policiais dizerem ‘sim, nós vamos usa-lo para prevenir o terrorismo ou salvaguardar as crianças’, outra completamente diferente é o seu uso amplo e sem restrições”, disse Blackwell.
Uso de algoritmo fez cair governo holandês
Segundo as informações divulgadas, o Observatório criado pelas cidades tem como objetivo a produção de diretrizes sobre a gestão ética dos algoritmos nas cidades, sobre a utilização ética do reconhecimento facial e partilha das melhores práticas.
Os esforços das cidades prendem-se, sobretudo, no sentido de pressionar os decisores políticos a selecionar autoridades independentes para verificar se as empresas responsáveis pela distribuição dos sistemas de inteligência artificial cumprem as exigências de ética europeias. A proposta da Comissão baseia-se nas auto-avaliações das empresas.
As cidades também querem estar representadas no Grupo Europeu de Inteligência Artificial que irá supervisionar a implementação da lei. Segundo entendem os seus representantes, têm “experiência em primeira mão no uso da inteligência Artificial em contexto urbano”, como tal, querem ter a certeza que este organismo “toma as melhores decisões”.
Estas medidas, entendem as estruturas locais, são essenciais para evitar situações como a polémica que motivou a queda do governo holandês, depois de famílias de migrantes terem sido forçadas a devolver apoios sociais por terem sido injustamente acusadas de falsificar as suas declarações sociais.
Durante o processo, o governo usou um algoritmo para determinar que famílias teriam maior probabilidade de cometer fraude. Posteriormente, um tribunal holandês determinou que esta tecnologia violava os direitos humanos.
O caso, diz Aik van Eemeren, diretor do departamento de tecnologia da cidade de Amesterdão, mostrou-nos que “não sabemos o suficiente sobre o que está realmente a acontecer no nosso sistema”.
“Nós temos de fazer mais trabalho para garantir que não volta a acontecer novamente. É por isso que temos de trabalhar internacionalmente com outras cidades”, explicou o responsável.
Apesar da aparente relutância, as cidades que formaram a iniciativa não são céticas do ponto de vista tecnológico.
Helsínquia, por exemplo, está a explorar a opção de “cuidados de saúde previsíveis”, um sistema que analisa os dados dos utentes para perceber quais os que se enquadram nos grupos de risco de cada doença consoante a sua informação clínica. Aqueles que apresentam níveis elevados de açúcar no sangue, por exemplo, podem ser chamados preventivamente para mais testes.
Londres, por sua vez, usar o seu sistema de vigilância para monitorizar o movimento em determinados bairros da cidade e, assim, adaptar a sua estratégia de confinamento.
