Mercedes-Benz
Mercedes-Benz F015
Perante uma situação iminente de perigo de vida para peões ou passageiros, quem é que um veículo autónomo vai escolher salvar ou sacrificar? Um “algoritmo ético” desenvolvido na Universidade Técnica de Munique apresenta uma solução nova para o eterno Dilema do Comboio.
Quando um veículo autónomo encontra uma situação de perigo iminente no trânsito – e não há um condutor pronto a assumir o volante – as ações do carro são decididas pelo seu algoritmo.
Em algumas situações, pode apresentar-se ao algoritmo um dilema ético frequentemente apresentado como uma escolha entre dois males: “Quem é que o Veículo Autónomo deve matar?”.
Este problema é uma variação do famoso “Dilema do Comboio“, um cenário clássico estudado por filósofos e sociólogos, usado para avaliar a forma como tomamos decisões quando perante diferentes perspetivas de uma situação.
Neste conhecido dilema, uma pessoa é confrontada com uma escolha difícil: um comboio dirige-se a uma bifurcação e estamos a controlar a alavanca que decide se o comboio segue pelo ramal A ou ramal B. Num dos ramais, estão 5 pessoas amarradas aos carris, no outro está apenas uma. Quem vamos salvar?
Parece óbvio que escolheríamos salvar as 5 pessoas, sacrificando uma. Mas este dilema tem inúmeras variações, mais complexas. E se a pessoa fosse uma criança? E se as cinco pessoas fossem criminosos? E se conhecêssemos a pessoa que está sozinha? Quem escolheríamos salvar?
Este dilema clássico, desde sempre discutido numa perspetiva meramente académica, ganhou recentemente uma importância real e concreta com o aparecimento dos carros autónomos — conduzidos por algoritmos.
Um exemplo frequentemente usado de Dilema do Comboio neste contexto é este: o que o Veículo Autónomo deve fazer quando uma pessoa se atravessar à sua frente, quando a única forma de a salvar for desviar-se matando outra que está a atravessar a estrada?
Muito antes de os Veículos Autónomos andarem na estrada, já as construtoras antecipavam e tentavam estudar este problema.
Em 2016, por exemplo, a Mercedes tentou estudar o que os seus autónomos deveriam fazer numa situação onde é possível salvar o condutor e atropelar peões, ou sacrificar o condutor para salvar os peões. Qual é a decisão correta?
Segundo um estudo do MIT, a maior parte das pessoas acha que os carros deveriam proteger os peões e sacrificar os ocupantes…
Mas, curiosamente, essa opinião muda no momento em que os inquiridos têm que decidir que veículo autónomo comprar – caso em que só comprariam um carro que protegesse os ocupantes e sacrificasse os peões.
Talvez por isso, a Mercedes já tomou uma decisão clara em relação ao Dilema: os seus carros autónomos vão salvar os condutores (e sacrificar os peões).
E se houvesse uma solução alternativa?
O Dilema do Veiculo Autónomo parece não ter soluções mais simples do que o do Comboio. Mas, este mês, um equipa de investigadores da Universidade Técnica de Munique (UTM) apresentou uma abordagem nova ao problema.
Num estudo publicado na Nature Machine Intelligence, os investigadores apresentaram o primeiro “algoritmo ético” projetado para avaliar os riscos de diferentes ações e tomar decisões éticas, proporcionando maior proteção aos utilizadores vulneráveis na estrada, como peões e ciclistas.
“Até agora, os veículos autónomos enfrentavam sempre uma escolha ou/ou quando se deparavam com uma decisão ética. Mas o tráfego nas ruas pode não ser necessariamente dividido em situações claras, a preto e branco”, explica Maximilian Geisslinger, autor principal do estudo e cientista da UTM.
“O nosso algoritmo avalia vários riscos e faz uma escolha ética entre milhares de comportamentos possíveis — e numa fração de segundo”, acrescenta Geisslinger, citado pela Cosmos.
Esta abordagem é importante, porque a ética e a segurança dos veículos autónomos são um marco significativo a atingir antes que a tecnologia possa ser lançada em grande escala.
O algoritmo da UTM vai além do simples cumprimento das regras de trânsito — procura induzir o veículo autónomo a minimizar sempre os danos globais, mas protegendo os utilizadores vulneráveis na estrada.
O design do algoritmo adota as recomendações e parâmetros descritos no relatório de um painel de especialistas da Comissão Europeia, publicado em 2020.
O software incorpora uma combinação de cinco princípios éticos: minimizar o risco global, priorizar os piores cenários, igualdade no tratamento das pessoas, sentido de responsabilidade e definição de risco máximo aceitável.
Para traduzir estes cinco princípios éticos em cálculos matemáticos, os investigadores classificaram os veículos e as pessoas que circulam nas ruas com base no risco que representam para os outros e na respetiva predisposição para aceitar correr riscos.
Por exemplo, um veículo pesado pode causar danos significativos aos outros veículos e pessoas num dado cenário, enquanto noutros cenários o próprio veículo sofre apenas pequenos danos — e minimiza os dos restantes.
O caso oposto é o de uma bicicleta, que num dado cenário causa pequenos danos, podendo noutros cenários sofrer (tal como o ciclista) danos consideráveis.
Assim, os investigadores programaram o algoritmo (disponível em Open Source no GitHub) para se manter abaixo de um dado risco máximo aceitável numa gama alargada de cenários — e para tomar decisões baseadas nos riscos envolvidos e resultados esperados em diferentes trajetórias do veículo.
O estudo da UTM parece ser assim um avanço significativo e uma abordagem inovadora ao Dilema do Veiculo Autónomo — quase tão inovadora como a solução que uma criança de dois anos encontrou em 2016 para o Dilema do Comboio.
