ZAP // phonlamai, SIphotography / Depositphotos
As gerações mais recentes das aplicações de Inteligência Artificial provaram (quase sempre) ser úteis para recomendações de restaurantes e escrever emails, mas como fonte de aconselhamento médico causaram frequentemente problemas sérios. Desta vez, correu muito mal.
Um homem que seguiu o plano de saúde de um chatbot acabou no hospital depois de se dar uma forma rara de toxicidade.
A história começou quando o paciente decidiu melhorar a sua saúde reduzindo o seu consumo de sal, ou cloreto de sódio.
Para encontrar um substituto ao aditivo culinário, fez o que tantas outras pessoas fazem hoje em dia: perguntou ao ChatGPT.
O chatbot da OpenAI aparentemente sugeriu brometo de sódio, que o homem encomendou online e incorporou na sua dieta.
Embora seja verdade que o brometo de sódio pode ser um substituto para o cloreto de sódio, isso é verdade para limpar a sua banheira ou retrete — não para tornar as suas batatas fritas mais saborosas.
Mas a IA esqueceu-se de mencionar esse pequeno detalhe.
Três meses mais tarde, o homem apresentou-se no serviço de urgência do hospital local com delírios paranoicos, acreditando que o seu vizinho estava a tentar envenená-lo.
“Nas primeiras 24 horas de internamento, expressou paranoia crescente e alucinações auditivas e visuais, que, depois de uma tentativa de fuga, resultaram na sua retenção psiquiátrica involuntária por incapacidade grave”, escrevem os médicos num estudo de caso publicado na semana passada na revista Annals of Internal Medicine: Clinical Cases.
Depois de ter sido tratado com medicamentos antipsicóticos, o homem acalmou o suficiente para explicar o seu regime dietético inspirado por IA. Esta informação, juntamente com os seus resultados de exames, permitiu à equipa médica diagnosticá-lo com bromismo — uma acumulação tóxica de brometo.
Na maioria dos indivíduos saudáveis, os níveis de brometo são normalmente inferiores a cerca de 10 mg/L; no caso deste paciente, os seus níveis de brometo foram medidos em 1.700 mg/L, explica o Science Alert.
O bromismo era uma condição relativamente comum no início do século XX, e estima-se que tenha sido responsável por até 8 % dos internamentos psiquiátricos.
Mas os casos desta condição diminuíram drasticamente nas décadas de 1970 e 1980, depois de os medicamentos com brometos terem gradualmente começado a ser eliminados.
Após o diagnóstico, o paciente foi tratado ao longo de três semanas e teve alta sem problemas importantes.
A principal preocupação neste estudo de caso não é tanto o regresso de uma doença antiga – é que a emergente tecnologia de IA ainda está muito aquém de conseguir substituir a perícia humana quando se trata de coisas que realmente importam.
“É importante considerar que o ChatGPT e outros sistemas de IA podem gerar imprecisões científicas, carecem da capacidade de discutir criticamente resultados, e acabam por alimentar a disseminação de desinformação“, escrevem os autores do artigo.
“É altamente improvável que um especialista médico tivesse mencionado brometo de sódio quando confrontado com um paciente à procura de um substituto viável para o cloreto de sódio.”
IA significa “idiota aluado”?