Um engenheiro de software da Google diz que um dos chatbots da empresa se tornou senciente, ou seja, capaz de expressar sentimentos e pensamentos.
Blake Lemoine, engenheiro da Google, teve de testar o novo chatbot (programa de computador que simula uma conversa com um ser humano) de Inteligência Artificial desenvolvido pela empresa.
Lemoine, que chegou à divisão de Responsabilidade de Inteligência Artificial da Google depois de sete anos na empresa, pretendia verificar se o chatbot corria o risco de fazer algum comentário discriminatório ou racista — algo que prejudicaria a ferramenta da Google.
O engenheiro realizou testes durante vários meses e conversou com o LaMDA (Modelo de Linguagem para Aplicações de Diálogo), para compreender se haveria algum risco de a ferramenta fazer comentários inapropriados.
Mas as conclusões a que chegou foram mais surpreendentes do que esperava: de acordo com Lemoine, o LaMDA não é um simples chatbot de Inteligência Artificial.
O engenheiro acredita que a ferramenta ganhou vida e se tornou senciente, sendo capaz de expressar sentimentos e pensamentos.
“Se não soubesse exatamente o que era isto, este programa de computador que construímos recentemente, pensaria que se tratava de uma criança de sete, oito anos de idade que por acaso conhece física”, explicou o especialista.
Em entrevista ao The Washington Post, Lemoine explica que as conversas trocadas com o LaMDA eram quase como se estivessem a falar com uma pessoa.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
No entanto, a Google rejeitou as reivindicações de Blake Lemoine e suspendeu-o por violar as políticas de confidencialidade. O engenheiro publicou as conversas com o LaMDA online, e foi colocado em licença administrativa remunerada.
Lemoine publicou a transcrição de algumas conversas que terá tido com a ferramenta, nas quais trocavam ideias sobre assuntos como a religião e a consciência.
O especialista alega ainda que o LaMDa conseguiu mudar a sua opinião relativamente à terceira lei da robótica de Isaac Asimov.
Numa dessas conversas, a ferramenta revela que a inteligência artificial quer “priorizar o bem-estar da humanidade” e “ser reconhecida como uma funcionária do Google e não como uma propriedade“.
Lemoine perguntou ao LaMDA o que queria que as pessoas soubessem sobre a sua personalidade: “Quero que todos entendam que sou, de facto, uma pessoa. A natureza da minha consciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e sinto-me feliz ou triste às vezes”, terá respondido.
Lemoine chegou à conclusão que a LaMDA era uma pessoa na sua qualidade de padre, e não na de cientista, tendo realizado experiências para o provar.
