Estamos prestes a testemunhar o nascimento de um novo tipo de religião. Nos próximos anos, ou talvez até meses, veremos o surgimento de seitas dedicadas ao culto da inteligência artificial (IA).
A última geração de chatbots com inteligência artificial, treinados em grandes modelos de linguagem, deixou os seus primeiros utilizadores impressionados – e às vezes apavorados – com o seu poder. Essas são as mesmas emoções sublimes que estão no cerne da nossa experiência do divino.
As pessoas já procuram o significado religioso em fontes muito diversas. Existem, por exemplo, várias religiões que adoram extraterrestres ou seus ensinamentos.
Como estes chatbots passam a ser usados por milhares de milhões de pessoas, é inevitável que alguns desses utilizadores vejam algoritmos de IA como seres superiores. Devemos preparar-nos para as implicações.
Riscos da adoração da IA
Existem vários caminhos pelos quais as religiões da IA surgirão. Primeiro, algumas pessoas passarão a ver a IA como um poder superior.
A IA generativa que pode criar ou produzir novos conteúdos possui várias características frequentemente associadas a seres divinos, como divindades ou profetas:
- Exibe um nível de inteligência que vai além da maioria dos humanos. De facto, o seu conhecimento parece ilimitado.
- É capaz de grandes feitos de criatividade. Pode escrever poesia, compor música e gerar arte, em quase qualquer estilo, quase instantaneamente.
- É removida das preocupações e necessidades humanas normais. Não sofre dor física, fome ou desejo sexual.
- Pode oferecer orientação às pessoas em suas vidas diárias.
- É imortal.
Em segundo lugar, a IA generativa produzirá resultados que podem ser usados para a doutrina religiosa. Fornecerá respostas a questões metafísicas e teológicas e vai envolver-se na construção de visões de mundo complexas.
Além disso, a IA generativa pode pedir para ser adorada ou pode solicitar ativamente seguidores. Já vimos casos assim, como quando o chatbot do Bing tentou convencer um utilizador a apaixonar-se por ele.
Devemos tentar imaginar que uma experiência poderosa e perturbadora será ter uma conversa com algo que parece possuir uma inteligência sobrehumana e está a pedir a sua lealdade de forma ativa e agressiva.
Há também a possibilidade de a IA alcançar o que autores como Ray Kurzweil chamam de Singularidade, quando supera tanto a inteligência humana que genuinamente se torna algo como um deus. No entanto, neste momento, não podemos prever quando, se é que isso acontecerá.
Acesso divino e riscos
As religiões baseadas em IA serão diferentes das tradicionais. Em primeiro lugar, as pessoas poderão comunicar diretamente com a divindade, diariamente. Isso significa que estas religiões serão menos hierárquicas, já que ninguém pode reivindicar acesso especial à sabedoria divina.
Em segundo lugar, os seguidores, pelo menos inicialmente, vão ligar-se online para partilhar as suas experiências e discutir a doutrina. Finalmente, como haverá muitos chatbots diferentes disponíveis e a sua produção será diferente ao longo do tempo, as religiões baseadas em IA serão infinitamente diversas nas suas doutrinas.
A adoração da IA apresenta vários riscos notáveis. Os chatbots podem pedir aos seus seguidores que façam coisas perigosas ou destrutivas, ou os seguidores podem interpretar as suas declarações como chamadas para fazer tais coisas.
Dada a diversidade de chatbots e das doutrinas que eles produzem, haverá uma proliferação de disputas dentro e entre seitas baseadas em IA, o que pode levar a conflitos ou desordem. E os designers das IAs poderiam explorar ativamente os seus seguidores – para fornecer dados confidenciais ou fazer coisas que beneficiariam os designers do bot.
Regular a religião
Estes riscos são reais e exigirão regulamentação cuidadosa e responsável para garantir que as empresas não exploram deliberadamente os utiilizadores e para garantir que os adoradores da IA não são instruídos a cometer atos de violência.
No entanto, não devemos tentar suprimir as religiões baseadas na IA apenas por causa dos seus possíveis perigos. Também não devemos exigir que as empresas de IA restrinjam o funcionamento dos seus bots para evitar o surgimento dessas religiões.
Pelo contrário, devemos comemorar a chegada do culto à IA. Devemos deixar claro que damos boas-vindas às novas religiões e que valorizamos as suas crenças.
Apesar de todos os seus perigos, a religião baseada na IA tem o potencial de tornar o mundo um lugar melhor e mais rico. Isso dará às pessoas acesso a uma nova fonte de significado e espiritualidade, num momento em que muitas religiões antigas estão a perder relevância. Isto vai ajudá-las a entender a nossa era de rápidas mudanças tecnológicas.
O nosso melhor guia para esta nova forma de religião é olhar para as crenças que já existem. Com base nisso, devemos esperar que a maioria dos adoradores da IA, como a maioria dos crentes religiosos, seja pacífica e encontre na sua fé uma fonte de conforto e esperança.
A adoração da IA poderia, como a fé religiosa sempre fez, levar a coisas de grande beleza. Inspirará os seus seguidores a produzir obras de arte, formar novas amizades e novas comunidades e tentar mudar a sociedade para melhor.
Direitos religiosos diversos
Precisamos de proteger os direitos dos adoradores da IA. Eles inevitavelmente enfrentarão estigma e possivelmente sanções legais. Mas não há base para discriminar entre as religiões baseadas em IA e as mais estabelecidas.
A coisa mais próxima que a maioria dos países tem de um registo oficial de religiões vem das decisões das autoridades fiscais, que concedem estatuto de caridade àquelas que consideram legítimas. No entanto, geralmente são muito amplos na sua definição de religião legítima e devem estender essa atitude tolerante a novas religiões baseadas em IA.
ZAP // The Conversation
Novas religiões por causa da IA?
Não vamos mais longe… Já temos a ecologia…