Um novo estudo revelou que qualquer esforço para eliminar o comportamento dos utilizadores através do algoritmo não terá sucesso. Parece que a toxicidade das redes sociais já não pode ser corrigida.
O impacto polarizador das redes sociais não é apenas o resultado de algoritmos que consideramos maus. É, hoje em dia, inevitável graças aos componentes centrais de como as plataformas funcionam – e continuarão a funcionar.
A conclusão é de um novo novo estudo, publicado na semana passada no arXiv, que iliba o algoritmo pela toxicidade nas redes socais.
Foram criados 500 chatbots de IA para imitar uma variedade de crenças políticas nos EUA, com base no American National Election Studies Survey. Esses bots, alimentados pelo modelo de linguagem de grande escala GPT-4o mini, foram instruídos para interagirem entre si numa rede social simples que os investigadores tinham concebido sem anúncios ou algoritmos.
Durante cinco fases da experiência, cada uma envolvendo 10.000 ações, os agentes de IA tenderam sempre a seguir pessoas com quem partilhavam filiações políticas, enquanto aqueles com opiniões mais partidárias ganhavam mais seguidores e republicações. Isto refletia a atenção geral para esses utilizadores, que gravitava em direção a autores mais partidários.
“Fruto da árvore envenenada”
“Estávamos à espera de que a polarização fosse algo impulsionado por algoritmos. Pensávamos que as plataformas fosse concebidas para isto – para produzir estes resultados – porque são desenhadas para maximizar o envolvimento e irritar-nos, e assim por diante”, disse, à New Scientist, Petter Törnberg, da Universidade de Amesterdão, que liderou a investigação.
Afinal, parece que não. O estudo sugere que não são os algoritmos que estão a causar o problema, o que pode tornar muito difícil qualquer tentativa de eliminar o comportamento antagónico dos utilizadores por via do design.
“A maioria das atividades nas redes sociais é sempre fruto da árvore envenenada – os problemas iniciais das redes sociais residem sempre no seu design fundamental e, como tal, podem encorajar o pior do comportamento humano”, disse, à New Scientist, Jess Maddox, da Universidade da Geórgia, que não fez parte da investigação.
