Livros mostram como algoritmos impulsionam fascismo e devastam saúde mental de crianças

Na abertura do seu livro "Os engenheiros do caos" (2019), o jornalista e cientista político Giuliano Da Empoli, descreve uma festa de Carnaval nas ruas de Roma. Há dois elementos curiosos nessa cena. O primeiro é quem observa a festa começar. O poeta e pensador Johann Wolfgang von Goethe, cujo livro “Os sofrimentos do jovem Werther” (1774) havia desencadeado uma epidemia de suicídio pela Europa, num fenômeno desde então nomeado de “efeito Werther”: os leitores eram contagiados pelo sentimento de melancolia da personagem. Talvez o primeiro viral sombrio. 

Circulação do ódio

O segundo elemento é a própria festa de Carnaval, conhecida por elevar os pequenos e diminuir os grandes, inverter as hierarquias de ponta cabeça. Uma ideia que, à primeira vista, parece muito boa.

“A diferença entre castas alta e baixa parece, por um instante, suspensa (…)”, escreve o poeta, “a liberdade e a permissividade são mantidas em equilíbrio, pelo bom humor universal.” 

Mais adiante, porém, Goethe observa: “Não é raro que a batalha fique séria e se generalize, então é assustador testemunhar a obstinação e o ódio pessoal que vai tomando conta de todos.”     

Em sua analogia, Giuliano Da Empoli argumenta que o Carnaval é uma derrubada simbólica do poder desde a Idade Média. E que a fronteira entre a dimensão lúdica e política é frágil. Aqui é impossível não se lembrar de junho de 2013, talvez o ovo da serpente da nova onda fascista brasileira, antecipado pelos blocos de rua ainda no governo Kassab e depois legalizados por Fernando Haddad. Uma estranha confluência entre o espírito de inversão do Carnaval, o mundo digital e a vida política: o despertar do gigante fascista. A inversão não é necessariamente boa.

“Não é pouco surpreendente que essa festa tenha sido abolida, em algum momento, em quase todos os lugares, inclusive em Roma, ao raiar da Revolução Francesa, por temor de que se produzisse um contágio”, explica o autor. 

Para Giuliano Da Empoli, o Carnaval é o paradigma da vida política global.

É esse paradigma que explica, por exemplo, a ascensão do ex-coach Pablo Marçal: um oportunista de capacidades cognitivas estreitas e sem escrúpulos, que foi preso provisoriamente em 2005 e condenado em 2010 por participar de uma organização criminosa que invadia contas bancárias pela internet.

Só no ilusionismo do Carnaval sombrio que se tornou a política mediada por algoritmos o burro ganha aparência de inteligente, o incompetente parece capaz. E bobo da corte sonha ocupar a cadeira do rei.

Além de mostrar como a Itália contemporânea se tornou o berço dessa máquina algorítmica a serviço de um levante organizado da extrema direita – a utopia sombria de uma “Internacional Nacionalista” de Steve Bannon -, o livro de Giuliano Da Empoli tem um capítulo especial sobre figuras como Marçal, “Walto Conquista o Planeta”. 

O ex-coach que pretende ressuscitar os mortos na capital paulista não tem nem mesmo o mérito da bizarrice. É mais um falso profeta.

No episódio "The Waldo Moment", de Black Mirror, que foi ao ar em fevereiro de 2023, Jamie Salter, um comediante fracassado, dá voz a um urso azul animado chamado Waldo, num programa de TV satírico. 

Waldo ganha popularidade ao entrevistar e zombar de políticos. Então, é convencido a concorrer a um cargo político como uma piada. No final, o mundo se dissolve sob um regime autoritário: “O antissistema tornou-se o sistema e, por trás da máscara do Carnaval, estabeleceu o regime de ferro”.

Máquina do caos

O livro do jornalista Max Fisher aprofunda alguns pontos do trabalho Giuliano Da Empoli. “A máquina do caos: como as redes sociais reprogramaram nossa mente e nosso mundo” (2023) é uma longa empreitada de investigação jornalística que deveria estar na cabeceira de todos nós brasileiros. Em média, passamos mais de 9 horas por dia online, tempo superior a uma jornada semanal de 40 horas de trabalho. 

A raiva é um afeto narcisista. A raiva produz engajamento. O design comportamental e a experiência do usuário das plataformas digitais são construídas, à revelia da boa intenção religiosa dos seus criadores, com uma ideia simples: manter as pessoas online e interagindo pelo maior tempo possível. Ansiosas, com ódio nos dedos, em estado de alerta porque o Brasil “vai se tornar uma Venezuela”, “chips chineses são injetados em vacinas” e “mamadeiras com pênis de borracha são distribuídas nas escolas”.  

Giuliano Da Empoli traz dados do MIT que mostram que uma notícia falsa tem 70% mais chances de ser compartilhada. E que uma notícia verdadeira leva sete vezes mais tempo para atingir 1500 pessoas. O efeito Werther contemporâneo é muito mais sombrio. Teorias da conspiração alimentam a raiva. O algoritmo não só propaga o fascismo, o produz.

“Muitos na empresa pareciam quase ignorar que os algoritmos e o design da plataforma moldava propositalmente as experiências e os estímulos dos usuários e, portanto, os próprios usuários”, diz Fisher. “Era como estar numa fábrica de cigarros e seus executivos afirmarem que não entendiam por que as pessoas reclamavam dos impactos na saúde que as pequenas caixas de papelão que eles vendiam causavam”. 

A ideologia ingênua do Vale do Silício diz que fazer cada vez mais gente passar cada vez mais tempo online torna o mundo um lugar melhor. Mas essa crença mística não encontra correspondência nos fatos.

“Nossos algoritmos exploram a atração do cérebro humano pela discórdia”, diz um relatório vazado do próprio Facebook. A rede é projetada de tal modo que leva os usuários a “cada vez mais conteúdos de discórdia, de forma a conquistar a atenção e manter o tempo do usuário na plataforma”. 

A lógica do algoritmo não apenas difunde informações ruins mais rápido. Ela constroi mentes maléficas. A tecnologia não é um utensílio neutro que pode ser usado para o bem ou para mal, como pensa o senso-comum. Ela tem moldado nossa experiência com a realidade.  

“A tecnologia das redes exerce uma força de atração tão poderosa na nossa psicologia (…)”, explica Max Fisher, “que transforma o jeito como pensamos, como nos comportamos e como nos relacionamos uns com os outros.”

Efeito nas crianças 

O trabalho do Jonathan Haidt é ainda mais apavorante, se levarmos em conta a quantidade de crianças expostas à telas e redes sociais. 

No livro “A geração ansiosa: como a infância hiperconectada está causando uma epidemia de transtornos mentais" (2024), o psicólogo social documenta o aumento significativo de transtornos mentais entre crianças e adolescentes, destacando a urgência da situação.

Os gráficos sobre aumento de depressão, diminuição de tempo de convívio com amigos, solidão, privação do sono são de deixar pais e mães em estado de desespero. 

“Não havia muitos indícios de uma crise de saúde mental na adolescência nos anos 2000. Então, de repente, no início da década de 2010, as coisas mudaram”, escreve Jonathan Haidt. 

O colapso da saúde mental coincide com a proliferação das plataformas digitais.

À medida que vamos passando de um gráfico a outro apresentado pelo pesquisador, fica evidente que a máquina algorítmica que enriquece meia dúzia de bilionários está minerando a saúde mental de crianças e adolescentes. 

Não precisamos de nenhum metaverso. Nenhuma Matrix. Ou que a Skynet se torne autoconsciente na madrugada do dia 29 de agosto. A guerra contra as máquinas já começou. E as máquinas estão nos dominando. De um jeito tão sutil que nem mesmo a ficção científica foi capaz de prever. 

Como as big techs se tornaram grandes instituições transnacionais, não dá para deixar que a negociação por regulamentação seja feita por cada país de maneira isolada, tampouco que os efeitos maléficos sejam evitados pela ação isolada de cada usuário. Detox digital e boa vontade não mudam o mundo.

Afinal, só duas indústrias chamam pessoas de usuário. O tráfico de drogas. E os profetas do Vale do Silício.

* Marcos Vinícius Almeida é escritor, jornalista e redator. Mestre em Literatura e Crítica Literária pela PUC-SP, colaborou com a Ilustríssima da Folha de S. Paulo e é autor do romance Pesadelo Tropical (Aboio, 2023). www.marcosviniciusalmeida.com.    
 

**Este é um artigo de opinião. A visão do autor não necessariamente expressa a linha editorial do jornal Brasil de Fato.