Palavra do Bispo: O risco dos ‘algoritmos ideológicos’

Ao longo das últimas décadas do século vinte e nessas duas décadas do século vinte e um, estamos testemunhando grandes mudanças em todas as áreas da vida humana. Mas a mudança no campo tecnológico é realmente impressionante. A tecnologia aplicada aos meios de produção aumentou a quantidade e a qualidade dos produtos. Os recursos tecnológicos melhoram e permitiram a descoberta de novos processos de tratamento da saúde humana. Transporte, mercados financeiros, bancos e uma infinidade de outros avanços tecnológicos fazem parte do dia a dia das pessoas. Entre todos esses avanços, a comunicação tem algumas particularidades.

Num primeiro momento, os computadores foram usados como grandes máquinas de calcular. Equipamentos gigantescos que ocupavam edifícios inteiros, mas que diminuíram de tamanho de forma relativamente rápida e foram se tornando equipamentos necessários no trabalho e nas residências. Um pouco mais, e os computadores se tornaram dispositivos portáteis, cabendo na palma da mão. Com esse avanço da máquina, veio também o avanço dos programas e da utilidade. A internet e as redes sociais aceleram os processos de comunicação e de relação entre as pessoas para um nível extraordinário. Mas o que vemos nas redes sociais é real?

A internet e as redes sociais tornaram possível o compartilhamento de todo tipo coisas. Uma informação verdadeira ou falsa, uma imagem real ou uma montagem, um pensamento, uma provocação ideológica, tudo pode ser postado e repostado. Ao mesmo tempo, também é possível procurar e seguir um conteúdo especifico. Mas a busca de um produto ou de uma imagem desencadeia um mecanismo tecnológico chamado algoritmo, que passa a controlar aquilo que se vê. Basta procurar um perfume ou um roteiro de viagem, por exemplo, e automaticamente o algoritmo começa a apresentar ofertas de compra, quando se abre uma página de um site qualquer.

Na realidade o que vemos não é apenas o que queremos ver, mas é também o que foi pago para ser visto. O algoritmo é uma operação matemática, com inúmeras variáveis controladas, que se tornou um produto, um instrumento de comunicação, usado como ferramenta de propaganda e marketing. Essa ferramenta está espalhada pelos sites e pelas redes sociais, controlando acessos e buscas de todo e qualquer usuário. É uma ferramenta de influência e de repetição de conteúdo, que pode gerar um risco de massificação do pensamento. Parece que todos estão pensando ou buscando a mesma coisa, quando na realidade é o trabalho da ferramenta. Será possível fugir desse controle?

Se a inteligência humana foi capaz de criar e instrumentalizar uma operação matemática dessa forma, a mesma inteligência também pode aprender a confrontar os resultados dessa operação. O pensamento crítico bem formado e informado é o melhor recurso para confrontar aquilo que encontramos na internet e nas redes sociais. Para formar bem esse pensamento, é importante não ficar preso ao primeiro anúncio, que aparece no topo da pesquisa, nem ler apenas a notícia que foi mais acessada. O pensamento crítico exige esforço e atenção, mas como resultado, deixa a pessoa mais livre e atenta quanto às armadilhas funcionais.