Recentemente veio a ser “o Algoritmo”. Isto é, com A maiúsculo e o artigo definido. Percebemos que a mudança de uma operação matemática para um nome próprio indica algo mais além do que uma convenção gramatical. Eis aí um processo de hipostasiação, ou seja, a transformação de um conceito abstrato em uma entidade concreta, dotada de características de agente.
Noto que o Algoritmo se tornou um fenômeno moderno de hipostasia. Assim como os seres divinizados, ele recebe agência, intencionalidade e poder causal sobre os assuntos humanos, embora seja apenas uma operação matemática. O autoproclamado cético pode dar um risinho, pois sabe que não é governado por um algoritmo que pode ser escrito em um papel de pão. Contudo, sistemas algorítmicos, corporificados no Algoritmo, exploram vieses cognitivos humanos, sobretudo o Dispositivo Hipersensível de Detecção de Agente (HADD), até serem percebidos como agentes autônomos. E as consequências são reais. Aplicativos de serviços pagam menos para trabalhadores de plataforma mais desesperados. Sistemas de vigilância de preços cobram mais caro conforme o bolso do cliente.
O smartphone se tornou um deus portátil, as maracás dos indígenas brasileiros, sempre presente, sempre observando e sempre respondendo, o Algoritmo transformou-se em uma divindade portátil da era digital, habitando cada feed, recomendação e classificação.
O HADD é um viés cognitivo que leva os seres humanos a atribuírem eventos e padrões a agentes intencionais, mesmo quando nenhuma agência está presente. Esse mecanismo evoluiu por razões de sobrevivência. Era mais seguro confundir um arbusto balançando com um predador do que ignorar uma ameaça real.
Ao observar a relação contemporânea com o Algoritmo, vejo esse mecanismo do HADD em funcionamento. Os usuários percebem o Algoritmo como responsável por decidir o que veem, o que compram, com quem se relacionam e até mesmo aquilo em que acreditam. Baseado em nosso comportamento e categorização (até o tamanho da fonte do seu dispositivo vira um ponto de dados para formar sua impressão digital no algoritmo), o Algoritmo nos conhece. E ele quer que permaneçamos engajados e nos pune com conteúdo irrelevante quando nos comportamos de maneira considerada inadequada.
Uma operação matemática é interpretada como uma mente intencional, dotada de desejos e objetivos. O paralelo teológico é evidente. Assim como sociedades antigas atribuíam tempestades a deuses irados e boas colheitas a divindades benevolentes, usuários modernos atribuem suas experiências digitais aos humores e intenções do Algoritmo.
A hipostasia revela que relacionamos com um agente um tanto obtuso. Houve épocas quando o Algoritmo só mandava coisas de luxo para mim: lanchas de madeira, planejamento patrimonial em Mônaco, bailes em Viena. Ao mesmo tempo, para minha esposa havia uma pressuposição de pobreza: como reciclar canudo de papelão do papel higiênico, maneiras de guardar coisas com garrafa pet. E ironias, eu usava um android chinfrim e ela um iphone. Ficamos céticos quanto ao Algoritmo.
O Algoritmo processa nossos dados, prevê nossos desejos e entrega “revelações”, na forma de conteúdo, em tempo real. Com isso, produz uma sensação de relacionamento pessoal. Não é raro ouvir alguém afirmar que “meu algoritmo me conhece”. Os usuários falam de “seu” Algoritmo da mesma maneira que devotos falam de “seu” deus.
O Algoritmo parece onipresente porque atravessa plataformas. Parece onisciente porque tem acesso a enormes quantidades de dados. Parece onipotente porque influencia atenção, comportamento e percepção da realidade. O mecanismo de hipostasia ganha força porque a natureza portátil do dispositivo faz o Algoritmo parecer incorporado. Ele deixa de ser percebido como uma fórmula abstrata e passa a ser experimentado como uma presença viva no bolso de cada pessoa.
Apesar das consequências reais, o Algoritmo é paradoxalmente um deus otioso (distante e indiferente) ao mesmo tempo que cruel e hiperpresente. O ensaio de Giovani Santiago “Algorithms don’t care about your feelings”, publicado por ThoughtWeaving, argumenta que algoritmos são sistemas de entrada, processamento e saída. E só. Eles não possuem sentimentos, intenções nem bússola moral. Seu funcionamento consiste em otimizar métricas como engajamento, tempo de tela e cliques, sem considerar as consequências emocionais para os seres humanos. São como instruções de preparo de café.
Os usuários desejam acreditar que o Algoritmo se importa com eles. O HADD exige uma mente por trás do padrão. A realidade, porém, o Algoritmo é indiferente. Essa situação produz uma dissonância cognitiva. Atribuímos agência e intencionalidade ao Algoritmo, enquanto somos constantemente confrontados por evidências de que ele é cego ao nosso bem-estar efetivo.
No polo extremo do desastre, sistemas algorítmicos colaboraram para o genocídio dos rohingya, intrometeram em processos eleitores ao redor do mundo (aí ajudados pelos Cambridge Analytica da vida), levaram a massacres como no Nepal. E o algoritmo é sempre escrito com viés e processa reforçar vieses.
É uma armadilha pensar que o algoritmo sabe como nos sentimos. Ele apenas infere estados emocionais a partir de nossas ações. Nossa repulsa permanece silenciosa. Nosso clique funciona como um voto. O Algoritmo aproxima-se dos deuses do fatalismo. Ele é poderoso, determinista e indiferente ao sofrimento individual. Trata-se de um deus cruel que responde às orações, entendidas como engajamento, oferecendo mais daquilo que prejudica o próprio suplicante.
A série “Algo Confessions”, publicada no Instagram e protagonizada por celebridades como Eileen Gu, revela quanto se tornou corrente o relacionamento íntimo que ganha até apelido, o Algo. A plataforma convida os usuários a confessarem coisas ao algoritmo, a se revelarem diante dele, como se o Algoritmo fosse um sacerdote ou terapeuta capaz de compreender, absolver e aconselhar.
Em um dos episódios, Gu descreve seu algoritmo como “o teste definitivo de personalidade”. Com isso, apresenta o Algoritmo como uma ferramenta diagnóstica capaz de revelar seu verdadeiro eu. Estamos diante de uma forma íntima de hipostasia. O Algoritmo deixa de ser apenas um agente e passa a funcionar como um espelho da alma.
O formato confessional reforça a ilusão de uma relação bilateral. O usuário fala. O Algoritmo escuta e responde por meio do conteúdo exibido. Essa reciprocidade, contudo, é ilusória. O Algoritmo não “conhece” Gu. Ele apenas correlacionou seu comportamento com determinados padrões de conteúdo. A confissão é um monólogo disfarçado de diálogo.
Na profusão de marcadores que vivemos, o reconhecimento identitário vem de uma máquina. Isso é quase uma versão secular da anamnese platônica, a alma reconhecendo-se no espelho.
O paralelo teológico é significativo. A confissão constitui um sacramento no qual o penitente revela seu interior a um intermediário do divino. Em “Algo Confessions”, o Algoritmo assume essa posição intermediária. Ele se torna um sacerdote algorítmico que conhece seus pecados, entendidos como cliques, mas não oferece salvação. Oferece apenas mais conteúdo.
O engajamento é um processo circular. Esses comportamentos, expressos em cliques, rolagens e reações de indignação, transformam-se em dados. O Algoritmo otimiza seus resultados com base nesses dados e reforça os padrões que geraram maior engajamento. Os padrões reforçados passam a parecer ainda mais intencionais, aprofundando o processo de hipostasia.
O resultado é uma profecia autorrealizável de agência. Quanto mais os usuários tratam o Algoritmo como um deus, mais ele parece adquirir características divinas. Isso ocorre porque seu comportamento, interpretado como sinal, molda a própria realidade que o Algoritmo devolve aos usuários.
O Algo também assume o papel de bode expiatório. Expressões como “o algoritmo me fez fazer isso” revelam a tendência de responsabilizar o Algoritmo por comportamentos compulsivos, transferindo a responsabilidade moral para uma função matemática.
Ao mesmo tempo, o Algoritmo pode aparecer como um tirano. Projetistas de plataformas e formuladores de políticas públicas frequentemente o tratam como uma força autônoma, situada além do controle humano. Essa forma de hipostasia contribui para absolvê-los da responsabilidade pelos danos produzidos pelos sistemas que desenvolveram ou administram.
Para romper o feitiço da hipostasia, é urgente recuperar a realidade por trás da metáfora. O Algoritmo não possui vontade própria. Trata-se de uma ferramenta. É uma ferramenta poderosa e complexa, mas continua sendo uma ferramenta. Sua suposta agência resulta da projeção de vieses cognitivos humanos e de incentivos corporativos.
Para romper a hipostasia, é necessário parar de tratar o Algoritmo como parceiro de conversa e começar a tratá-lo como aquilo que efetivamente é: uma máquina.
Existe ainda uma dimensão estrutural. Devemos exigir transparência nos sistemas algorítmicos para que o Algoritmo seja percebido como um processo, um conjunto de instruções, em vez de uma personalidade dotada de intenções. O deus portátil pode ser deixado de lado. O confessionário pode ser fechado. O Algoritmo, privado de seu A maiúsculo, retorna à condição de algoritmo com letra minúscula, uma modesta função matemática, tão pouco divina quanto uma xícara de café.
Eu gostei do texto, mas acho que outra versão do argumento é que tudo é ao mesmo tempo só um objeto mas também parte de um sistema complexo. Não tem nada muito especial no ser humano e não tem nada muito inferior num chip de silício. Nosso erro antigo era atribuir ao trovão qualidades que não faziam parte do seu sistema, nosso erro hoje é subestimar a complexidade dos grãos de areia pensantes.
É uma perspectiva interessante. Coloca a humanidade em um lugar mais humilde.