Algoritmocracia

Definição

Algoritmocracia refere-se à crescente transferência de autoridade de instituições humanas e processos deliberativos para sistemas automatizados de processamento de dados. O sociólogo A. Aneesh, que cunhou o termo, descreve-a como uma forma de governança que não depende de regras burocráticas tradicionais, mas do próprio código, que estrutura o que é possível ou impossível fazer. Numa perspectiva crítica, apoiada por autores como Frank Pasquale (teórico da "Sociedade da Caixa Preta"), a algoritmocracia não é neutra: ela mascara ideologias e preconceitos sob uma fachada de objetividade matemática. Diferente da burocracia, onde se pode argumentar com um funcionário, na algoritmocracia a decisão é opaca, muitas vezes propriedade intelectual de grandes corporações, transformando o cidadão em um mero ponto de dados a ser gerenciado.

Como funciona

A algoritmocracia funciona através da coleta massiva de dados (Big Data), perfilamento comportamental e previsão estatística. O mecanismo central é a "modulação": o algoritmo não apenas prevê o futuro, mas atua para moldá-lo, oferecendo ou negando oportunidades com base em correlações matemáticas. Como aponta a matemática Cathy O'Neil, esses sistemas operam através de loops de feedback. Se um algoritmo decide que uma área é "perigosa", envia-se mais polícia; a polícia prende mais pessoas lá; os dados confirmam que a área é perigosa. O sistema valida seu próprio preconceito inicial, mas agora com um selo de "certeza científica". A decisão ocorre em milissegundos, sem o devido processo legal ou direito de defesa prévia.

Exemplos

• Policiamento preditivo: softwares que determinam onde a polícia deve patrulhar ou quem tem maior probabilidade de reincidir no crime (como o sistema COMPAS nos EUA), frequentemente penalizando desproporcionalmente populações negras e pobres baseados em históricos viciados.
• Gestão de trabalho (Uberização): motoristas e entregadores não têm chefes humanos, mas são contratados, demitidos e punidos por um algoritmo que dita rotas, preços e metas, sem canal de negociação.
• Acesso a crédito e emprego: sistemas automatizados que filtram currículos ou negam empréstimos bancários baseados em onde a pessoa mora ou o que ela compra, perpetuando ciclos de pobreza sem que um humano analise o contexto.

Quem é afetado

Embora toda a sociedade esteja sob vigilância, a algoritmocracia afeta brutalmente as populações marginalizadas. Pessoas ricas podem contratar advogados e contornar sistemas; pessoas pobres são geridas por sistemas automatizados no acesso a benefícios sociais, saúde e justiça. O pesquisador brasileiro Tarcízio Silva demonstra como isso resulta em um "racismo algorítmico", onde a tecnologia moderniza e esconde práticas discriminatórias antigas.

Por que é invisível

A invisibilidade decorre da natureza "caixa preta" (black box) dos algoritmos. As empresas protegem o funcionamento de seus códigos como segredo industrial, impedindo auditorias públicas. Além disso, existe o mito do tecno-solucionismo: a crença social de que "os números não mentem" e de que a máquina é inerentemente mais justa que o ser humano, o que desencoraja o questionamento das decisões automatizadas. A opacidade técnica torna difícil para um leigo entender por que foi negado um serviço ou direito.

Efeitos

Os efeitos incluem a erosão da democracia e da capacidade de agir humana. Cidadãos tornam-se objetos de administração estatística, perdendo a capacidade de compreender e contestar as forças que regem suas vidas. Gera-se uma conformidade social (as pessoas agem para agradar ao algoritmo) e a ampliação das desigualdades, visto que os erros algorítmicos raramente punem as elites, mas frequentemente destroem a subsistência dos mais vulneráveis.

Autores brasileiros

• Tarcízio Silva
• Sergio Amadeu da Silveira
• Fernanda Bruno

Autores estrangeiros

• Frank Pasquale
• Cathy O'Neil
• Virginia Eubanks
• Shoshana Zuboff

Temas relacionados