“Google, é verdade que…”

“GOOGLE, É VERDADE QUE…”

Estava em um estabelecimento esperando minha vez de ser atendido quando uma expressão me chamou a atenção: “Google, é verdade que…”.  Era uma criança que estimei ter cerca de 5 anos. Não me recordo qual era a pergunta, talvez sobre alguma personagem de desenho animado. De posse de um smartphone, a criança queria uma resposta definitiva para a sua indagação, sem espaço para dúvidas ou ambiguidades. A Google lhe poderia dar.

Como oráculos do século XXI, plataformas digitais iluminam as nossas atividades diárias. Não há nada que elas não possam nos dizer, não há nada que elas não saibam. Na dúvida, perguntamos ao Google. Então, como uma curiosa criança descobrindo o mundo, devemos indagar, não à máquina, mas à nós mesmos: para onde estamos indo com o gerenciamento e o futuro de nossas vidas cada vez mais entregues as plataformas digitais e suas cadeias de algoritmos?

Em nome da razão, chegamos na desrazão

O italiano Noberto Bobbio classificava a democracia como o “governo do poder visível”, pois a visibilidade e a transparência dos atos e das informações são peças indispensáveis para um ambiente democrático. Rigorosamente, governos não funcionam somente à luz do dia. No entanto, se isso for uma boa referência de “métrica” democrática, chegamos à conclusão de que as plataformas digitais devem muito no quesito. São estruturas opacas, mas governam as nossas vidas como poderes invisíveis através de seus códigos indescritíveis. Governam, pois controlam e induzem o que vemos ou devemos ver, o que lemos ou devemos ler, o que ouvimos ou devemos ouvir. Elas modulam o nosso comportamento: como agimos e como pensamos. Elas sabem quase tudo sobre nós. E o que sabemos delas?

As implicações ideológicas desse poder invisível sobre nossas vidas são manifestadas na crença de uma sociedade que passou a compartilhar intensamente daquilo que tem sido chamado de “solucionismo digital” e de um pensamento computacional. Para todo problema existe (ou pode existir) uma solução tecnológica, um aplicativo por exemplo. Mais do que isso, as possibilidades abertas pela Big Data, pelas máquinas de aprendizagem e sua Inteligência Artificial, significariam o sonho de um mundo objetivo e neutro, que estivesse aquém e para além dos diferentes pontos de vistas, da mesquinhez e da insensatez. Um mundo sensato, talvez.

Em 1939, Isaac Asimov escreveu o primeiro dos 9 contos que iriam compor o livro “Eu, robô”. Era a história de Robbie, um robô-babá. O escritor estadunidense de origem soviética é considerado um visionário da robótica. Consagrado autor de ficção científica, a obra que nos referimos projeta e especula o papel de máquinas e seus impactos na sociedade. Um mundo governado pelas máquinas e pela técnica é o sonho de Susan, “psicologista de robôs”.

Em um dos contos, o robô Cutie vai demonstrar, vejam só, curiosidade sobre sua existência. Entendendo ser mais resistente e dotado de maior capacidade de processar informações que qualquer ser humano, considera ilógico que ele, um robô, tenha sido uma criação humana. Cutie refere-se a si como um “ser sensato”, destituído das fraquezas e inconstâncias humanas, tal como as emoções. Um ser inferior não poderia criar um ser superior, afirma. O robô Cutie na busca de seu Mestre e Criador passa a venerar um conversor de energia para o qual ele e outros robôs trabalhavam. Questionado sobre isso pelos engenheiros, o robô cria crenças cada vez mais dogmáticas para sustentar suas posições. Um dos engenheiros, pesarosamente, concluía: “pode-se provar qualquer coisa com a razão friamente lógica”. Cutie seguia seus postulados, possuía suas “razões”.

A modernidade nos prometeu um mundo dominado pela ciência e a razão, a se realizar também pela técnica e as “leis espontâneas” de uma economia de mercado. A busca de uma razão matemática para os problemas do mundo social, processo subjacente ao solucionismo digital do capitalismo contemporâneo, tem nos conduzido ao inverso do prometido. A crença positivista de uma ciência neutra e isenta de “viés ideológico”, ainda hoje bastante prevalecente em algumas de suas dimensões, nos trouxe ao negacionismo. Nossas vidas atomizadas e automatizadas em nome da razão e da verdade objetiva, paradoxalmente, produziu a pós-verdade – um mundo em que os fatos não importam e as opiniões, sejam com fundamento ou não, possuem relevância na timeline das redes do Zuckerberg pela sua capacidade de “viralização”.

A quem pertence o nosso futuro?

A integração a este mundo de conexões digitais e de máquinas inteligentes em nosso cotidiano é um caminho sem volta, o que não significa dizer que sua lógica e sentidos sejam únicos e irreversíveis. Dada sua forte presença na estruturação de nossas atividades diárias, suas ferramentas podem nos aparentar ser inteiramente separada (ou neutra) diante da geopolítica e suas infraestruturas, das guerras comerciais, dos debates ideológicos e das formas culturais em que as sociedades se desenvolvem.

A tecnologia e seu desenvolvimento não é um processo neutro e alheio às relações de poder, em suas disputas políticas, materiais e simbólicas. Muito do que incorporamos de tecnologia são fruto de esforços de guerra. A cadeia produtiva global do capitalismo contemporâneo não seria possível sem o incremento das novas tecnologias de informação e comunicação, tampouco sua produtividade sem sistemas de automação industrial. Esta associação entre automatismo digital e acumulação de capital tem sido explosiva para o nosso presente e futuro.

As plataformas digitais e seus algoritmos operam em uma estrutura econômica que é totalmente irracional do ponto de vista do atendimento às necessidades humanas. Afinal, estamos falando de uma sociedade que, em uma pandemia, clama para o sacrifício e o abate milhões de trabalhadores e trabalhadoras. Tudo porque uma economia, que gera lucros e rendimentos incessantes a uma ínfima parcela, “não pode parar” ou ter perturbações e obstáculos. Uma racionalidade econômica que, através de seus sacerdotes economistas e suas profecias autorrealizáveis, valida a si mesma, tal como o irracionalismo que abunda no debate político das redes sociais virtuais.

O crescimento das Big Tech se correlaciona com a desestruturação dos serviços e direitos sociais promovidos pelo neoliberalismo. Sem desemprego e o avanço da informalização e precarização do trabalho, não haveria campo possível para o gerenciamento algorítmico das horas de trabalho, das rotas e da renda de trabalhadores/as do Ifood. Sem a deterioração de serviços públicos, a exemplo do transporte coletivo, não seria possível que a Uber ocupasse lugar de relevo na mobilidade urbana.

Porém, a revolução tecnológica digital não é mero reflexo da economia capitalista. Estas inovações, além de (re)estruturar os processos econômicos e sociais, reformata nossos processos cognitivos e assumem papel culturalmente incontornável em nossa sociabilidade. Estamos nos aprisionando em relações sociais cada vez mais virtualizadas, gerenciadas por códigos invisíveis que matematizam nossas vidas, ao mensurar e classificar nossos gostos, preferências, amores e posições políticas. Nos fragmentam e nos segmentam em nichos de mercado (incluso o das ideias políticas) passando a performar e escolher por nós, enquanto somos enclausurados em bolhas digitais. A Alexa, da gigante Amazon, pode até contar piada, mas jamais vai nos dizer como modula nosso comportamento e nos usa para faturar bilhões. Ou como a empresa utiliza sistemas de inteligência artificial para monitorar profundamente seus trabalhadores e impedir sua organização sindical.

A revolução digital e suas tecnologias é cúmplice da intensificação da precarização do trabalho, do colapso da democracia pela quebra de consensos políticos e fomentação de extremismos irracionalistas, tal como retroalimenta ameaças a nossa existência em um planeta cada vez mais exaurido para atender as necessidades do sistema do capital. Não se trata de rejeitar os benefícios das tecnologias digitais, mas entender que nossas escolhas e nosso futuro não podem ser apenas aquilo que seja cognoscível à máquina, pois esta é incapaz de avaliar processos históricos e políticos.

As previsões e as “verdades” das máquinas ao quererem falar do presente e do futuro, nos prendem ao passado, nas estruturas desiguais que têm organizado o nosso mundo. Vigilância e ação policial, sistema judicial, RH de empresas e sistemas de crédito são algumas das áreas que têm incorporado sistemas inteligentes em suas operações. A suposta ausência de “viés” nas previsões e decisões contrasta com casos de reprodução das discriminações sociais, do racismo e do sexismo. Opiniões e preconceitos, incorporados em modelos matemáticos, são apresentados como questões objetivas e neutras.

James Bridle em “A nova idade das trevas” sugere que usemos a tecnologia para nos ajudar a fazer perguntas, e não para nos dar respostas. Neste sentido, vale o ensinamento de um velho revolucionário anarquista, entusiasta dos achados científicos, que afirmava ter a ciência um papel insubstituível para iluminar a vida, mas que não podia governá-la. Nossa capacidade de escolha e de pensar um futuro, efetivamente livre e diverso, não pode ser substituída por automatismos de verdades autovalidadas, supostamente sem “viés ideológico”.

Lucas Menezes Fonseca

janeiro, 2021

Texto originalmente publicado em Midia Caeté

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s