O dilema é mais embaixo: outras perspectivas analíticas para a questão das plataformas online

Por Ana Guerra, Amanda Chevtchouk Jurno e Gracila Vilaça

Arriscando uma retrospectiva de acontecimentos e temas que marcaram o ano de 2020, poderíamos encaixar o documentário Social Dilemma ou Dilema das Redes entre controvérsias sobre a pandemia de Covid-19, eleições brasileiras e estadunidenses, além das desventuras do cenário político em geral. Lançado em setembro na Netflix, o documentário movimentou o debate sobre o papel das plataformas digitais online nestas e em outras querelas, figurando nos feeds das plataformas e nas notícias ao redor do mundo. Críticas e elogios ao formato, à história, aos protagonistas e às informações apresentadas provavelmente passaram por você em algum momento.

Contudo, esta não é uma crítica cinematográfica atrasada ou mais um texto que se debruça sobre as questões levantadas pelo documentário em si. É uma reflexão sobre o que estas questões nos permitem pensar a respeito das tecnologias digitais e suas materialidades, sobre as tramas híbridas e heterogêneas em que as plataformas se inscrevem. E isso inclui a Netflix que, por sua vez, é uma plataforma de streaming que usa a mediação algorítmica em várias das suas atividades.

Permita-nos começar essa conversa com uma anedota. Imagine o seguinte cenário:

—

É uma noite fria. Para contornar os arrepios e iluminar a terra, alguém recolhe algumas folhas secas, gravetos e pedaços de madeira. Outro alguém coloca fogo no apanhado e eis que, alimentada pela brisa, uma fogueira ameniza a questão que contingenciou a emergência da sua faísca.

Algumas pessoas se reúnem no seu entorno. Um grupo se deixa levar pelo ritmo da conversa. Outro, pelo ritmo das notas musicais de um violão. Há ainda um terceiro que, junto com um quarto, discute acaloradamente sobre a utilidade daquela fogueira: “Não seria ela melhor aproveitada se servisse ao cozimento de alimentos e não só à diversão?”.

—

Nessa trama que reúne corpos, natureza e fogo de modo improvisado, respondendo à diminuição de temperatura e ao alastramento da escuridão, surge um enredamento social: a fogueira. Todos esses elementos, materiais ou não, estão tão intimamente ligados que se tornam indiscerníveis, inseparáveis, indissociáveis.

A experiência com essa trama pode ser cotidiana ou extraordinária, mas ela apresenta um certo ritmo que é, simultaneamente, intencional, tácito e emotivo. O ritmo encompassa o movimento no entorno da fogueira e até de fogueira em fogueira. Nela, o “social” emerge junto com a cultura das músicas e das conversas, e com as decisões políticas e econômicas sobre o melhor aproveitamento do fogo.

A malha tramada é, desde o princípio, heterogênea, híbrida e multidimensional.

Mas por que começar com essa anedota? E o que isso tem a ver com o documentário sobre redes sociais?

Ora, porque embora a ideia de “rede social” hoje nos remeta quase imediatamente às plataformas de mídia digital, não foram elas que engendraram as redes sociais que nelas emergem. Assim como o que ocorre ao redor da fogueira, o tecido social que é algoritmicamente organizado nas plataformas digitais também é composto pela ligação ou extensão entre elementos heterogêneos: corpos, minerais, números e bites estão indissociavelmente emaranhados.

A movimentação que compõe tal trama é também cultural, política e econômica. As plataformas digitais institucionalizam as malhas de deambulação, intentando transformá-las em redes ponto a ponto. Aquelas adicionam novas dimensões reguladoras que são identificadas como algoritmos e datificação, infraestruturas, governança, modelos de negócios e práticas e affordances. Certamente, é possível dizer que as plataformas digitais impactam os movimentos sociais, trabalhistas, culturais, políticos e econômicos, principalmente em relação às suas incongruências, incoerências e desigualdades, mas não os inauguram e muito menos podem prescindir deles. O social está nas plataformas, mas extrapola-as também.

Na narrativa do documentário, Social Dilemma entrelaça falas de ex-funcionários de algumas das gigantes do Vale do Silício, supostamente obtidas em entrevistas, com cenas fictícias que ilustram o dia a dia de uma família estadunidense usuária das tecnologias criticadas no documentário.

Ao longo dos 89 minutos do filme, executivos como Tristan Harris (ex-especialista em ética de design do Google), Bailey Richardson (ex-membro do Instagram), Tim Kendall (ex-presidente do Pinterest), e Justin Rosenstein (ex-programador de software do Facebook) compartilham preocupações éticas sobre os sistemas que ajudaram a criar. Além deles, pesquisadoras renomadas no estudo crítico dessas tecnologias, como Catherine o’Neil e Shoshana Zuboff, dão sua opinião sobre questões pontuadas ao longo da narrativa.

Segundo a linha narrativa impressa no documentário, as plataformas de mídia social parecem inaugurar um dilema: o perigo da coleta massiva de dados pelas plataformas e o uso direcionado dessas informações. A regulamentação adequada dessas mesmas plataformas figura como um caminho para solucioná-lo, como se o problema estivesse na falta de “controle”. O enredo percorre uma linha do tempo que deixa de fora uma série de relações, atores, práticas e interesses sem os quais este “dilema”, — palavra que falsamente nos posiciona entre duas alternativas, A e B — não pode começar a ser propriamente compreendido.

As plataformas não inauguraram a moderação de conteúdo, por exemplo, selecionando o que deve ou não deve ser visto. Práticas de visibilidade e invisibilidade remontam às mais antigas sociedades. Contudo, elas sim aceleram alguns processos e os complexificam. As relações, sim, já existiam antes, mas com essa nova configuração elas são escaladas em dimensões gigantescas e delegadas a máquinas e artefatos técnicos que não necessariamente são aptos a realizar tais tarefas. A crise de desinformação e do controle de conteúdos nas plataformas exemplifica como a delegação de tarefas subjetivas a algoritmos e inteligências artificiais cobra seu preço — uma questão que em si só nos levaria a escrever muito mais se fossemos exemplificá-la. Além de escalar e complexificar as relações de (in)visibilidade, as plataformas também criam novos cenários, relações e lógicas de conhecimento a partir das suas políticas de funcionamento, protocolos, algoritmos e dataficação da atividade humana.

O dilema das redes nos coloca diante de um suposto “inimigo comum” e nos oferece soluções simplistas e incapazes de resolver uma questão que é muito mais ampla do que essa ou aquela plataforma, esse ou aquele algoritmo. Trocar A por B não resolveria o problema. Quer um exemplo? No Brasil, o problema da desinformação está concentrado em uma plataforma que não usa seleção algorítmica: o WhatsApp. Retirar, substituir ou regulamentar a moderação algorítmica não vai resolver o problema que enfrentamos por aqui.

A criação de regulamentações, solução enfatizada pelos personagens e prescrita pelo tom do documentário, é insuficiente e míope. Primeiro, a velocidade da legislação e da pesquisa é infinitamente menor do que a do desenvolvimento e implementação das tecnologias, em especial em um cenário onde as plataformas fazem do mundo seu laboratório, frequentemente testando atualizações sem sequer notificar os usuários. Sabemos que caso seja possível regulamentar determinadas atividades, outras já terão sido criadas e vão causar seus próprios problemas, estendendo esse ciclo de “gato e rato”.

Para pesquisadores como a própria Zuboff, em suas publicações, ou Wendy Liu, seria impossível criar plataformas justas quando elas se baseiam numa lógica exploratória capitalista. Tal lógica se faz presente não apenas na orientação por um princípio de priorização do lucro dos donos e acionistas das plataformas, mas também em sua inserção em modos produtivos e relações de produção pautados pela exploração predatória de recursos e da força de trabalho que extrapolam os QGs das plataformas no Vale do Silício e a saúde da democracia estadunidenses enfocados no documentário.

Ao enfatizar e relativizar a emergência dos dilemas sociais, queremos chamar a atenção para a falácia das narrativas que tentam cercá-los e circunscrevê-los a um certo presenteísmo (e, talvez, determinismo) tecnológico. Essas narrativas parecem reduzir as possibilidades de diálogo para a resolução dos dilemas ao apresentar ou dar a entender que a saída estaria no desenvolvimento de outros recursos igualmente tecnológicos, o que beneficiaria os próprios críticos que são ex-funcionários das multinacionais tecnológicas. Ademais, chamamos a atenção para a existência de tramas sociais que estão para além da cosmologia digital, ainda que diretamente impactadas por ela, revelando a concretude e a impureza dos tecidos em questão.

Com isso em mente, podemos nos perguntar sobre a própria constituição das plataformas digitais, adentrando camadas anteriores às etapas de programação dos códigos, do design das interfaces visíveis e das práticas dos usuários. Do que são feitas essas plataformas? Quais redes de associações permitem que tenhamos acesso ao que temos acesso? Será que políticas de regulação que dessem conta da dimensão visível dessas associações resolveria o problema da agência das plataformas?

Langdon Winner (1980) nos lembra da importância de nos atentarmos aos contextos em que os objetos técnicos se situam, tanto quanto nos objetos em si. Para pensar as políticas das plataformas a partir das materialidades, é necessário operar um alargamento do nosso olhar, que reconhece as materialidades que nos escapam quando, não sem bons motivos, optamos por olhar as especificidades de determinadas plataformas em seu contexto de uso. Neste movimento buscamos visualizar uma articulação entre políticas, materialidades, temporalidades e trabalho que produzem formas de ordenar o mundo não apenas no contexto de uso da plataforma a partir do hardware utilizado pelo usuário final, mas ao longo de uma complexa cadeia produtiva. Tal cadeia se constitui tanto de uma variedade de trabalho humano que integra diferentes níveis de precariedade, tanto da ação de atores não humanos que, embora frequentemente silenciados, não cessam em agir sobre esta cadeia.

Desse modo, este movimento pede uma sensibilização do olhar que é tanto geopolítica, quanto geofísica. Geopolítica porque a cadeia de trabalho humano precarizado que torna possível a operacionalização das plataformas depende de uma radical fragmentação do processo produtivo que passa, por exemplo, pelas minas na República Democrática do Congo (RDC), pela fabricação e montagem de hardwares na Foxconn na China, e pelo trabalho de engenheiros de Software na Índia ou no Vale do Silício. Geofísica porque devemos nos atentar ao ambiente e às profundidades geológicas do solo, dos minerais e das propriedades que são reapropriadas na operacionalização das plataformas digitais.

A extração de minerais essenciais à fabricação de hardwares como cobalto, platina e tântalo na RDC e em outros países africanos (África do Sul, Moçambique, Zimbábue…) fornece o que talvez seja a ilustração mais crua e mais urgente deste argumento. Conforme apontado por Christian Fuchs (2014), ao analisar um conjunto de pesquisas empíricas sobre o tema, o continente africano cumpre um papel fundamental como fornecedor de recursos naturais baratos extraídos a partir de um trabalho humano altamente explorado e frequentemente escravizado. Em seu livro Digital Labour and Karl Marx, o autor descreve uma cadeia produtiva extensa e, não raro, sangrenta, frequentemente silenciada e obscurecida no produto final. Para recuperar uma anedota do próprio livro, podemos perguntar: de onde vem o computador ou telefone celular onde você está lendo este texto? Você provavelmente saberá nos dizer o nome da loja onde adquiriu o aparelho ou ao fabricante do produto final (Samsung, Apple, Dell…), mas dificilmente será capaz de descrever de onde vieram os componentes que o constituem — possivelmente de uma fábrica da Foxconn, cenário de uma onda de suicídios de operários — ou os minerais que o constituem.

Ao descrever o complexo sistema de exploração de recursos naturais da RDC, Fuchs revela a articulação entre uma ampla variedade de regimes de trabalho que sustentam a cadeia produtiva do trabalho digital. O país carrega em seu solo a dura história colonial recente — até o ano de 1960 era uma colônia Belga — , conflitos políticos internos e a influência de conflitos externos, como a guerra civil de Ruanda que levou à ocupação de regiões da RDC por milícias Tutsis e Hutus, que hoje controlam algumas das minas do país. Neste contexto, os trabalhadores vivem um regime de escravidão em atividades como escavação, seleção e transporte dos minerais caracterizado pela coerção da violência física por parte de soldados armados e das condições socioeconômicas. Além da escravidão, as minas são mantidas por relações de trabalho que remetem a um sistema feudal e pela exploração sexual de meninas e mulheres que passam por estupros, casamentos forçados e pelo risco de contração de infecções sexualmente transmissíveis.

O esforço de Fuchs passa pela demonstração da multiplicidade de regimes de exploração que sustentam a indústria informacional e resulta em uma imagem muito distante das noções de virtualidade e imaterialidade que permeiam a imaginação sobre o futuro do trabalho. Diante do reconhecimento desta multiplicidade qualquer tentação presenteísta mitificada nas plataformas digitais parece se desmontar. O “capitalismo informacional” não vem simplesmente substituir formas anteriores de produção, mas se sustenta a partir de relações de trabalho diversas, inclusive pré-modernas: trabalho agrícola, industrial, reprodutivo, intelectual, de serviços e etc. Em contraste com a alta tecnologia do vale do silício, as ferramentas nas minas são frequentemente arcaicas: pás, barras de ferro, baldes, cordas e o próprio corpo dos trabalhadores — conforme seus braços adentram a terra para extrair o metal.

Um olhar atento às materialidades torna-se também sensível também ao entrelaçamento de temporalidades distintas e contrastantes. E isso inclui temporalidades ainda mais profundas. As proposições de Jussi Parikka (2015) sobre a geologia da mídia nos chamam a atenção para as “durações massivas de mudanças que parecem rir da escala temporal dos nossos assuntos mesquinhos”. Se gestos como o de Fuchs ampliam nosso olhar quanto à cadeia de trabalho humano, Parikka nos sensibiliza às agências e temporalidades não-humanas, indo além (ou melhor, mais fundo) daqueles elementos para as quais estamos acostumados a olhar, como hardwares, aplicativos, algoritmos e dados.

Este autor defende uma “geologia da mídia”, atenta à co-constituição entre a mídia e o ambiente geofísico e aos materiais que habitam e habilitam as tecnologias. Parikka transita entre as minas de carvão, a exploração de lítio e cobre e o resfriamento de servidores em países nórdicos que abrigam enormes data centers de grandes plataformas, sofisticadamente descaracterizados pela metáfora etérea da “nuvem”. Este panorama acrescenta camadas não-humanas à fragmentação geográfica do trabalho detalhada por Fuchs: enquanto o Sul fornece recursos minerais e trabalho baratos, o Norte, fornece o frio que garante o funcionamento ininterrupto dos servidores que sustenta desde o arquivamento de nossos dados até o funcionamento da economia global em setores como a indústria do carvão. Essa rede, é claro, é muito mais complexa do que aquilo uma divisão dualista entre Norte e Sul pode abarcar, como bem demonstra a recém-traduzida cartografia Anatomia de um Sistema de Inteligência Artificial, em que Kate Crawford e Vladan Joler descrevem com riqueza a cadeia de atores humanos e não humanos enredados nas materialidades do sistema de inteligência artificial Amazon Echo.

Ao apontarmos todas essas questões, não buscamos apresentar uma solução para o problema das plataformas. Pelo contrário, queremos mostrar como a visão “solucionista” do documentário é simplificadora e reducionista ao ponto de ser impraticável. Uma solução possível precisaria levar em conta todas essas dimensões que apontamos e ainda outras que não são consideradas no enredo de Social Dilemma.

Os arranjos a que se aderem e que movimentam as plataformas digitais são, sem dúvidas, mais amplos, mais complexos e mais violentos do que aquele que emerge com a fogueira. Há, no entanto, uma ressonância entre eles quanto a diversidade de atores, necessidades, interesses controvérsias e processos postos em relação. As pessoas, o frio, os galhos, a brisa, o fogo. Os trabalhadores, os executivos, os usuários, o lítio, o cobalto, a pá, o refinamento, a distribuição, a montagem.

O que este cenário nos aponta? De um lado, a densidade sufocante do “dilema” e das múltiplas linhas que o constituem. De outro, a abertura de outros lugares, outros pontos de partida para que se imagine não uma solução definitiva, mas ações que se distribuam, que direcionam nossa atenção para além do dilema simplificado entre plataformas desgovernadas (ou autogovernadas) e a regulamentação e vigilância liderada pelos protagonistas de Social Dilemma.

Nossa imaginação e nossos projetos sobre o futuro das tecnologias, da política, da democracia, das relações, precisam ir além das camadas visíveis e alcançar outras geografias, materialidades e temporalidades. Embora o documentário acenda um debate importante sobre o poder das plataformas digitais, não podemos deixar que nossa capacidade de construir alternativas seja pautada pelo que essas mesmas plataformas e sua legião de ex-executivos, arrependidos e enriquecidos, optam por nos mostrar.

Referências Bibliográficas

Link para o documentário: https://www.netflix.com/br/title/81254224

FUCHS, Christian. Digital Labour and Karl Marx. Routledge, 2014.

INGOLD, Tim. Trazendo as coisas de volta à vida: emaranhados criativos num mundo de materiais. Horizontes Antropológicos, v. 18, n. 37, 2012. p. 25–44.

INGOLD, Tim. Estar vivo: ensaios sobre movimento, conhecimento e descrição. Petrópolis: Editora Vozes, 2015. p. 211–258.

LIU, Wendy. Abolish Silicon Valley: How to Liberate Technology from Capitalism. Repeater Editor. 2020.

PARIKKA, Jussi. A geology of media. University of Minnesota Press, 2015.

WINNER, Langdon. Do artifacts have politics?. Daedalus, p. 121–136, 1980.

ZUBOFF, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power: Barack Obama’s Books of 2019. Profile Books, 2019.