A era do capitalismo de vigilância, por Shoshana Zuboff

A existência das pessoas virou matéria-prima de uma lógica econômica parasitária e prejudicial aos direitos humanos, em um processo sustentado pelos profissionais de marketing. Sejam bem-vindos à era do capitalismo de vigilância

Esta entrevista foi publicada originalmente na edição #60 da revista Contagious, em julho de 2019, mas permanece super atual — sobretudo com a presença de Zuboff no recém-lançado documentário O Dilema das Redes, da Netflix. Por isso, optamos por traduzi-la e republicá-la aqui, de forma aberta, para ampliar o debate sobre este tema tão fundamental.

Professora da Harvard Business School, Shoshana Zuboff dedicou sua carreira a investigar a ascensão da tecnologia digital e suas implicações na sociedade. Seu último livro, “The Age of Surveillance Capitalism”, explora como os métodos e mecanismos de coleta de dados de empresas como Facebook e Google normalizaram um estado de rastreamento massivo de comportamento que Zuboff define como “uma ameaça tão significativa à natureza humana no século 21 quanto foi o capitalismo industrial para o mundo natural nos séculos 19 e 20”.

A Contagious conversou com Zuboff para descobrir por que os profissionais de marketing são cúmplices na criação dessa ameaça e por que todos os dados de consumidores que você está coletando podem estar prestes a se tornar um ativo tóxico.

Para aqueles que estão um pouco enferrujados em relação a teorias econômicas e políticas, você pode explicar o conceito de “capitalismo de vigilância”?

Gosto de explicar o capitalismo de vigilância dentro de um contexto histórico. O capitalismo evolui reivindicando continuamente coisas que estão fora da dinâmica do mercado, inserindo-as nessa dinâmica e transformando-as em mercadorias. O motor chave na evolução do capitalismo industrial foi a ideia de reivindicar a natureza para a dinâmica do mercado. Os campos, as florestas e os rios foram transformados em mercadorias que podiam ser vendidas e compradas — na forma de propriedades e assim por diante.

Em uma escala menor, vemos isso acontecendo à nossa volta o tempo todo. Agora existem aplicativos para saber onde há um estacionamento, e é possível contratar pessoas para reivindicar esse espaço para você. Você toma um bem público e o leva para a esfera do mercado. O capitalismo de vigilância é comparável à anexação da natureza pelo capitalismo industrial, mas a mercadoria que que está sendo criada se baseia na experiência humana privada.

O que corresponde à “vigilância” no “capitalismo de vigilância”? O Google entendeu que apenas capturar sua experiência e transformá-la em dados para seus próprios sistemas de produção e vendas não agradaria às pessoas. Então, desde o início, eles entenderam que esses mecanismos deveriam estar ocultos. Foi necessário observar através de um espelho falso. É isso que constitui a vigilância.

No livro, você discorda da frase frequentemente usada “Se o serviço é gratuito, você é o produto”, preferindo “Você não é o produto; você é a carcaça abandonada”. Qual é a diferença?

O capitalismo de vigilância reivindica unilateralmente a experiência humana privada como fonte de matéria-prima gratuita que pode ser incorporada no mercado, usada para produção e, finalmente, para venda. A experiência humana privada se torna uma mercadoria nesse novo modelo econômico.

No processo de obtenção de experiência humana privada, alega-se que ela está disponível e aberta, de modo a justificar que essas empresas a transformem em dados. Esse é um passo muito importante. Quando falamos sobre respostas regulatórias, começa uma grande discussão em torno da ideia da propriedade dos dados. Mas quando você entende os mecanismos, meu argumento é de que o problema começa antes que haja dados para possuir. Esse primeiro passo é se apropriar da experiência e transformá-la em dados.

Com essa mentalidade, os vários produtos do Google, como Pesquisa, Mapas, Fotos, Gmail etc., na verdade não são produtos diferentes — apenas mecanismos para transformar a experiência em dados.

Existe um completo mal-entendido sobre o que são todas essas coisas. Elas são interfaces da cadeia de suprimentos — a única coisa com a qual os capitalistas da vigilância realmente precisam se preocupar. Trata-se de expandir novos fluxos de superávit comportamental. Toda interface da internet se torna uma interface da cadeia de suprimentos.

Isso está começando a se tornar mais evidente na vida cotidiana, e as pessoas agora sentem o impacto de muitas maneiras bizarras. Por exemplo, o Google finalmente admitiu que há funcionários seus que ouvem os áudios [gravados pelo assistente automático]. Todos esses dispositivos gravam conversas, que não desaparecem no éter, e sim se tornam mercadorias. Nos negócios, eles são chamados de blocos de diálogo, e existe um ecossistema inteiro de pessoas que os ouvem e analisam. Testa-se a compreensão humana de um bloco de diálogo em comparação com um sistema de reconhecimento de voz de inteligência artificial (IA) e usa-se isso para criar e melhorar a IA.

Esses conjuntos de treinamento — os blocos de diálogo — são vendidos para a CIA ou para qualquer pessoa interessada em melhorar sua capacidade de reconhecimento de voz.

Você descreveu o capitalismo de vigilância como “uma expropriação de direitos humanos críticos” e uma “ameaça significativa à natureza humana”. Se for esse o caso, há uma clara responsabilidade das empresas de tecnologia que criaram essa dinâmica. Mas, dado que muitas delas são amplamente financiadas por dólares em anúncios, você acha que há cumplicidade por parte dos profissionais de marketing?

Sem profissionais de marketing isso não teria acontecido. Os anunciantes são cúmplices. Eles se tornaram o mercado, são a demanda e foram o contato inicial para tudo isso. O fato é que eles haviam vendido suas almas para a caixa preta algumas décadas atrás. Claro, sem entender todas as implicações do que estavam fazendo e quais seriam as consequências. Eles podem começar a ver que, agora, há uma oportunidade para que saiam na frente e liderem.

Embora o público pareça estar mais consciente da vigilância por meio de relatos como o seu livro ou o escândalo da Cambridge Analytica, o outro lado é uma atitude de: “Se você não tem nada a esconder, por que deveria se importar?”.

Bem, “não se importar” deve ser analisado em vários aspectos.

Em primeiro lugar, há ignorância. No momento, 98% da receita do Facebook e 87% da receita do Google são provenientes de publicidade direcionada. E isso custa dinheiro. A enorme capitalização de mercado dessas empresas levou-as a uma riqueza inacreditável. Elas estão sentadas em toneladas de capital, e grande parte desse capital é usada para atingir um objetivo específico: garantir que seus sistemas se desenvolvam mantendo as populações ignorantes. As pessoas simplesmente não sabem o que está acontecendo. A maioria das evidências sistemáticas mostra que, quando descobrem a profundidade e a amplitude da operação nos bastidores, elas se importam.

E quando descobrimos, vira um “nem sei pra onde andar”. Muito do “não se importar” é uma interpretação perniciosa do chamado paradoxo da privacidade. As pessoas dizem que se importam e continuam a usar os sistemas, então as empresas usam isso como prova de que está tudo bem. Na lógica, isso é chamado de “falácia natural”. Só porque algo é usado não significa que é bom.

A verdade é que as pessoas não percebem o que está acontecendo porque essas coisas são cuidadosamente ocultadas e porque a alternativa foi gradualmente excluída a tal ponto que, em todos os lugares por onde se anda, você está inserido nessas cadeias de suprimentos. Você tenta organizar o jantar com seus amigos e familiares no Facebook? Você está na cadeia de suprimentos. Não há quase nada que se possa fazer para tentar uma vida diária eficiente que evite essa cadeia.

Os sistemas foram projetados para serem indetectáveis e indecifráveis, mas uma campanha retórica lhe de suporte — é aqui que Orwell realmente é útil.

Seu interesse principal era a linguagem, e ele examinou com muito cuidado como a linguagem é usada na guerra e nos eufemismos que ocultam a verdade na linguagem. É nesse ponto que os capitalistas da vigilância são geniais. Desde o início, há campanhas retóricas de desvio de direção e ocultação: “Se você não tem nada a esconder, não tem com o que se preocupar” ou “Se há algo a esconder, não deve fazê-lo” — frases que ecoam ao longo de décadas. Essa é uma campanha retórica de dominação para baixar a guarda das pessoas e embalá-las em uma sensação de facilidade. É o oposto do que as pessoas deveriam fazer e que os capitalistas da vigilância conhecem muito, muito bem.

Você está preocupada em apresentar um argumento moral contra uma realidade comercial? Só porque pode ser eticamente errado corroer a privacidade em nível social, ainda é um bom negócio para algumas empresas que não estão muito preocupadas com considerações éticas.

É apenas no campo da ética até que haja lei. Tome, por exemplo, o trabalho infantil. Os líderes industriais da Era Dourada norte-americana [1870–1900], que mais tarde decidimos chamar de ladrões e não eram chamados assim no final do século 19 — eram apenas capitalistas industriais super-ricos. Eles eram os milionários. Uma maneira de ficarem tão ricos era pagar salários escravagistas, obrigando as pessoas a trabalhar sete dias por semana, em longas jornadas e péssimas condições de trabalho. Eles empregavam crianças. A sociedade se reunia e dizia: “Não só o trabalho infantil nas condições perigosas de uma fábrica, mas o trabalho infantil em si é um perigo para a sociedade, pois precisamos que as crianças sejam saudáveis, educadas e capazes de se integrar à nossa sociedade como cidadãs, para que possamos ter uma democracia.”

A ideia de que as crianças devem ser abusadas e desperdiçadas em longas jornadas de trabalho é moralmente errada. Mas é moralmente errado porque significa que assim não podemos ter o tipo de sociedade que queremos ter. No início, você poderia empregar crianças em alguns estados norte-americanos e não em outros. Então as pessoas perceberam que deveria ser assim no país inteiro, pois estamos falando da nossa sociedade. Foi quando obtivemos uma legislação federal abrangente sobre trabalho infantil.

A situação atual mudará drasticamente quando leis entrarem em vigor?

A lei corre atrás do mercado porque o mercado se move para o espaço sem lei. Essa é toda a ideia de: “Pegamos a natureza porque não havia leis para proteger a natureza, porque ninguém achava que poderia ser tomada”. Não havia leis para proteger a experiência humana privada, porque ninguém pensava que ela poderia ser apropriada. Demora um pouco para se descobrir o que está acontecendo, pois a democracia trabalha mais devagar que o mercado — e isso é uma coisa boa. Mas então a democracia descobre, e temos o período da lei.

Você parece bastante otimista a esse respeito. Acredita que os dias do capitalismo de vigilância estão contados?

Sem dúvida.

Ainda que a lei pareça ter ficado muito atrás do ritmo da inovação e adoção tecnológica?

Não é como se nossos legisladores estivessem trabalhando nos últimos 20 anos para combater esse tipo de coisa. O fato é que não começamos. Só agora estamos entendendo o escopo e as consequências desses mecanismos e métodos. Ainda não criamos as leis e regulações para interrompê-los e proibi-los. Quando começarmos e tivermos o foco e o objetivo certos, é claro que as leis podem trazer isso à tona. Coisas como o [ex-CEO do Google e presidente-executivo] Eric Schmidt dizendo: “O governo nunca pode nos alcançar” e todo o argumento ilusório de que a lei é inimiga da inovação e assim por diante — todas essas coisas são tolas. Eles estão errados.

São dispositivos retóricos inventados para assustar os legisladores e fazer o público pensar que você não pode realmente fazer nada a respeito. Finalmente, estamos vendo em todo o mundo uma vanguarda de legisladores que começa a entender isso. O International Grand Committee on Big Data, Privacy and Democracy acaba de se reunir pela segunda vez em Ottawa, no Canadá. O órgão agora representa 14 países. Quando ocorrer o encontro em Dublin, em novembro, tenho certeza de que haverá mais países. Isso está começando a representar uma grande parte da população mundial. Posso dizer com certeza que os legisladores desse comitê estão entendendo a dimensão da situação.

Como você vê as implicações dessa regulamentação no futuro?

Minha opinião é que todos os dados que as pessoas celebram como big data estão enredados em ativos roubados. À medida que a lei entrar em vigor, esses ativos serão reinterpretados como ativos tóxicos. Assim como as hipotecas subprime, que entraram no mercado de derivativos e todos esses produtos financeiros foram reinterpretados como ativos tóxicos e afundaram o mercado. Eu acredito que esse dia está chegando.

Quando o mundo acordar e conseguirmos a regulamentação, esses dados serão ativos tóxicos. Acredito que estamos nesse caminho.

Tradução: Ricardo Romanoff