Lições e Futuro após caso Facebook/Cambridge Analytica

Foto: Pixabay / Creative Commons

Após quase duas semanas e centenas de artigos sobre o grande escândalo envolvendo a maior rede social do mundo (Facebook) e a empresa de marketing político (Cambridge Analytica), ainda são bastante tímidas as propostas sobre como lidar com situações assim no futuro e principalmente uma reflexão mais profunda para entender como e por qual motivo chegamos a esse ponto. Algumas exceções podem ser vistas na The Atlantic, Wired, Hackernoon, Forbes, Just Security e Outras Palavras.

Como é natural em momentos assim, as reações têm sido marcadas por um certo sensacionalismo e “demonização” dos envolvidos e muito pouco reconhecimento de que o problema é antigo, sistêmico e sem solução de curto prazo.

Em termos objetivos, o que todos nós escutamos da investigação que foi feita é que uma empresa de marketing político precisava de uma imensa quantidade de dados para conseguir organizar dados com base na psicologia de cada indivíduo, possibilitando se utilizar de técnicas de persuasão, conhecida como captologia (“Computers As Persuasive Technologies”) e, assim, moldar opiniões de eleitores. Para tanto, usou um professor universitário que desenvolveu um app no Facebook que obteve dados pessoais de 50 milhões de usuários, supostamente para fins acadêmicos. A partir de denúncias que surgiram entre 2015 e 2016, o Facebook se viu obrigado a investigar essa coleta de dados. Em seguida, alegou tomar providências para evitar que esses dados fossem usados para fins distintos do originalmente acordado. Era para uso acadêmico e supostamente foi usado para marketing político.

Uma série de reportagens feita pelo Channel 4 sobre a Cambridge Analytica, mostra que essa empresa, supostamente mantém práticas moralmente condenáveis e possivelmente ilegais. Ao que tudo indica, tivemos uma confirmação de algo que há mais de um ano já havia sido denunciado e que, em nossa visão, faz parte do modus operandi desse mercado.

A narrativa acima é uma história de algo que ocorre cotidianamente em todo o mundo. Empresas usam dados pessoais (incluindo hábitos de consumo e opiniões) de forma lícita e, em muitas situações, possivelmente ilegal (como no caso da Cambridge Analytica). O objetivo é entender melhor os consumidores e cidadãos no caso de eleições, e poder vender anúncios, produtos, serviços ou promover ideias e candidatos. E isso ocorre por três motivos centrais: (1) por ser um mercado trilionário, (2) por ser mal regulado e (3) pela pouquíssima importância e valor que os cidadãos dão aos seus próprios dados pessoais.

No contexto atual, não temos meios de evitar que centenas de “Cambridge Analytica” operem diariamente dentro dos marcos legais existentes ou por meio de vazamentos de dados e violações de termos de usos das muitas plataformas tecnológicas que usamos.

Por outro lado, é importante lembrar que os avanços do mundo digital, por meio dessa mesma coleta de dados pessoais, também têm proporcionado serviços e produtos inovadores, inteligentes e super produtivos e que a maioria de nós não está disposta a abrir mão. É difícil dimensionar se os malefícios superam os benefícios dessa revolução digital.

Para nós, as duas lições centrais são: (1) precisamos incluir no debate a questão dos limites morais do mercado e (2) incorporar uma visão sistêmica que explore modelos de negócios que não deixem avenidas abertas para a manipulação maliciosa e imoral dos dados e da atenção de todos nós.

No debate sobre limites morais, é fundamental falarmos sobre quais direitos estão sendo equivocadamente relativizados em prol do lucro e também o reconhecimento inequívoco que a manipulação maliciosa de indivíduos, tanto para consumo quanto para eleição, é um mal a ser combatido. É crítico, como sociedade, acordarmos que os fins (lucro) não justificam os meios (manipulação).

Na incorporação de uma visão sistêmica, temos que compreender profundamente como nossos dados pessoais e nossa atenção gera lucro no mercado digital. E, após isso, identificar os pontos de intervenção — leis, autorregulação, educação, novos modelos de negócios, etc. — que podem controlar excessos de alguns atores e promover equilíbrios de poder entre as partes envolvidas — consumidores, cidadãos e empresas.

O Instituto Tecnologia e Equidade está desenvolvendo um Guia de Propostas, na forma de um White Paper, para contribuir com esse debate. Abaixo, algumas ponderações:

1. O que está feito não tem retorno — não adianta debatermos sobre eliminar os dados já coletados de forma abusiva. Em termos práticos, isso é o mesmo que tentar purificar toda a nossa atmosfera de poluição ou retirar todos os resíduos plásticos do oceano. Os dados já coletados foram disseminados e transformados em outros dados agregados e sua eliminação completa é impossível e economicamente inviável. O máximo que podemos fazer é tentar desenvolver estratégias de contenção de grandes vazamentos e regular o seu uso futuro;
2. O futuro ideal é muito diferente do presente — não existe solução simples, nem rápida para reordenar o mercado digital com base em publicidade e garantir direitos fundamentais como privacidade e não ser manipulado. Qualquer tentativa de regulação expressa sem amplo debate está fadada a gerar efeitos colaterais potencialmente piores do que a doença, ou simplesmente serem ineficazes. A melhor legislação a respeito desse tema — Regulamento Geral de Proteção de Dados da União Europeia) — passou anos em debate entre muitos atores. Foi promulgada em abril de 2016, com dois anos para ajustes antes de entrar em vigor em maio próximo, e certamente será bem difícil de ser implementada de forma plena. Apesar disso, é o melhor modelo atual e sua implementação deve ser estudada de perto;
3. Questionar o mercado online é questionar o paradigma da publicidade — já sabemos que não existe “almoço grátis” e que “se você não paga por um produto ou serviço é porque você é o produto”; repensar o modelo de negócios de quem sobrevive da coleta e uso dos dados obrigará o mercado a repensar os paradigmas da publicidade que sustenta as empresas de redes sociais, grupos de mídia e envolve diariamente uma imensa quantidade de negócios que compra e distribui anúncios online;
4. Os desafios nesse campo estão crescendo e não reduzindo — o mercado online, apesar de toda indignação gerada pelo vazamento/mau uso de dados do caso Facebook/Cambridge Analytica avança a passos largos para oferecer cada vez mais serviços que dependem dos dados dos usuários e da comercialização de sua atenção. Serviços automatizados e aplicativos que usam inteligência artificial dependem de enormes bancos de dados para funcionar e somos nós que fornecemos essas informações todos os dias. Investimentos e negócios nessa direção têm forte tendência de crescimento.

E algumas propostas de encaminhamento com base no pensamento sistêmico:

1. Redefinir as Regras do Jogo: em qualquer sistema, suas regras definem seu escopo e seus limites. É fundamental repensar todas as regras que operam no mercado de coleta de dados e atenção, começando por uma lei de governança (incluindo proteção) dos dados pessoais. Também é fundamental repensar as regras do jogo em relação a incentivos e desincentivos financeiros na comercialização de nossa atenção online, buscando extirpar do mercado muitos usos abusivos (em geral, os vários tipos de conteúdos e perfis fakes, artificialmente inflados, etc.) já identificados;
2. Promover novos fluxos de informação para reguladores e consumidores: a falta de certos fluxos de informação é uma das causas do mau funcionamento de sistemas. Um dos caminhos é demandar que empresas que manipulam dados disponibilizem, com clareza, as suas fontes de dados, o processo de manipulação em termos gerais (protegendo sua propriedade intelectual dentro de certos limites) e como são monetizados. Essa transparência de informações é chave para nos protegermos e fiscalizarmos os abusos que ocorrem;
3. Reduzir ciclos de feedback de crescimento: os gigantes digitais atingiram patamares de dominância que criam um efeito plataforma perverso no mercado, na qual sua posição hegemônica reforça exponencialmente essa mesma posição. Sem um limite estabelecido de fora, esse crescimento exponencial gera abusos e desequilíbrios por excesso de poder econômico. Precisamos de mecanismos de redução dos ganhos concentradores: isso se faz com desincentivos aos gigantes e/ou incentivos aos concorrentes ou os casos extremos de medidas antitruste;
4. Aumentar ciclos de feedback de equilíbrio: sistemas tendem a buscar seu propósito por meio de ciclos de feedback de equilíbrio, no qual os agentes aumentam ou reduzem esforços de acordo com o monitoramento de seu estado atual. No mercado online, em muitos momentos, os consumidores sofrem abuso pelo uso indiscriminado de seus dados. Uma das formas de reduzir abusos é aumentar a sua educação digital (ver Não Vale Tudo e Sobrevivendo nas Redes: Guia do Cidadão) e promover consciência do funcionamento da Internet, proteção de dados via configurações de privacidade já disponíveis e eventualmente uso de criptografia e outros mecanismos que equilibrem o poder entre os atores do sistema.

O Instituto Tecnologia & Equidade tem a missão de “alcançar a equidade com o uso ético da tecnologia”. A organização desenvolve seu trabalho por meio de Pesquisas, White Papers, Projetos, Comunicação Estratégica e Incidência — a atuação é com grupos de interesse e opinião pública, com base em metodologias de pensamento sistêmico.

Artigo por Márcio Vasconcelos, Thiago Rondon e Ariel Kogan, codiretores do Instituto Tecnologia & Equidade.
contato@tecnologiaequidade.org.br