Não precisamos ser reféns dos algoritmos
Entenda como funcionam os mecanismos que nos dizem o que pensar e do que gostar
Egípcio, Persa, Grego, Cretense, Fenício, Chinês, Romano, Inca e Asteca. Os maiores impérios que o mundo antigo produziu, civilizações separadas por oceanos, milênios, desertos, religiões e culturas, mas que possuem uma coisa fundamental em comum: sistemas de correios — sim, correios. Funcionários públicos romanos viajam por milhares de quilômetros de estrada, com postos para hospedagem e troca de cavalo, carregando decretos e notícias de todo o Império, tecnologia fundamental que permitiu a administração da maior civilização da história ocidental. Avance alguns milhares de anos e Samuel Morse inventa o telégrafo. Parece diferente, mas a ideia é a mesma — o nome completo do nosso Correios é Empresa Brasileira de Correios e Telégrafos. Depois vieram as grandes empresas de broadcasting (ABC, BBC, NBC, CBS, CBC). Se você já se perguntou por que quase toda empresa de televisão e noticia tem um B no nome, é de Broadcast.
Pode parecer que essas são apenas informações aleatórias em sequência, mas há um motivo. Tanto os grandes impérios de comunicação quanto correios dos impérios antigos se sustentam com a mesma área de tecnologia, que moldou de forma profunda as sociedades: as tecnologias de telecomunicação. Mas hoje vivemos num novo mundo: esqueça a velocidade dos cavalos descansados ou dos sinais elétricos de telégrafo, esqueça a capacidade de se conectar com vários indivíduos (o broad de broadcast); a tecnologia mais uma vez virou o mundo de cabeça pra baixo e a internet trouxe as mídias sociais.
Essa capacidade de conectar todos o tempo todo e instantaneamente produziu novas dinâmicas sociais associadas a novas possibilidades e desafios. Que tal então entender um pouco mais sobre como ela funciona e suas consequências?
A primeira parte equação é clara: tudo que você faz nas redes é armazenado — informação útil ou não, qualquer site e joguinho de celular simples pede permissão para um milhão de coisas que não têm nada a ver com sua função, e o objetivo é um só: produzir e depois vender o máximo possível de dados. Há, graças a esse sistema, histórias assustadoras, como redes de mercados descobrindo a gravidez de uma adolescente antes mesmos de seus pais, ou positivas, como cruzar a quantidade de pesquisas de determinados sintomas para prever e acompanhar surtos de gripe ao redor do mundo. Mas nenhum jogo genérico ou site suspeito chega perto da qualidade, quantidade e diversidades de dados que as grandes mídias sociais produzem. Empresas como a Meta (antigo Facebook), o Google e outras, tornaram-se algumas das maiores empresas do mundo extraindo informação de seus dados e vendendo em diferentes formas, principalmente publicidade.
Claro que isso não fica guardado no computador de alguém — nem caberia. Fica nas famosas nuvens, o que, na verdade, significa que em algum lugar alguém encheu um galpão de computadores com muitos HD’s e abstraiu essa camada física para que tudo se comporte como um grande HDzão, formando os data centers.
Uma vez que essa estrutura está presente no mundo, a grande questão não é mais lidar com informações escassas para tomar decisões: o problema agora é minerar essa montanha de informações para extrair algo útil. Talvez se você for informado pelo Google que um usuário fez uma busca por tacos de golf, cruzar isso com o seu perfil econômico e geográfico, você pode oferecer a ele a nova linha para iniciantes em promoção na Decathlon mais próxima. Mas tratando-se dos dados de 7 bilhões de pessoas, em interesses que mudam a todo instante em um mundo dinâmico, fica clara a necessidade de algo a mais. É precisamente aqui que aparece o próximo e polemico motor das mídias sociais: o algoritmo.
Esse algoritmo pode ser qualquer coisa, mas tratando-se de sistemas modernos, geralmente estamos falando de machine learning. Esta Revista já teve ótimos textos anteriores sobre esse assunto (como este), por isso não vou entrar nos pormenores de como isso funciona. O importante é o conceito.
Imagine uma criança derrubando brinquedos da mesa. Repetidamente, ela testa com vários objetos diferentes, largando de lugares diferentes. De forma lúdica, ela vai adquirindo uma intuição sobre a gravidade e por fim ela sabe que objetos se movem para baixo se soltos de uma altura. Perceba que a criança nunca estudou as leis de Newton, muito menos está aplicando todas as equações de torque, força e resistências do ar que envolvem a complexidade do problema, porém através de um acúmulo de experiência ela entende empiricamente movimentos complexos. Da mesma forma que a criança, porém muito mais limitada, nós colocamos essa grande quantidade de dados que vimos anteriormente nos modelos matemáticos para percepção de padrões.
Incrivelmente versáteis e poderosas, as inteligências artificiais e sistemas de aprendizado de máquina encontram duas funções importantes dentro das mídias sociais: a classificação e os sistemas de recomendação.
Na primeira, esses modelos tentam agrupar pessoas com características semelhantes. Muitas vezes isso é feito por aprendizado não supervisionado, isto é, as categorias não são previamente definidas e o modelo não recebe exemplos de como fazer (um conjunto de dados já classificado para ele aprender), apenas recebe os dados e alguma forma de avaliar se está fazendo um bom trabalho (por exemplo, se as pessoas no mesmo grupo de fato compraram itens parecidos). Com o tempo e fluxo de dados, esses algoritmos não só tornam-se muito bons em agrupar, como também descobrem grupos interessantes de se montar, grupos que os programadores nem imaginavam que poderiam ser úteis.
A segunda parte, como mencionado antes, é o sistema de recomendações. A ideia aqui é manter o usuário dentro da rede social o máximo de tempo possível, para ele produzir o máximo de dados e ser exposto ao máximo de propaganda. O jeito mais fácil e direto de fazer isso é entregando conteúdos que o usuário quer ou até mesmo quer e não sabe. De feedback o algoritmo recebe o tempo que você ficou online e tenta maximizar isso a todo custo. Aqui termina a parte um pouco mais técnica e começam os problemas.
Talvez o sistema entenda que, para te manter ativo, deve mostrar sempre coisas que corroborem com suas opiniões, efetivamente criando a famosa “bolha”, ou ele comece a focar em aspectos psicológicos, fotos no Instagram cada vez mais apelativas e filtradas, Tik Tok’s com seu estilo de vídeos rápidos de reprodução automática um após o outro, apenas com o refrão de músicas ‘’chiclete’’ — em geral tudo que produza gratificação instantânea de fácil produção em massa. Talvez, conteúdos políticos polarizantes, com forte apelo moral e uma boa dose de extremismo (já assistiu a Dilema das Redes?).
Frente a tamanha disrupção tecnológica é fácil ter um pensamento fatalista, como se só restasse a nós nos rendermos ao todo poderoso algoritmo e que a tecnologia finalmente chegou para nos controlar e nos dizer do que gostar. Mas é sempre bom lembrar que os modelos de aprendizado são apenas isso: modelos. Técnicas matemáticas, feitas por humanos, longe de ter consciência (por enquanto? Assunto para outro texto), que por trás são um monte de estatística, álgebra linear e cálculo. Modelos matriciais que transformam dados (álgebra linear), algoritmos que minimizam os erros (cálculo) ou métodos de otimização (estatística).
Suas formas, funções e objetivos são definidos por humanos e os limites não só devem ser impostos, como devem ser discutidos em sociedade, sem moralismo. Queremos mesmo que quem defina isso sejam empresas privadas? Sem controle nenhum? Quanto controle? Quem controla? Quantos e quais dados eles podem adquirir? Quais padrões devemos permitir serem entendidos?
Casos como modelos que aprenderam linguagem violenta na internet ou sistemas de detecção que reconhecem armas erroneamente em mãos negras são casos marcantes dos problemas que emergem. Precisamos sim de engenheiros, técnicos e programadores, mas também de sociólogos, filósofos e intelectuais que abordem como será feita a simbiose do ser humano com esses novos tempos.
Este texto do editor de Política da Revista Brado, João Vitor Castro, discute os limites das redes sociais:
Este texto faz parte da campanha que a Revista Brado iniciou em 30 de junho sobre o Dia das Mídias Sociais.
Leia mais:
