Como o YouTube radicalizou o Brasil
Reportagem publicada no The New York Times mostra como o algoritmo de recomendação da plataforma de vídeos contribui para a radicalização política do país.
Texto original de Max Fisher and Amanda Taub. Tradução livre, por Victor Góis.
NITERÓI, Brasil — Quando Matheus Dominguez tinha 16 anos, o YouTube recomendou um vídeo que mudou sua vida.
Ele tinha uma banda de rock em Niterói, uma cidade cercada de praias no Brasil, e praticava guitarra assistindo tutoriais online.
O YouTube havia instalado, recentemente, um novo e poderoso sistema de inteligência artificial que aprendia com o comportamento do usuário e emparelhava vídeos com recomendações para outras pessoas. Um dia, o algoritmo o apresentou a um professor de violão amador chamado Nando Moura. Hoje, o YouTuber possui mais de 3 milhões de inscritos em seu canal, postando vídeos sobre heavy metal, videogames e, acima de tudo, política.
Em discursos de extrema-direita, paranóicos e coloridos, Moura acusou feministas, professores e políticos de travar grandes conspirações. O adolescente estava viciado.
Como o tempo dele no site cresceu, o YouTube recomendou vídeos de outras figuras de extrema-direita. Um deles era um legislador chamado Jair Bolsonaro, então uma figura marginal na política nacional — mas uma estrela da comunidade de extrema-direita do YouTube no Brasil, onde a plataforma passou a ser mais assistida do que todos os canais de TV, exceto um.
No ano passado, ele se tornou presidente Bolsonaro.
“O YouTube se tornou a plataforma de mídia social da direita brasileira”,
disse Matheus, agora com 17 anos de idade, que diz que também planeja se candidatar a um cargo político um dia.
Membros da extrema direita recém-empossada do Brasil- de organizadores de base a legisladores federais — dizem que seu movimento não teria aumentado tanto, tão rápido, sem o mecanismo de recomendação do YouTube.
Uma nova pesquisa descobriu que eles podem estar corretos.
O sistema de pesquisa e recomendação do YouTube parece ter desviado sistematicamente os usuários para canais de extrema direita e de conspiração no Brasil.
Uma pesquisa do New York Times no Brasil descobriu que, repetidamente, os vídeos promovidos pelo site derrubaram elementos centrais da vida cotidiana.
Professores descrevem as salas de aula descontroladas por alunos que citam vídeos de conspiração do YouTube ou que, incentivados por estrelas do YouTube de direita, gravam secretamente seus professores.
Alguns pais olham para “Dr. YouTube” para conselhos de saúde, mas, em vez disso, obtém informações erradas perigosas, dificultando os esforços do país para combater doenças como o Zika. Vídeos virais têm incitado ameaças de morte contra os defensores da saúde pública.
E na política, uma onda de estrelas do YouTube de direita correu para o escritório ao lado de Bolsonaro, alguns vencendo por margens históricas. A maioria ainda usa a plataforma, governando a quarta maior democracia do mundo por meio de trollagem e provocação pela Internet.
O sistema de recomendações do YouTube foi desenvolvido para maximizar o tempo de exibição, entre outros fatores, diz a empresa, mas não para favorecer qualquer ideologia política. O sistema sugere o que assistir a seguir, muitas vezes reproduzindo os vídeos automaticamente, em uma busca incessante para nos manter colados em nossas telas.
Mas as emoções que atraem as pessoas — como medo, dúvida e raiva — são muitas vezes características centrais das teorias da conspiração e, em particular, dizem os especialistas, do extremismo de direita.
Como o sistema sugere vídeos mais provocativos para manter os usuários observando, ele pode direcioná-los para conteúdos extremos que, de outra forma, nunca encontrariam. E é projetado para levar os usuários a novos tópicos que despertem novos interesses — um benefício para canais como o de Moura, que usam a cultura pop como porta de entrada para ideias de extrema-direita.
O algoritmo de recomendação hoje é responsável por 70% do tempo total gasto na plataforma, diz a empresa. À medida que a audiência sobe globalmente, o YouTube está atraindo mais de US $ 1 bilhão por mês, acreditam alguns analistas.
Zeynep Tufekci, um estudioso de mídia social, o chamou de “um dos mais poderosos instrumentos de radicalização do século 21”.
Os representantes da empresa contestaram a metodologia dos estudos e disseram que os sistemas da plataforma não privilegiam nenhum ponto de vista nem direcionam os usuários para o extremismo. No entanto, representantes da empresa admitiram algumas das descobertas e prometeram fazer mudanças.
Farshad Shadloo, um porta-voz, disse que o YouTube “investiu pesadamente nas políticas, recursos e produtos” para reduzir a disseminação de desinformação prejudicial, acrescentando:
“vimos que o conteúdo autoritário está prosperando no Brasil e é um dos mais recomendados conteúdo no site. ”
Danah Boyd, fundador do grupo de pesquisa Data & Society, atribuiu a interrupção no Brasil ao esforço implacável do YouTube para o envolvimento do espectador e as receitas que ele gera.
Embora escândalos de corrupção e uma profunda recessão já tivessem devastado o establishment político do Brasil e deixado muitos brasileiros prontos para romper com o status quo, Boyd chamou o impacto do YouTube de uma indicação preocupante do crescente impacto da plataforma nas democracias em todo o mundo.
“Isso está acontecendo em todos os lugares”, disse ela.
A festa do YouTube
Maurício Martins, vice-presidente local da festa de Bolsonaro em Niterói, creditou “a maior parte” do recrutamento do partido para o YouTube — incluindo o seu próprio.
Um dia, o político estava matando o tempo no site, quando a plataforma o mostrou um vídeo de um blogueiro de direita. Ele assistiu por curiosidade. Logo, o YouTube passou a recomendá-lo um vídeo após o outro.
“Antes disso, eu não tinha um histórico político ideológico”, disse Martins.
As recomendações de reprodução automática do YouTube, declarou ele, foram “minha educação política”.
“Foi assim com todos”, disse ele.
A influência política da plataforma é cada vez mais sentida nas escolas brasileiras.
“Às vezes, estou assistindo a vídeos sobre um jogo e, de repente, é um vídeo de Bolsonaro”, disse Inzaghi D., um estudante de 17 anos que mora em Niterói.
Cada vez mais seus colegas estão fazendo declarações extremistas, muitas vezes citando como evidência que estrelas do YouTube como Moura, o guitarrista que se tornou conspirador.
“É a principal fonte que as crianças têm para obter informações”, disse ele.
Poucos ilustram melhor a influência do YouTube do que Carlos Jordy.
Marombeiro e fortemente tatuado — sua mão esquerda tem tatuado um crânio flamejante com olhos de diamante — ele se juntou a Câmara Municipal em 2017, com poucas perspectivas de subida através da política tradicional. Então, Jordy se inspirou em blogueiros como Nando Moura e seu mentor político, Bolsonaro, voltando seu foco para o YouTube.
Ele postou vídeos acusando os professores locais de conspirar para doutrinar os estudantes no comunismo. Os vídeos lhe renderam uma “audiência nacional”, disse ele, e impulsionaram sua ascensão impressionante, apenas dois anos depois, para a legislatura federal.
“Se a mídia social não existisse, eu não estaria aqui”, disse ele. “Jair Bolsonaro não seria presidente”.
No buraco do coelho
A algumas centenas de quilômetros de Niterói, uma equipe de pesquisadores liderada por Virgílio Almeida, da Universidade Federal de Minas Gerais, debruçou-se sobre computadores, tentando entender como o YouTube molda a realidade de seus usuários.
A equipe analisou transcrições de milhares de vídeos, bem como os comentários abaixo deles. Os canais de direita no Brasil, eles descobriram, viram seu público expandir muito mais rápido do que os outros, e pareciam estar inclinando o conteúdo político geral do site.
Nos meses após o YouTube ter mudado seu algoritmo, as menções positivas de Bolsonaro aumentaram. E o mesmo aconteceu com os termos ligados as teorias da conspiração que Bolsonaro falava. Isso começou, pois as pesquisas ainda mostravam que ele era profundamente impopular, sugerindo que a plataforma estava fazendo mais do que apenas refletir tendências políticas.
Uma equipe do Centro Berkman Klein de Harvard começou a testar se a ascensão meteórica da extrema direita brasileira na plataforma havia sido impulsionada pelo mecanismo de recomendações do YouTube.
Jonas Kaiser e Yasodara Córdova, com Adrian Rauchfleisch, da Universidade Nacional de Taiwan, programaram um servidor baseado no Brasil para pesquisar pelas recomendações de canais populares na plataforma (canais os quais os canais populares são inscritos e destacados na aba featured), e de canais ligados a um termo buscado e suas recomendações.
Repetindo isso milhares de vezes, os pesquisadores rastrearam como a plataforma movia os usuários de um vídeo para o outro. Eles descobriram que depois que os usuários assistiram a um vídeo sobre política ou até mesmo entretenimento, as recomendações do YouTube geralmente favoreciam canais de direita e conspiradores como o de Nando Moura.
Crucialmente, os usuários que assistiam a um canal de extrema direita geralmente exibiam muito mais.
O algoritmo se uniu a canais outrora marginais — e então construiu uma audiência para eles, concluíram os pesquisadores.
Um desses canais pertencia ao Sr. Jair Bolsonaro, que há muito usava a plataforma para publicar fraudes e conspirações. Apesar de ser um dos primeiros adeptos do YouTube, seus seguidores online pouco fizeram para expandir sua base política, que mal existia em nível nacional.
Então o sistema político do Brasil entrou em colapso assim que a popularidade do YouTube disparou. As opiniões de Bolsonaro não mudaram. Mas a extrema-direita do YouTube, onde ele era uma figura importante, viu seu público explodir, ajudando a recrutar um grande número de brasileiros para sua mensagem em um momento em que o país estava pronto para uma mudança política.
O YouTube desafiou a metodologia dos pesquisadores e disse que seus dados internos contradizem suas descobertas. Mas a empresa recusou os pedidos do Times para esses dados, bem como pedidos de certas estatísticas que revelariam se as descobertas dos pesquisadores estavam corretas ou não.
‘Dr. Youtube’
As conspirações não se limitaram à política. Muitos brasileiros que buscavam informações de saúde no YouTube encontraram vídeos que os aterrorizavam: alguns disseram que o zika estava sendo disseminado por meio de vacinas ou pelos inseticidas destinados a conter a disseminação da doença transmitida por mosquitos que devastou o nordeste do Brasil.
Os vídeos pareciam subir na plataforma da mesma forma que o conteúdo político extremista: fazendo afirmações alarmantes e prometendo verdades proibidas que mantinham os usuários colados em suas telas.
Médicos, assistentes sociais e ex-autoridades do governo disseram que os vídeos criaram a base de uma crise de saúde pública, já que pacientes assustados recusaram vacinas e até mesmo inseticidas anti-zika.
As conseqüências foram pronunciadas em comunidades mais pobres como em Maceió, uma cidade no nordeste do Brasil que estava entre as mais atingidas pelo zika.
“Notícias falsas fazem parte de uma guerra virtual”,
disse Flávio Santana, neurologista pediatra radicado em Maceió. “Nós temos isso vindo de todas as direções.”
Quando o zika se espalhou pela primeira vez em 2015, os agentes de saúde distribuíram larvicidas que mataram os mosquitos que espalham a doença.
Não muito depois de o YouTube ter instalado o novo mecanismo de recomendação, os pacientes da Dra. Santana começaram a dizer a ele que viram vídeos responsabilizando o zika pelas vacinas — e, mais tarde, por larvicidas. Muitos recusaram ambos.
Auriene Oliviera, especialista em doenças infecciosas do mesmo hospital, disse que os pacientes cada vez mais desafiam seus conselhos, incluindo procedimentos cruciais para a sobrevivência de seus filhos.
“Eles dizem: ‘Não, pesquisei no Google, vi no YouTube”, disse ela.
Os profissionais da saúde, disse ela, competiam “todos os dias” contra o “Dr. Google e Dr. YouTube ”- e eles estavam perdendo.
Mardjane Nunes, um especialista em zika que recentemente deixou um cargo sênior no Ministério da Saúde, disse que os profissionais de saúde em todo o Brasil têm relatado experiências semelhantes. À medida que mais comunidades recusam o larvicida anti-Zika, ela acrescentou, a doença está vendo um pequeno ressurgimento.
“A mídia social está ganhando”, ela disse.
A comunidade médica do Brasil tinha motivos para se sentir incomparável. Os pesquisadores de Harvard descobriram que os sistemas do YouTube frequentemente direcionavam usuários que procuravam informações sobre o zika, ou mesmo aqueles que assistiam a um vídeo respeitável sobre problemas de saúde, em direção a canais conspiratórios.
Um porta-voz do YouTube confirmou as descobertas do Times, chamando-as de não-intencionais, e disse que a empresa mudaria a forma como sua ferramenta de busca exibia vídeos relacionados ao zika.
Um “ecossistema do ódio”
À medida que a extrema direita aumentava, muitas de suas principais vozes haviam aprendido a armar os vídeos de conspiração, oferecendo a seus grandes públicos um alvo: as pessoas culpadas. Eventualmente, os conspiradores do YouTube voltaram seus holofotes para Debora Diniz, uma ativista dos direitos das mulheres, cuja defesa do aborto a tornara alvo da extrema direita.
Bernardo Küster, uma estrela do YouTube cujos discursos caseiros lhe renderam 750 mil assinantes e um endosso de Bolsonaro, acusou-a de envolvimento nos supostos planos do Zika.
As mesmas pessoas que trabalham para ajudar as famílias afetadas pelo Zika, seus vídeos sugeriram, estavam por trás da doença. Apoiados por estrangeiros obscuros, seu objetivo era abolir a proibição do Brasil ao aborto — ou mesmo tornar os abortos obrigatórios.
À medida que os canais de extrema-direita e conspiração começaram a citar um ao outro, o sistema de recomendações do YouTube aprendeu a agrupar seus vídeos. Por mais implausível que qualquer rumor individual pudesse estar por conta própria, eles criaram a impressão de que dezenas de fontes diferentes revelavam a mesma verdade aterradora.
“Parece que a conexão é feita pelo espectador, mas a conexão é feita pelo sistema”, disse Diniz.
Ameaças de estupro e tortura preencheram o telefone e o email de Diniz. Alguns citaram suas rotinas diárias. Muitos ecoaram reivindicações dos vídeos de Küster, ela disse.
O Sr. Küster comentou alegremente, embora nunca tenha endossado explicitamente, as ameaças. Isso o manteve dentro das regras do YouTube.
Quando a universidade onde Diniz ensinou recebeu um aviso de que um atirador atiraria nela e em seus alunos, e a polícia disse que eles não poderiam mais garantir sua segurança, ela deixou o Brasil.
“O sistema do YouTube de recomendar o próximo vídeo e o próximo vídeo”, ela disse, criou “um ecossistema de ódio”.
“Eu ouvi aqui que eu sou uma inimiga do Brasil. Em outro vídeo, eu ouvi que as feministas estão mudando os valores da família. E em outro, que eu recebo dinheiro do exterior ”, disse ela. “Esse ciclo é o que leva alguém a dizer: ‘farei o que tem que ser feito’”.
“Precisamos que as empresas enfrentem suas responsabilidades”, disse Diniz. “Éticamente, eles são responsáveis”.
No Brasil, essa é uma prática on-line crescente conhecida como “linchamento digital” . Bolsonaro foi um dos primeiros pioneiros, espalhando vídeos em 2012 que acusavam falsamente acadêmicos de esquerda de conspirar para forçar as escolas a distribuir “kits gays” para converter crianças à homossexualidade.
Jordy, seu protegido de Niterói, não se incomodou em saber que sua campanha no YouTube, acusando professores de espalhar o comunismo, havia virado suas vidas de cabeça para baixo.
Uma dessas professoras, Valeria Borges, disse que ela e seus colegas foram dominados por mensagens de ódio, criando um clima de medo.
O Sr. Jordy, longe de contestar isso, disse que esse era seu objetivo. “Eu queria que ela sentisse medo”, disse ele.
“É uma guerra cultural contra a qual estamos lutando”, explicou ele. “É por isso que eu estou nisso.”
“A ditadura do semelhante”
O marco zero para a política do YouTube pode ter sido o canal do Movimento Brasil Livre, que se reuniu para incentivar o impeachment de 2016 da presidente de esquerda Dilma Rousseff. Seus membros são jovens, de classe média, de extrema direita e de atuação extremamente online.
Renan Santos, o coordenador nacional do grupo, gesticulou para uma porta marcada como “a divisão do YouTube” e disse: “Esse é o coração das coisas”.
No interior, oito jovens cutucaram o software de edição. Um deles foi estilizar uma imagem de Benito Mussolini para um vídeo argumentando que o fascismo havia sido injustamente culpado pela direita.
Mas mesmo algumas pessoas aqui temem o impacto da plataforma na democracia. Santos, por exemplo, chamou a mídia social de “arma”, acrescentando que algumas pessoas ao redor de Bolsonaro “querem usar essa arma para pressionar as instituições de uma forma que eu não vejo como responsável”.
O co-fundador do grupo, Pedro D’Eyrot, ex-guitarrista do rock, disse que “temos algo aqui que chamamos de ditadura do gênero”.
A realidade, segundo ele, é moldada por qualquer mensagem que seja mais viral.
Enquanto ele conversava com a reportagem do NYT, um vídeo do YouTube de duas horas do MBL estava cativando a nação. Intitulado “1964” para o ano do golpe militar no Brasil, argumentava que a ditadura tinha sido necessária para salvar o Brasil do comunismo.
Dominguez, o adolescente que está aprendendo a tocar violão, disse que o vídeo o persuadiu de que seus professores haviam inventado os horrores do regime militar.
Valéria, a professora de história no YouTube, disse que trouxe de volta memórias do toque de recolher militar, desaparecimento de ativistas e espancamentos policiais.
“Eu não acho que eu tive a minha última surra”, disse ela.
Esse texto é uma tradução livre de uma reportagem do The New York Times. Leia aqui o texto original.
