Deep Fake, Infocalipse e Pós-Verdade
Impedir ou sobreviver a distopia?
Existem diversos futuros distópicos previstos pela literatura para o ocaso da sociedade. Apocalipse pós-nuclear, terrorismo biológico, extinção da natureza, escravatura alienígena. Mas nunca havia pensado que a informação, a partir do seu excesso e deturpação, podia chacoalhar, arriscando derrubar, a base de sustentação social.
Se isso parece ficção ou muito futurista, saiba que já está acontecendo.
1. Uma mentira dita mil vezes
O Hoax existe desde que existe a mentira. Ele é diferente do erro ingênuo, causado por desconhecimento, porque há um interesse associado na razão de se mentir. Geralmente financeiro, político, satírico ou maldoso. Existem exemplos consagrados na história. A invasão alienígena narrada no rádio por Orson Welles que causou uma histeria nacional em 1938 (e que pode a própria história ser um hoax também), o Despacho de Ems que precipitou a guerra franco-prussiana de 1870, o monstro do Lago Ness. Essas histórias aparecem periodicamente mas sempre restritas a um âmbito regional, virando lendas urbanas e raramente alcançando repercussão nacional.
Até a internet virar de cabeça pra baixo nossa forma de se comunicar. Agora cada usuário é um veículo de comunicação em potencial que pode propagar qualquer ideia globalmente. Assim os hoaxes foram ampliados. O que começou com as correntes de email (fanta uva dá mesmo câncer?), passando pelas trollagens juvenis do 4chan, desembocou na crise atual das Fake News.
A evolução da internet, propelida pela economia da atenção, mídias sociais e forma de pagamento baseado em cliques e engajamento, permitiu que um mercado de notícias falsas se desenvolvesse. Esse excesso se somou ao montante já produzido pela mídia tradicional, resultando na torrente de informação a que somos expostos e nos afoga diariamente. Não sabendo de onde e como consumir notícias, somado a uma certa ingenuidade que deriva da boa fé ensinada pela mídia pré-internet, podemos crer que tudo que é exposto virtualmente representa a verdade.
De acordo com o ótimo Media Watch do Pedro Burgos, das 10 páginas com notícias mais compartilhadas semanalmente no Facebook BR, entre seis a oito (dependendo da semana) compartilham notícias falsas. Na data da escrita desse texto, elas foram compartilhadas conjuntamente mais de 1,4 milhões de vezes. Ou seja, em uma semana, um milhão de desinformação é compartilhada, alcançando uma magnitude muitas vezes maior de leitores. Quais são as consequências reais desse excesso?
O tamanho do problema foi deflagrado nas eleições estadunidenses de 2016. Levando em conta que dois terços dos adultos norte-americanos consomem notícias e obtêm informações a partir das mídias sociais, diversos atores abusaram da estrutura dessa nova forma de mídia com interesses diversos.
Sabendo manipular a métrica do algoritmo do Facebook, viciado por engajamento, jovens macedônios faturaram criando sites pró-Trump e espalhando manchetes sensacionalistas, facilmente compartilháveis. A estratégia envolvia misturar notícias reais com outras obviamente mentirosas para manter as aparências, causando um desserviço na construção de um debate sério para as eleições. Outro algoritmo enganado pelas fakes news foi do Youtube. Conspiracionistas viram seus vídeos ganhando milhões de visualizações sem esforço, graças a alguma tendência intrínseca da programação de recomendação e auto-play que focava exponencialmente em vídeos calamitosos que geravam mais engajamento.
Para além da questão monetária, as fake news se mostraram uma arma de guerrilha com impacto na segurança nacional. Como demonstra a história da influência russa, que já está bem estabelecida. Grupos ligados ao governo de Moscou compraram propagandas no Facebook e direcionaram a desinformação para grupos estratégicos de eleitores americanos. Assusta quão pouco esforço pode causar um impacto enorme. O pesquisador Jonathan Albright usando métricas independentes em algumas páginas que ainda não haviam sido deletadas e contrariando dados revelados pelo próprio Facebook que subestimaram a interferência russa, descobriu que pouco mais de 500 posts foram compartilhados mais de 340 milhões de vezes durante a eleição. Possivelmente todos compartilhamentos não foram de usuários reais. O uso de um exército de bots é outra estratégia conhecida no contexto da desinformação. Reproduzindo e compartilhando as notícias falsas diariamente eles conseguem propagar e ampliar o alcance da narrativa que se deseja construir. Afogando notícias reais e criando barulho suficiente para criar dúvidas em eleitores reais. Essa estratégia já foi, inclusive, usada nas eleições brasileiras de 2014 e exposta pela brilhante série de reportagens da BBC Brasil.
Considerando que 80 mil votos (num universo de 120 milhões de votantes) em 3 estados chaves mudaram o resultado da eleição dos Estados Unidos, não é irrealista questionar quantas pessoas foram influenciadas por essas notícias falsas — que alcançavam milhões de usuários — e qual o impacto disso no resultado final da eleição.
Se esse panorama parece ruim, o problema é que tende a ficar muito pior. Novas tecnologias de edição de imagem e som associadas com inteligências artificiais otimizadas tornarão indistinguíveis um fato de uma notícia falsa. Corroendo a forma como conseguimos compreender a realidade e pondo em xeque a construção do conhecimento.
2. Infocalipse
Aviv Ovadya previu a crise das fake news antes de muita gente. Ele cunhou o termo “Infocalipse” numa palestra em São Francisco para alertar o Vale do Silício sobre o que a desinformação tóxica poderia causar nas eleições de 2016. E foi largamente ignorado.
Hoje, como pesquisador de responsabilidade em mídias sociais para Universidade de Michigan, ele tenta alertar o mundo sobre o apocalipse iminente que novas tecnologias vão ocasionar.
No final de 2016, a Adobe demonstrou o VoCo. Basicamente um software de edição de áudio capaz de editar as frequências apresentadas entregando resultados fidedignos. Um Photoshop para voz. Melhor (ou pior), com apenas alguns minutos de gravação de voz de qualquer pessoas, a inteligência artificial do programa é capaz de, a partir das peculiaridades da onda sonora individual, prever e falar qualquer frase. Simulando a pessoa que teve a voz inserida. Vejam o vídeo e se assustem.
É fácil imaginar as implicações negativas desse tipo de tecnologia. Gravações com vozes de políticos ou celebridades poderiam ser recriadas proclamando horrores com intuito de denegrir imagens pessoais. A tecnologia não precisa nem ser usada para causar um impacto. A mera ideia de que existe uma tecnologia assim, permite que ocorram situações semelhantes às da corrida eleitoral do Estados Unidos, quando Trump afirmou que áudios vazados dele durante a eleição foram “obviamente” editados, e milhares de pessoas acreditaram.
O uso criminoso pode nos afetar no dia-a-dia também. Coletando áudio de alguns vídeos do Instagram e acrescentando no VoCo, golpistas podem te telefonar e do outro lado da linha você ouvir cristalinamente a voz de seu parceiro, com todas entonações próprias da pessoa amada requisitando dinheiro ou desesperadamente dizendo ter sido sequestrado. Não há sangue frio que aguente uma situação destas.
As IAs atuais, baseadas em sistemas de redes neurais, são imbatíveis em reconhecer padrões. É uma qualidade que sustenta seu próprio funcionamento. Já existem IAs aplicadas para encontrar pistas e diagnosticar AVCs antes dos radiologistas e para ajudar pesquisadores a encontrar padrões de escrita em textos antigos. Sobre a escrita, uma IA consegue captar os trejeitos, as minúcias, que formam o estilo de qualquer autor e singulariza-los. Apesar de momentaneamente as IAs escritoras ainda não serem completamente realísticas, logo teremos golpes de “automated laser phishing” (algo como pesca automática a laser, apesar de phishing já ser um neologismo). Ovadya nomeou desta maneira a evolução dos golpes por e-mail. Com algumas entradas no Facebook e Twitter, o estilo de escrita de qualquer amigo seu poderia ser emulado e usado num e-mail fidedigno para obtenção de dinheiro ou dados.
Vimos o impacto possível permitido pela alteração verossímil de som e texto. Porém a inteligência artificial possui uma capacidade impressionante de alterar vídeos também. Vejam as gifs abaixo:
O primeiro uso dessa tecnologia foi, como de costume, para pornografia. O mercado de deepfakes, como é chamada a união de videos pornôs com rosto de celebridades inseridos com apoio de inteligência artificial, explodiu e já vem sendo proibido. Mas ninguém está incólume a nova tecnologia. Podemos presenciar uma série de ofensas pessoais quando qualquer mal-intencionado decidir criar um vídeo desses com o seu rosto e “soltar na net” como se fosse real. Basicamente qualquer pessoa pode ser editada em qualquer situação num vídeo que nem o detetive virtual do Fantástico seria capaz de diferenciar a verdade da fabricação.
A facilidade de uso dessas tecnologias é outro ponto que anima e assusta. Muitos podem argumentar que o Photoshop existe há mais de uma década e podia criar problemas semelhantes aos expostos e no entanto estamos convivendo tranquilamente com ele. Entretanto o Photoshop exigia um certo grau de domínio para entregar resultados satisfatórios enquanto tomava um tempo considerável do criador. Agora estes novos softwares conseguem criar vídeos verossímeis e indistinguíveis com o clique de um botão.
Quando juntamos todas tecnologias e a malícia das Fake News o cenário do caos fica evidente. Se por acaso surgir um vídeo editado, porém com a voz e expressão facial semelhantes a de Kim Jong-un anunciando um ataque nuclear, o que é mais rápido: a tomada de uma ação precipitada como resposta de segurança nacional ou conferir a veracidade de um vídeo que não parece ter nada de falso?
Pior do que esse problema — se é que me permitem usar uma hipérbole que justifique algo pior que um ataque nuclear mundial — é a falsificação constante da realidade. Quando toda informação que você vê pode ser falsa, porque se importar? No que acreditar? As pessoas param de consumir notícias e entram num estado de apatia da realidade. Alcançamos a pós-verdade.
3) Pós-Verdade
Confiança. A base da construção e avanço da sociedade foi confiança. Eu confio em seu conhecimento, habilidade e vivência, você nos meus. Trocamos o resultado da expertise individual e o saber avança. E o colosso humano cresce.
No cenário atual, o excesso de desinformação erodiu a confiança. Especialistas são ridicularizados. A mídia é acusada de conspiracionista. A apatia com o que acontece ao seu entorno cresce. Uma página como “Bichinhos fofinhos pra quem tá cansado de política no feed” ter 600 mil curtidas é sintomático disso. Nada contra os animaiszíneos, mas demonstra a estafa com o modelo.
Este momento de descrédito da verdade foi nomeado pós-verdade. Tanto que o termo foi eleito a palavra do ano de 2016 pelo dicionário Oxford. A palavra foi definida como “uma circunstância em que fatos objetivos são menos relevantes em moldar a opinião pública do que o apelo às emoções ou crenças pessoais”.
O resultado da desconfiança não é nada bom. Uma democracia funcional exige um nível de conhecimento baseado em fatos para pautar seus problemas e avançar na discussão. A reforma da previdência é necessária ou uma mentira? Precisamos auditar a dívida pública ou pagar os juros? Conciliar interesses exige que os diferentes setores sociais estejam conversando sobre a mesma coisa. Se cada um pode escolher no que acreditar, não há diálogo nem construção. Ninguém se move. Mike Caulfield colocou desta forma: a civilização avança descobrindo no que pode acreditar, para que gaste mais tempo discutindo o que não pode aceitar. Se você desacredita em tudo igualmente, não será apenas cínico, mas inefetivo.
Agora que texto, som e vídeo poderão ser editados e construídos com ajuda da inteligência artificial segundo qualquer interesse, neste novo normal, qualquer um poderá oferecer opinião sobre qualquer assunto e baseá-la numa informação falsa que não pode ser refutada pela verossimilhança da edição. É um ponto em que a validade do fato foi desacreditada. Não há consequências para um discurso dúbio (potencialmente danoso e corrosivo), pois não há verdade ou mentira.
Isso não é saudável. Pessoalmente não podemos minimizar o discurso de cientistas que estudaram e possuem conhecimentos técnicos baseado em evidências científicas que atenderam critérios estatísticos rigorosos para construir um fato. Assim como de jornalistas que trabalham incessantemente na apuração e confirmação de dados.
Quanto ao futuro da notícia, para nos proteger já existem projetos de combate às fake news criadas por IA.
Primeiro é preciso haver um esforço conjunto para monitorar o ecossistema de informações. Com acesso facilitado, por parte das redes socais, aos dados das notícias mais compartilhadas, grupos de checadores de fatos podem confirmar as notícias e oferecer ao usuário um alerta sobre a veracidade do que ele vê. O Facebook experimentou com essa ideia nas eleições italianas do começo do ano (o que representa um pequeno alento para o que vamos enfrentar nas nossas eleições). Eventualmente, a complexidade da edição de imagens vai dificultar a confirmação de vídeos. Por isso AIs reversas, muito mais sensíveis a alterações de pixels, podem ser inseridas nos browsers e realizar confirmações no background, alertando aos usuários quando alguma imagem ou vídeo parecer suspeita. Aliando isso ao banco de dados da desinformação citado previamente, as grandes techs podem criar um novo paradigma visual e informar os leitores fluidamente enquanto ele navega. Algo que o Google vai tentar fazer aliando a Wikipedia ao Youtube. Internamente, o sistema de pagamentos online precisa ser alterado. Os danos da recompensa por cliques e engajamento são bem conhecidos. A discussão persiste por não se chegar a acordos de novos modelos. Entretanto é necessário premiar a verdade, como sites reconhecidamente confiáveis, que praticam um jornalismo sério e averiguador, precisam se sobressair sobre sites falsos de jovens macedônios.
Citei alguns dos pontos que serão exploradas no Fake News Horror Show, um esforço conjunto de especialistas e governos para antever o futuro da desinformação e prevenir seus impactos.
Apesar desses esforços, o problema da pós-verdade possui uma outra faceta, mais individual e dolorosa de ser corrigida. Pois exige esforço ativo de cada um. Mas entendê-la representa a esperança de fugir da distopia da informação e progredir para um mundo melhor e mais honesto.
4) Honestidade intelectual
Foi publicado na Science o maior estudo já feito sobre fake news e como a desinformação se dissemina online. Em parceria com o Twitter, os cientistas do laboratório de mídia do MIT coletaram dados de 10 anos da plataforma e toda notícia polêmica e duvidosa de 2006 a 2016 foi analisada. As conclusões são preocupantes. Uma notícia falsa alcança mais público e mais rapidamente do que notícias verdadeiras sob qualquer métrica analisada. Pior, bots de notícias compartilham com a mesma frequência notícias falsas e verdadeiras. A culpa, a vontade de espalhar mentiras, vem dos usuários reais. A conclusão maior, segundo o autor do estudo, demonstra que notícias que elicitam uma resposta emocional mais forte, são as mais compartilhadas e as que geram mais discussões.
E as fake news são moldadas para atingir dois pontos fracos emocionais. Elas atendem ao desejo de novidade e geram indignação — normalmente com alguma colocação fora do usual e que afeta pessoalmente o leitor — dois sentimentos potentes. Dessa forma, são projetadas para se disseminar frente a uma realidade que pode ser pacata e chata demais.
Este é só um dos vieses inerentes do ser humano que explicam porque a mentira e descrença conseguem se propagar e destruir a confiança na verdade. Por mais que prezemos pela nossa razão, trabalhos como o do vencedor do nobel Daniel Kahneman demonstram que somos afligidos por tendências que fogem do nosso controle. Tomar consciência disso para lutar ativamente contra esta programação natural é um passo imenso e dificílimo rumo a construção de um indivíduo mais livre e colaborador da sociedade.
O viés de confirmação é outra tendência inerente que coopera para acreditarmos e compartilharmos desinformação. Nós somos propensos a acreditar em informações que sustentem nosso ponto de vista. Isso representa uma tremenda armadilha, porque a aceitação e procura de informações pode ser totalmente redirecionada para eu encontrar somente o que já me satisfaz e reconforta. Mesmo quando confrontado com fatos suportados baseados em evidências, este viés faz com que adotemos uma posição defensiva de desmerecer a realidade que se apresenta e nos arraigarmos no que já acreditamos. Pesquisas, como essa do Pew Research Center, apontam que a maioria dos leitores não se importam quanto a veracidade do que leem. Eles só querem saber se aquela notícia, ou manchete escandalosa, apoia a opinião de mundo deles.
E este é o maior problema da desinformação atualmente. A dificuldade de combater nossos vieses naturais e de lutarmos contra nós mesmos em busca da honestidade intelectual. Se quisermos reconstruir a confiança em um mundo que nada podemos saber, o esforço individual de cada um conta. O Pro Truth Pledge, organizado por milhares de cientistas mundialmente, buscam auxiliar na luta pessoal de cada um contra a mentira milenar. Vocês podem assumir o juramento. Abaixo as diretrizes propostas:
Juro me esforçar para:
Compartilhar a verdade
-Verificar: confirmar a veracidade da informação antes de aceitá-la e compartilhá-la
-Equalizar: compartilhar toda a verdade, mesmo se alguns aspectos não apoiarem a minha opinião
-Citar: compartilhar minhas fontes de modo que outros possam verificar as informações
-Esclarecer: deixar claro o que são fatos e o que são minhas opiniões.Honrar a verdade
-Reconhecer: quando outros estejam compartilhando informações verídicas, mesmo na presença de divergências de opinião
-Reavaliar: se a veracidade de minha informação for contestada, abandona-la formalmente caso não possa defende-la
-Defender: pessoas que sejam alvo de ataques por compartilhar informações verdadeiras, mesmo na presença de divergências de opiniões
-Alinhar: minhas opiniões e ações às informações mais corretas disponíveisEstimular a verdade
-Corrigir: pedir às pessoas que retirem informações já falsificadas por fontes confiáveis, mesmo que sejam meus aliados
-Educar: pedir educadamente que parem de fazer referências à fontes sem credibilidade, mesmo que elas ofereçam apoio às minhas opiniões
-Conceder: reconhecer que, quando os fatos estão sob disputa, as opiniões de especialistas têm maior chance de estarem corretas
-Celebrar: os que voltaram atrás em afirmações incorretas e atualizaram suas opiniões de acordo com informações verdadeiras.
Não é fácil seguir estas orientações, afinal a própria lista reconhece isso e abre com a palavra “esforço”. São vários tópicos e exigem curiosidade, humildade e honestidade. Contudo se me permitem a petulância, eu acrescentaria mais um item: idealismo.
Eu acredito que o esforço intelectual requisitado é justificável, porque acredito que este é o caminho para aliviar as tensões irreconciliáveis, a falta de diálogo, o ódio crescente. Que vai se agravar com o uso de novas tecnologias. Seguir estas recomendações, é travar uma luta pessoal por um mundo mais confiável e que sabe em que quer se sustentar.
Boas eleições de 2018 para todos!
Leituras Adicionais
O livro online de Mike Caulfield sobre como checar um fato e consumir informações na internet.
A professora Mahzarin Banaji e sua empreitada para combater os vieses humanos e se libertar das amarras pré-programadas pela natureza.
Lee Mcintyre que escreveu um livro diagnosticando a mistura de tendências seculares e pós-modernas que desembocam no momento da pós-verdade.
Pros fãs de AI não tem como deixar de recomendar o Two-Minute Papers que permite um vislumbre do mundo maravilhoso (de verdade!) que está por vir.
Os sites de checagem de fatos brasileiros, que prestem um enorme serviço público: Lupa, Agência Pública, Aos Fatos.
