Como Pinterest criou um dos algoritmos mais bem-sucedidos do Vale do Silício
Entenda as poderosas ferramentas de recomendação da empresa e seus esforços para evitar os escândalos que impactam o mercado
Por Will Oremus (publicado originalmente aqui, em inglês)
Como a maioria das redes sociais, Pinterest é uma plataforma criada sobre especulações e palpites.
Ao contrário da maioria das redes sociais, o Pinterest admite.
Desde o começo, você fala para a plataforma como entender seu perfil. Quando você se cadastra, são feitas duas perguntas pessoais — idade e gênero — e como você responde a elas molda tudo o que vai acontecer depois. Baseado nas suas respostas, junto com seu idioma, região e um pouco do seu histórico de navegação, o Pinterest escolhe uma quantidade de categorias que podem lhe interessar e pede para você escolher pelo menos cinco.
Diga que você é uma mulher com seus trinta e poucos anos, e os interesses sugeridos vão incluir “Maquiagem”, “Tutorial de Penteado”, “Treinos de Academia”, e “Receitas de Jantar”. Fale que você é um homem nos seus trinta anos e você vai receber sugestões muito diferentes: “Marcenaria”, “Imagens Engraçadas”, “Técnicas de Sobrevivência”, e “Games”. Ou você pode digitar sua própria resposta em uma seleção “Não Binária” — permite que você escreva tudo — e você vai receber uma pilha de opções meio neutras como “Animais”, “Decoração”, “Hairstyle para mulheres”, “Hairstyle para homens”, e “Unha francesinha”.
Assim que você escolher as categorias, o software de machine learning do Pinterest vai criar uma home feed ou “pins”, que a plataforma acha que vão lhe agradar. Esse é um momento crucial: o Pinterest afirma que seus dados internos mostram que se as pessoas veem pins que eles gostam logo de cara, há uma boa chance de tornarem-se usuários ativos, voltando regularmente para o site para um conteúdo novo relacionado a seus interesses, visualizando propagandas criadas para aqueles interesses e curando seus próprios boards de pins relacionados. Se as pessoas não encontram nada que interesse de cara, talvez elas nunca mais voltem.
Para os 50 milhões de usuários que se cadastram no Pinterest todos os anos, o processo de sign-up é um primeiro aperitivo de um dos algoritmos mais bem-sucedidos — e um dos menos explorados — do Vale do Silício. O código que rege o home feed, os resultados de busca e as notificações do Pinterest — determinando quais imagens e ideias os usuários veem de cada vez — é de tipo semelhante ao do News Feed do Facebook, recomendações do YouTube, ou a página For You da Tik Tok. É o principal produto de uma companhia avaliada em 15 bilhões de dólares, que abriu suas ações ao público com sucesso este ano — a única, entre muitos unicórnios da tecnologia como Uber, Lyft e Slack, cujas ações têm sido consistentemente negociadas a um valor acima do preço do IPO.
Mas, nos bastidores, os engenheiros e executivos do Pinterest estão lutando com o mesmo tipo de tensão que causou problemas por todo o Vale. A direção da empresa diz que busca uma rota de sucesso diferente no Vale do Silício, menos meteórica e mais humana.
Mas em seu primeiro ano como uma empresa pública, já enfrenta um desafio central: como crescer além de uma base de clientes historicamente suburbana, branca e feminina sem alienar conservadores, estereotipar novos usuários ou potencialmente permitir a disseminação de desinformação e radicalização?
A companhia está lançando uma feature criada para sanar provavelmente uma das falhas mais visíveis do seu algoritmo: a tendência de tirar conclusões precipitadas pelo histórico de comportamento de usuário.
O objetivo é evitar poluir os feeds com coisas que eles não querem mais ver — como vestidos de casamento para uma pessoa que rompeu um noivado, ou decoração de maternidade para alguém que sofreu uma interrupção na gestação. A funcionalidade, que o Pinterest está chamando de Home Feed Tuner, vai permitir a usuários revisar e editar manualmente seu histórico e interesses, o que em significa dizer ao algoritmo o que lembrar e o que esquecer.
A expectativa é reduzir as reclamações e aumentar a satisfação de um pequeno grupo de usuários poderosos. Mas isso vai ter pouca influência no crescimento do site, e pode até mesmo reduzir o engajamento para as pessoas que o usam limitando as informações disponíveis para o algoritmo. É o tipo de troca que a companhia diz que está disposta a fazer, especialmente depois que os primeiros testes não mostraram nenhuma queda significativa nas atividades.
No entanto, outras trocas estão se mostrando mais difíceis — como, por exemplo, entender as pessoas o suficiente para que continuem voltando ao site sem entediá-las, prendê-las ou assustando-as.
Segundo Candice Morgan, head de inclusão e diversidade da empresa, “usuários não querem ser classificados”. Ela comissionou um estudo no começo do ano para entender como o Pinterest poderia servir melhor a pessoas a partir de backgrounds que a plataforma sub-representa. “As pessoas não querem que nós adivinhemos suas preferências baseados em sua demografia”, acrescenta Morgan.
E ainda assim, o Pinterest adivinha preferências baseado na demografia, pelo menos nos primeiros momentos depois do cadastro. Se não fizesse isso, uma parte das pessoas teria decidido que o Pinterest não era para elas.
Também há problemas que assolam as redes sociais de maior relevância: desinformação viral, radicalização, imagens e memes ofensivos, spam e sites obscuros tentando usar o algoritmo para gerar lucro — tudo isso vale para o Pinterest de um jeito ou de outro. A diferença é que o Pinterest criou uma abordagem diferente das concorrentes: aceitar o viés, limitar a viralização e tornar-se uma forma de rede antissocial.
Tem funcionado até agora.
Fundada em 2010 por três homens jovens da área de tecnologia no Hacker Dojo do Mountain View, o Pinterest batalhou no começo para ganhar tração como uma plataforma de interesse geral e compartilhamento de coleções de imagens. Isso mudou quando o cofundador, Ben Silbermann, do Iowa, foi a uma conferência para influenciadoras e blogueiras femininas, e logo entendeu o que faltava. O site floresceu em comunidades femininas e suburbanas, que encontraram nele o lugar ideal para compartilhar receitas, dicas de estilo e projetos faça-você-mesma junto com ideias de decoração para a casa.
Essas usuárias definiram a trajetória da plataforma.
Enquanto a equipe de engenharia da empresa seguia o template das mídias sociais para desenvolver algoritmos de personalização que aprendiam com o comportamento das pessoas, o software absorvia os interesses e padrões de atividade delas. Mas confiar muito em um tipo específico de dados gerados por essas usuárias iniciais levaram a alguns problemas. Por exemplo, você pode se deparar com um board cheio de vestidos de casamento com modelos brancas.
No começo, o home feed mostrava uma amostra dos pins mais populares, baseado nos boards que eram seguidos, e isso era perfeito para atrair novos acessos com um pensamento parecido, mas não para diversificar o apelo do site. “Havia um equívoco entre os homens de que o Pinterest era só uma plataforma feminina para conteúdos de beleza”, diz Morgan, “mesmo tendo bastante conteúdo de gênero neutro”.
“Nós queríamos entender se as pessoas iriam fornecer proativamente mais informações suas para aumentar a personalização. A resposta foi não — elas só queriam que o produto funcionasse para todo mundo”.
Com o passar dos anos, o Pinterest teve que redesenhar seus sistemas e retreinar os algoritmos para identificar melhor e atingir tipos diferentes de clientes e mapear seus interesses. Daí a questão sobre gênero quando você se cadastra, a seleção de assuntos que dá ao algoritmo uma noção inicial do que você gosta, e o provavelmente levemente intrusivo (apesar de ser o padrão da indústria) uso de dados do browser que diz ao Pinterest se você visitou o site antes e como chegou lá.
A questão sobre idioma e região, por exemplo, ajudou o Pinterest a chegar em públicos fora dos Estados Unidos, que já haviam reclamado que a plataforma “parecia estrangeira desde o momento do primeiro cadastro”.
Agora, bem mais que metade da audiência do Pinterest está fora dos EUA, o que condiz com outras redes sociais do mesmo tamanho. De algumas formas, esse público está ajudando a mostrar o caminho para ser uma plataforma mais inclusiva: no Japão, por exemplo, a companhia diz que homens são tão propensos a se tornar usuários ativos quanto as mulheres, após visitarem o site pela primeira vez.
Mas conduzir as pessoas para subgrupos cada vez mais estreitos tem seus riscos, especialmente com grupos que foram historicamente sub-representados no site. Os dados internos podem dizer que receber usuários masculinos com um monte de imagens com o estereótipo do macho pode turbinar as taxas de ativação. O que pode estar oculto nisso é que um subconjunto de usuários masculinos é repelido, até mesmo ofendido, pela suposição implícita de que eles gostam do estereótipo ou de imagens de “belas celebridades”, todas mulheres.
O Pinterest está trabalhando em formas de ajudar as pessoas a se enxergarem no produto. Em janeiro, a companhia lançou um dos primeiros produtos a sair da iniciativa de diversidade encabeçada por Morgan e Omar Seyal, head de core product do Pinterest: uma seletora de paletas que filtra resultados de beleza baseado na cor da sua pele.
É um bom primeiro passo, mas não é perfeito, de acordo com a pesquisa da empresa.
“Nós queríamos entender se as pessoas iriam fornecer proativamente mais informações suas para aumentar a personalização. A resposta foi não — elas só queriam que o produto funcionasse para todo mundo”, diz Morgan.
O Pinterest nunca atraiu muita atenção da mídia como o Twitter e o Facebook, mas isso não quer dizer que ele está imune aos problemas que causaram escândalos por toda parte. Um dos seus críticos mais famosos é Mike Caulfield, um estudioso de mídias e especialista em comunicações online da Washington State University Vancouver. Em 2017, ele faz uma pesquisa sobre cultura política no Pinterest, e o que ele encontrou foi tão problemático como em qualquer outra plataforma social. Havia boards cheios de fake news, estereótipos étnicos, e teorias da conspiração QAnon.
Caulfield argumentou que a agressividade do algoritmo de recomendação do site, aliada à dependência em boards de imagens relacionadas criados por usuários podem transformar um feed em uma fossa de ódio em questão de minutos.
“Após 14 minutos de navegação, um novo usuário com perguntas sobre vacinas poderia ir de pins sobre ‘Como Fazer o Ovo Perfeito’, a algo saído das guerras de informação”, escreveu Caulfield.
Como explica Amy Collier, do Middlebury College, parte do problema é que os spammers jogam com o algoritmo do Pinterest ao colocar memes políticos para viralizar no mesmo board que contém, digamos, camisetas que estão tentando vender. Quando as pessoas se engajam em memes, o algoritmo mostra a elas outros itens do mesmo board, supondo que sejam do mesmo interesse. Eventualmente, mostra as camisetas à venda, uma parte das pessoas compra e o spammer lucra. Caulfield diz que está acostumado a ver companhias de tecnologia ignorarem as suas críticas ou entrarem na defensiva.
E então o Pinterest o surpreendeu: a companhia agradeceu a ele por revelar o problema e convidou Caulfield para uma reunião com os executivos para compartilhar ideias de como solucionar a questão.
Depois, pelo menos no debate antivacinas, eles seguiram as recomendações.
Em agosto, o Pinterest mudou a forma como o motor de busca trata consultas sobre vacinas. Mais que mostrar os pins sobre vacina mais populares, a plataforma agora mostra somente pins de grandes organizações de saúde, como a World Health Organization e a CDC. Caulfield enalteceu a iniciativa, que resultou em uma posição mais firme do que as outras concorrentes adotaram. Isso mostrou que a empresa estava disposta a passar por cima do próprio software para abordar problemas sistêmicos que um algoritmo sozinho não pode resolver.
Qual a extensão dessa iniciativa para outros problemas no horizonte de uma plataforma de 300 milhões de pessoas ainda é uma incógnita. Mas o Pinterest parece estar disposto a descobrir.
“A realidade é que companhias de tecnologia não podem fazer tudo na Terra”.
O senso comum entre empresas de mídia social é que você não pode repassar muito do ônus da personalização do feed ao usuário. O crescimento global do Facebook a uma dominância praticamente global se deu ao criar um algoritmo de feed de notícias que sabe melhor que os próprios usuários em que eles estariam mais propensos a clicar.
O Instagram e o Twitter resistiram aos algoritmos de feed por alguns anos, mas ambos eventualmente abraçaram a automação e viram tanto suas bases como suas fortunas crescerem. Toda sua atividade afina o motor de otimização de engajamento, e dar às pessoas acesso a esse mecanismo só iria melhorar as coisas.
O Pinterest, como outras plataformas sociais, se diz contra métricas como usuários mensais ativos e taxas de ativação, como deixa claro John Egan, o engenheiro chefe de crescimento em um post no blog em janeiro. E, historicamente, o algoritmo tem sido incansável em afiar o gume dos feeds para mostrar às pessoas com o que elas se engajaram no passado. Há críticas semelhantes a esse tipo de coisa: otimizar o engajamento pode levar a um scrolling viciante, irracional, e pode prender usuários em bolhas impregnadas de desinformação (ou pior).
Mas e se a otimização de engajamento não fosse sua meta final?
Essa é uma questão que outras redes sociais, como Facebook e Twitter, começaram a perguntar recentemente, conforme experimentam metas mais qualitativas como “tempo bem gasto” e “conversas saudáveis”, respectivamente. E é uma pergunta que o head de core product do Pinterest, Omar Seyal diz ter pavimentado o caminho para o novo feature que a companhia está lançando este mês.
Uma das principais reclamações ao longo dos anos de usuários do Pinterest é a falta de controle sobre o que o algoritmo os mostra, diz Seyal.
“Você clica em alguma coisa, e todo o seu feed vira isso”.
A pergunta era como resolver isso sem colocar em risco a eficiência do algoritmo.
“Toda pessoa que administra um feed para uma plataforma online vai dizer, ‘Ah, sim, nós tentamos fazer ele mais controlável. Mas quando tentamos lançar, o nível de engajamento diminuiu”.
Seyal diz que eventualmente decidiu que essa era a pergunta errada a fazer. Ao invés disso, ele disse à equipe de engenharia responsável pelo problema de controle de uso que eles não deveriam se preocupar com os efeitos no engajamento. Sua única tarefa era encontrar uma solução que reduziria o número de reclamações sobre a sobreposição do feed sobre a resposta às suas ações.
O resultado do projeto foi Tune Your Home Feed, que já está disponível para algumas pessoas. (Se você tem, vai aparecer aqui.) Ao permitir que os usuários manipulem a forma com que o algoritmo responde a cada uma das suas ações, o Pinterest irá oferecer um nível de customização que relativamente poucas pessoas irão utilizar. Mas Seyal diz que ficou evidente nos testes que essas pessoas coincidiam com aquelas fazendo reclamações e, ainda, se revelaram fãs mais leais do Pinterest.
E depois de tudo isso, os testes ainda precisam demonstrar algum tipo de impacto significativo no engajamento. Hoje, Seyal vê isso como uma lição.
“É um pedido às outras plataformas para se abrirem a seus usuários. É um problema difícil, mas cada vez mais as pessoas têm criado soluções boas para elas”.
Pinterest agora está dando mais controle aos usuários, mas como qualquer outra rede social que depende de recomendações geradas por algoritmos, no fundo também depende de algum tipo de viés. Diferentemente dos seus pares, o Pinterest acolhe esse viés — desde que seja do tipo certo.
“No final, nós somos uma plataforma de conteúdo gerado por usuários”, diz Seyal.
“Não podemos entender tudo logo de cara. Temos spammers, temos pessoas que querem usar a plataforma para distribuir o que seriam conteúdos negativos. É um pouco contraditório”.
O que a companhia pode fazer para mitigar os problemas, diz ele, é examinar cautelosamente os tipos de conteúdo que o sistema tende a amplificar, e ajustar os parâmetros do algoritmo para priorizar uns em detrimento de outros.
Por exemplo, o algoritmo do Pinterest trata os “saves” de um determinado pin como um sinal muito mais forte e positivo que um clique.
“As pessoas não salvam algo ofensivo sobre o presidente, mas salvam uma roupa que elas querem comprar no futuro. Então estamos direcionando para esse tipo de interação, e desviando das interações com os amigos”.
Desviar de interações com os amigos pode parecer uma abordagem estranha para uma mídia social. Mas o Pinterest diz que faz parte da redução de problemas como assédio e propaganda viral.
“Em última análise, nós não vemos campanhas de desinformação como em outras plataformas, porque o algoritmo simplesmente não recompensa esse tipo de conteúdo”, diz Malorie Lucich, head de comunicação de produtos.
“Quando você está tentando distribuir spams massivamente ou confundir pessoas, provavelmente você quer que esse conteúdo atinja a ‘primeira página’, e isso não vai acontecer tão facilmente no Pinterest”.
Mesmo dentro da categoria dos cliques, o software trata cliques a sites que ele considera de “alta qualidade” como mais importantes que outros sites. Sempre que o Pinterest testa uma mudança no algoritmo, diz Seyal, a empresa observa como aquela mudança afetou o tráfego de saída com um índice selecionado de sites com boa reputação, focados em assuntos como estilo de vida, moda e decoração. (E quando o Facebook tentou estabelecer “fontes confiáveis” ao pesquisar com seus usuários, o Pinterest admite que confia no bom e velho juízo humano subjetivo). Se as mudanças enviam menos tráfego para esses sites e mais para outros sites, a equipe de Produto vai investigar por quê. Pode ser um sinal de que as mudanças abriram uma brecha para sites pior avaliados entrarem no algoritmo.
Esse tipo de alteração intencional dos software é algo que todas as grandes plataformas fazem, mesmo que não admitam. Críticos como Zeynep Tufecki defendem o argumento poderoso de que muitos dos problemas das redes sociais vêm da sua relutância em se apropriarem do viés nos seus algoritmos: não em favor de políticos liberais ou conservadores, mas de audiência — mais e mais audiência.
Companhias como Google, Amazon, Facebook e Uber são famosas por sua ambição sem limites e um crescimento aparentemente infinito. Seyal diz que o Pinterest também tem grandes ideias.
“Nós poderíamos ser muito melhores no que fazemos: novos formatos, novos tipos de interações, coisas além de pins”.
Ele acredita que o algoritmo do Pinterest não só reflete o gosto e o estilo das pessoas, mas as ajuda a moldá-los, da mesma forma que as maiores marcas da moda fazem. O modelo são as playlists do Spotify criadas por humanos, como a influente RapCaviar.
Mas é aí que ele faz uma pausa e volta atrás. A chave para o Pinterest, conforme cresce, é lembrar de suas limitações.
“Eu acho que nós só queremos ser bons no que podemos ser bons. Querer que as pessoas gastem todo o seu tempo no seu produto é um pouco de falta de humildade. A realidade é que empresas de tecnologia não podem fazer tudo no planeta”.
