Embelezar ou embranquecer?
Como filtros das redes sociais reforçam e reproduzem padrões de beleza racistas
Por Erly Guedes*
Abrir o Instagram, apontar a câmera do celular para o próprio rosto, escolher um filtro e gravar um vídeo ou fazer uma selfie. Já perceberam como esse movimento de editar nossa imagem instantaneamente invadiu o nosso dia a dia? Apesar de bastante comum, o uso de ferramentas de edição de imagens nas redes sociais pode esconder uma grave questão: o reforço de um padrão de beleza racista. A Coding Rights aproveita o Novembro Negro para propor algumas questões sobre a relação entre filtros do Instagram e reprodução de racismo nas redes sociais.
Alguns filtros são criados sem levar em consideração os traços fenotípicos de pessoas negras e modificam radicalmente tais características — sempre para torná-los mais próximos dos traços de pessoas brancas: afinam o nariz, diminuem os lábios, alteram a cor da pele para alaranjado ou acinzentado, mudam a cor dos olhos para verde ou azul.
Isso acontece porque a tecnologia não é neutra. Os filtros do Instagram são construídos dentro de um contexto social específico e por sujeitos também determinados. Por isso são atravessados por juízos de valor presentes na sociedade. São como espelhos que podem refletir as visões de mundo de seus desenvolvedores e certos preconceitos (chamados bias ou vieses) podem influenciar a forma como operam diante de pessoas negras. Sendo assim, a imposição de padrões de beleza que têm a branquitude como ideal estético nos filtros de redes sociais também tem a ver com o racismo que se dá na sociedade brasileira. Ou seja: o filtro serve pra embelezar ou embranquecer?
Desvalorizando continuamente as marcas corporais de pessoas negras, que precisam ser escondidas e retocadas até mesmo digitalmente, sociedade e os mais diversos aparatos tecnológicos, como as redes sociais e seus filtros, formulam e reproduzem permanentemente modelos hegemônicos de beleza pautados na branquitude. Um caso recorrente é quando o nariz é afinado com a aplicação do filtro.
Atualmente, a plataforma mais utilizada no desenvolvimento dos filtros no Instagram é a Spark AR. Criada pelo Facebook, a plataforma usa a visão computacional para criar efeitos de realidade aumentada, oferecendo uma galeria de modelos para que o desenvolvedor faça seu filtro ou possibilitando, também, a criação de efeitos do zero.
Essa ferramenta de inteligência artificial utiliza algoritmos de leitura de imagem, treinados a partir de uma base de dados com milhares de fotos. Quanto mais imagens o programa lê, mais as reconhece. Mas o que acontece se esse banco de dados é composto majoritariamente por imagens de pessoas brancas? E quando as imagens de pessoas negras reproduzem estereótipos? Em uma sociedade que nunca resolveu sua história colonial, ferramentas de IA como essa constroem padrões racistas a partir das imagens coletadas.
Porém, o problema não está apenas no Spark AR. Por trás do processo de elaboração dos filtros estão, em sua grande maioria, pessoas brancas com chefias brancas que desconsideram as especificidades de pessoas negras. E, adivinha só, nós negras existimos! Um filtro com aplicação de blush, por exemplo, precisa considerar os diferentes tons de pele. Mas o que vemos hoje é a escolha dos desenvolvedores por tons que só funcionam em peles brancas. Ou seja, no universo dos filtros do Instagram há uma espécie de emulação do racismo estético que domina a indústria da beleza e maquiagem, que deixa de fora uma multidão de pessoas de pele retinta ao não desenvolver e comercializar produtos adequados para esses tons de pele negra.
Joy Buolamwini, pesquisadora do MIT e fundadora da Algorithmic Justice League (Liga da Justiça Algorítmica), aponta que a falta de diversidade é uma das razões para o enviesamento algorítmico nos sistemas de IA. Em seu TED talk, Joy levanta três perguntas essenciais para analisar as práticas racistas tanto no uso das plataformas, quanto na maneira como elas são desenhadas: “Who codes matters? How we code matters? Why we code matters?”. Inspiradas por esses questionamentos, perguntamos quem são as pessoas envolvidas no desenvolvimento de filtros de redes sociais? Em que são baseadas as funcionalidades dos filtros e como são desenvolvidos, uma vez que apresentam vieses racistas? E, por fim, por que razão esses filtros foram construídos?
Aparentemente, não há preocupação alguma em abranger todas as pessoas, independentemente da raça, no processo de construção desses filtros. A falta de diversidade é um dos motivos para isso: homens cis, héteros, brancos e de classes sociais média ou alta são a maioria das pessoas que trabalham com tecnologia no Brasil, de acordo com o levantamento do Pretalab com a consultoria ThoughtWorks.
É possível embelezar sem embranquecer?
As questões levantadas aqui estão longe de serem definitivas ou permitirem uma conclusão fechada. Elas servem muito mais para nos mostrar um pouco sobre como o racismo está presente também em aparatos tecnológicos, afinal, ele é estrutural. E há muitos projetos criativos pensando essas questões e movendo as estruturas.
Como explica o pesquisador Tarcízio Silva, a suposta neutralidade das tecnologias digitais cria uma dupla forma de opacidade ao processo de funcionamento dessas ferramentas. A discriminação racial em plataformas é, por um lado, decorrente do não reconhecimento da desigualdade racial e, por outro lado, da insistência em “camuflar” os aspectos sociais da tecnologia. Nesse sentido, incluir pessoas negras nos times de criação e desenvolvimento dos filtros para que, dessa maneira, haja uma ampliação de percepção das necessidades e complexidades do conjunto real da população, é mais um passo para a desconstrução e questionamento de estereótipos de raça presentes nos filtros das redes sociais.
O enviesamento de dados é outro agravante. Há também uma série de esforços para tornar mais inclusivos e diversos os bancos de imagens digitais, que costumam ser fonte para o mercado publicitário, para produção de conteúdo, para produtos institucionais e até mesmo para produções jornalísticas.
Aqui no Brasil, Joyce Soares e Igor Muniz desenvolveram um protótipo de filtro que não esconde ou retoca traços e ancestralidades negras. O primeiro passo foi a construção de um dataset que apresentasse imagens de pessoas negras em quantidade suficiente para criar uma métrica capaz de considerar várias tonalidades da pele negra. Entraram em jogo vídeos de rostos de amigos. Em seguida, eles usaram programação para chegar a um tom-base para um filtro responsivo, que identifica a cor de pele de quem está usando o efeito e o adapta.
Sendo assim, os filtros das redes sociais podem servir de instrumentos para o embelezamento e expressão pessoal, contribuindo para a afirmação de identidades raciais para além da branquitude. Mas, por outro lado, podem discriminar e reforçar o racismo. É necessário, portanto, trazer diversidade para a construção e debate sobre o uso dessas tecnologias.
*Erly faz parte do time de comunicação na Coding Rights e é mestranda no Programa de Pós-Graduação em Comunicação da Universidade Federal Fluminense, no qual estuda narrativas identitárias de mulheres negras no Facebook. Tem sua pesquisa atravessada por questões de gênero, raça e corpo na contemporaneidade. Nutre profundo interesse por assuntos de beleza, identidades, representações, mídias sociais, algoritmos, mulheres e feminismo negro. Integra também o Núcleo de Estudos em Comunicação de Massa e Consumo — NEMACS.
