Algoritmos do Instagram censuram Palestinos

Em meio ao massacre palestino no mais recente conflito entre Israel e Palestina, as redes sociais se tornaram um meio de comunicação importante para exposição do que aquele povo vinha sofrendo. Na mesma época, acusaram a plataforma digital Instagram de aplicar censura em posts pró-Palestina em meio ao conflito com Israel em Gaza.

Um grupo de funcionários do Instagram alegaram que conteúdos favoráveis à causa Palestina não estava sendo visíveis para os usuários durante os conflitos na Faixa de Gaza. A plataforma teria removido postagens que citavam a mesquita de al-Aqsa, em Jerusalém, a mesma que foi vitima dos ataques de Israel. Por meio de comunicado, a empresa disse que removeu o conteúdo por engano, depois do algoritmo fazer uma falsa associação a uma organização terrorista de nome parecido. Também justificou a baixa visibilidade desses conteúdos para os usuários simpatizantes porque o algoritmo dá mais ênfase a conteúdos originais nos stories do que os repostados, mas que considerará peso igual a ambos os lados. Isso motivou um ajuste no algoritmo que, teoricamente, daria alcance igual a conteúdo original e reposts nos Stories.

Posteriormente algumas contas da região da Palestina ficaram impedidas durante horas de postar. O Instagram já teve um problema similar antes, após ter impedido seis contas de postar conteúdo pró-Palestina, o que teria ocorrido devido a um “bug técnico”. O CEO do Instagram, Adam Mosseri, disse que foi apenas uma “falha”. Os funcionários acreditam que a redução do alcance e a remoção desses materiais não teria sido proposital, mas que esse tipo de prática tinha um potencial de “marginalização” das minorias ou gerar versões distorcidas dos fatos ao mostrar apenas um lado.

É sabido que um algoritmo tende a ser um reflexo dos gostos e hábitos de determinado grupos de usuários, o que pode ser um problema para quem está “de fora” dele. Ao privilegiar um dos lados, fica a impressão de que a rede social adota posicionamentos e isso é terrível no ambiente sociopolítico, além de ter impactos negativos sobre a experiência na plataforma. Os algoritmos não se posicionam, mas os seus desenvolvedores tem opiniões, gostos e visões de mundo que dificilmente abarcaria os problemas de quem eles mesmos não conseguem enxergar. Desse modo, praticas racistas acabam sendo manifestadas nos algoritmos das plataformas.