Algoritmos racistas e misóginos, plataforma com filmes LGBT+ e cursos gratuitos #7
“Essa experiência compartilhada do desemparo vai lançar o que estou chamando de valores feministas, mesmo que não nomeemos assim”
Débora Diniz, pesquisadora da Universidade de Brasília
Algoritmos racistas e misóginos
Ferramentas de inteligência artificial (IA) cada vez mais fazem parte das nossas vidas. Neste período de isolamento social, por exemplo, aqui no Brasil e em outras partes do mundo, governos estão utilizando IA para monitorar a temperatura do corpo, compras e deslocamentos de pessoas, seja por drones, linhas telefônicas ou aplicativos de celular.
Para além do intenso debate segurança versus privacidade, despertado pelo crescimento destas tecnologias, outra questão essencial está ganhando espaço na pesquisa e nos grupos minoritários: o viés racista e misógino dos algoritmos.
No começo deste ano, a Universidade da Califórnia, em Los Angeles, optou em não utilizar mais inteligência artificial no campus. A decisão foi tomada depois de um teste realizado pela ong Fight for the Future que utilizou um programa da Amazon para comparar os rostos de 400 membros da comunidade universitária (alunos, professores e funcionários) aos rostos de pessoas fichadas pela polícia. O resultado: 58 falsos positivos, sendo que a maioria das respostas erradas envolviam pessoas não-brancas. Em alguns casos, a ferramenta afirmou que havia 100% de chances dos rostos comparados serem a mesma pessoa. (Época Negócios)
Outros casos também vêm dos Estados Unidos, como o algoritmo racista utilizado pela Optum, empresa que opera no sistema de saúde norte-americano. De acordo com estudo publicado na Nature, milhões de pessoas negras foram afetadas pela ferramenta de IA da empresa, que reduz pela metade o número de pacientes negros que receberão cuidados adicionais. Com isso, a empresa gasta menos com pacientes negros que têm as mesmas necessidades médicas que pacientes brancos. (Nature)
Outra história envolvendo sistemas automáticos que chamou atenção foi os algoritmos “sexistas” do cartão de crédito Apple Card, que ofereceu crédito maior a homens do que a mulheres. O assunto desencadeou uma investigação no Senado estadunidense. (IHU)
Segundo relatório do AI Now Institute, centro da Universidade de Nova York que investiga o impacto social da inteligência artificial, estes casos não são isolados. O estudo afirma que a indústria de IA “precisa fazer mudanças estruturais significativas para abordar problemas sistêmicos”, como o racismo e misoginia e a falta de diversidade. (AI Now Institute)
Por que isso acontece, afinal? Como um sistema automático passa a discriminar segmentos sociais? A resposta está na falta de diversidade nas empresas desenvolvedoras de ferramentas de IA. No Google, por exemplo, menos de 10% das pessoas envolvidas com IA são mulheres e negros são apenas 2,5% (Revista Zum)
Para ler, ouvir e assistir
LGBTflix, o coletivo #VoteLGBT lançou uma plataforma gratuita com filmes LGBT+. O projeto chamado LGBTflix tem obras dirigidas por cineastas LGBT+ brasileiros ou obras em que a temática da diversidade sexual e de gênero seja central.
Para participar
O Canal Futura listou diversas plataformas que estão oferecendo cursos gratuitos e online durante este período de isolamento social. Do SENAC à Faber Castell, tem conteúdo de diferentes áreas.
Vozes Pela Ciência
Observatório do CEMI — COVID 19: continuamos com os relatos que mostram os impactos da pandemia do novo coronavírus pelo mundo. A partir de agora, você pode ler os textos no site do Centro de Estudos de Migrações Internacionais da Unicamp.
Observatório nº 07: The crisis that opened the door to coronavirus in Italy (Mary Rizzo)
Observatório nº 08: O avanço da Covid-19 na Tanzânia (Felipe Bastos)
Observatório nº 09: A água sanitária e a Bíblia: o coronavírus em Porto-Príncipe (Haiti) (Nadège Mézié)
Observatório nº 10: “Fechem as portas e salvem suas vidas”: o vírus estrangeiro chegou aos Estados Unidos (Sílvia Pirttiaho — Gustavo Dias)
Observatório nº 11: A tragédia do COVID-19 no Irã e a reinvenção da existência cotidiana (Ana Maria Raietparvar)
