Vieses de raças em algoritmos utilizados do setor da saúde
Não é novidade que as desigualdades raciais podem refletir nos algoritmos, isso se deve ao fato de não haver diversidade nas equipes de criação, bem como da falta de testes, entre outras causas. Os estudos sobre vieses algorítmicos na leva a questionar qual o impacto disso na vida dos afetados.
Como foi observado em um estudo sobre um sistema de previsão de riscos usados pelos Estados Unidos em hospitais, os sistemas de replicar podem disparidades na área da saúde. Ele é utilizado para auxiliar o médico a direcionar o atendimento às pessoas de maior risco, ele otimiza o tempo e o processo, é considerado mais rentável e mais barato. Até a aí a proposta é interessante, para o algoritmo conseguir prever quem é preciso de mais cuidados utiliza-se de dados passados, no entanto, esses dados exibem padrões de desigualdades estruturais, o que leva ao algoritmo reproduzir isso, pois ele não entende o que é ético ou justo. Também, foi analisado por médicos analisados que pacientes negros nível de risco mais alto e mais doenças crônicas que pacientes brancos, porém o algoritmo interpreta que pacientes negros tem as mesmas condições de saúde dos negros.
Em um caso semelhante, um algoritmo bloqueou transplantes de rim para pacientes negros nos Estados Unidos, a fórmula utilizada para avaliar a gravidade da doença renal é uma das muitas que é ajustada para a raça. A prática pode exacerbar como disparidades de saúde. Como já foram atendidos, os negros sofrem mais de doenças crônicas e recebem cuidados de saúde inferiores em relação aos brancos e viés no algoritmo pode intensificar o problema. Foi constatado que o algoritmo "amenizou" riscos de saúde de pessoas não brancas. Sendo assim, diagnósticos atrasados ou imprecisos para pacientes negros e latinos, continuado a levar cuidados de menor qualidade e piores resultados de saúde.
Já no estudo sobre carros autônomos, é cerca de um risco potencial, outra vez vinculado ao viés algoritmo. Foi verificado falhas em detectar pedestres de pele escuras, o veículo detecta melhores pessoas de pele clara, isso gera maior chance de atropelamento do grupo menos identificado. A detecção foi cinco pontos percentuais menos precisa, em média, para o grupo de pele escura. Essa falha penaliza a vida desse grupo.
Como decisões tomadas pelo algoritmo afetam a saúde e a vida das pessoas, falhas na detecção e vieses inseridos nos algoritmos trazem desvantagens para os negros, como a piora do estado de saúde. Num momento é afirmado que vidas negras importam, muitas muitas já parecem não se dar conta disso.
Para consultar os estudos citados acesse:
Como um algoritmo bloqueou transplantes de rim para pacientes negros | Wired
