O olhar tendencioso da IA
When AI sees a man, its thinks “official.” A woman? “Smile”
https://www.wired.com/story/ai-sees-man-thinks-official-woman-smile/
Existe uma característica inerente ao desenvolvimento das atuais inteligências artificiais: quem as programa, define e treina tem influência sobre o seu aprendizado e comportamento, desta forma é bem possível que as características de gênero e raça predominantes de Sillicon Valley estejam inserindo um sério problema nestas tecnologias.
Pesquisadores americanos e europeus alimentaram um sistema de reconhecimento de imagens do Google com algumas fotos de membros do congresso e tiveram alguns resultados intrigantes: homens eram mais classificados como “oficiais” e “homens de negócio”, enquanto as imagens femininas recebiam um valor maior de classificações com termos como “sorriso” e “queixo”.
Mulheres foram mais classificadas por suas características físicas.
Em 2018 um projeto chamado Gender Shades mostrou que os serviços de IA da Microsoft IBM erram muito bem treinados para compreender a diferença de gênero em pessoas brancas, mas não tão bom com pessoas negras.
O texto original apresenta alguns outros exemplos bem interessantes.
Diversos esforços surgem para tentar mitigar este problema: Model Cards, REVISE, Open Images, OpenScale, ArthurAI, STOP entre outros. A questão é o quão confiável é basearmos a solução em apenas mais plataformas, mais tecnologias e mais processamento de informação, deixando de lado a constante — e não a variável — que somos nós humanos.
Se desejamos incluir a inteligência artificial em nossas vidas — além do que ela já está incorporada — diagnosticar e resolver estes problemas é fundamental e deve ser prioridade para todos os envolvidos no desenvolvimento destas tecnologias. Um bom começo para isso é sem dúvida tornarmos os times que lideram estes desenvolvimentos o mais diversos e abrangentes possível. Se vamos colocar IA para nos ajudar e tomar decisões por nós precisamos garantir que ela está nos oferecendo as melhores e mais corretas decisões.
