Inteligência Artificial e seu papel social: considerando a diversidade para evitar a reprodução de vieses

Por Moisés Nascimento, Chief Data Officer no Itaú Unibanco

A Inteligência Artificial (IA) tem conquistado as manchetes do mundo todo nos últimos meses e vem sendo destacada como uma das tecnologias mais promissoras das últimas décadas, com potencial de rápido crescimento e possibilidade de mudar radicalmente a forma como vivemos e trabalhamos. No Brasil e no mundo, a IA tem gerado uma expectativa de transformação que pode impactar indústrias inteiras, impulsionar a economia global e melhorar a qualidade de vida das pessoas.

O recente surgimento de novas ferramentas popularizou ainda mais essa tecnologia, mas as principais empresas do mundo já vêm desfrutando de aplicações baseadas em Inteligência Artificial há alguns anos para oferecer soluções mais customizadas para seus clientes e aumentar a eficiência em suas operações. Segundo dados da Gartner, até 2025, cerca de 30% dos novos medicamentos poderão ser descobertos sistematicamente com a utilização de técnicas de IA generativa — aquelas capazes de criar conteúdo a partir de algoritmos e análise de dados –, exemplificando o potencial que a tecnologia possui para aprimorar o setor farmacêutico.

No mercado financeiro nacional, por sua vez, já existem diversos exemplos de aplicações de ferramentas para melhorar as experiências dos clientes e aprimorar os negócios. Especificamente no Itaú, temos evoluído as análises de crédito para que sejam cada vez mais embasadas e enriquecidas em informações em tempo real, proporcionadas por ferramentas de machine learning. Dessa forma, é possível realizar uma análise no contexto de relacionamento de cada cliente e oferecer o que há de mais adequado para seu perfil e momento de vida.

No entanto, para além da eficiência no âmbito corporativo, a Inteligência Artificial também tem se mostrado uma ferramenta poderosa para lidar com desafios sociais em todo o mundo. Em um recente artigo escrito por Bill Gates, ele descreve o surgimento da IA como algo tão marcante quanto a criação de outras grandes revoluções tecnológicas, como o microprocessador, o computador pessoal, a internet e o celular.

Isso porque, segundo Gates, ela carrega ainda o potencial transformador para a resolução de problemas sociais e ambientais, como desigualdades econômicas e mudanças climáticas, com a possibilidade de ajudar a criar soluções mais eficientes e escaláveis para questões complexas. As aplicações são variadas e podem ir desde o combate à fome até a previsão e prevenção de desastres naturais.

No Brasil, um país com tantas desigualdades e problemas estruturais, essa pode ser uma solução promissora para melhorar a qualidade de vida das pessoas. Algoritmos de IA podem ser usados para identificar padrões que ajudem a prevenir doenças. Na educação, a tecnologia pode ser usada para personalizar o ensino de acordo com as necessidades de cada aluno, além de ajudar a identificar problemas de aprendizagem. Já na segurança pública, pode auxiliar na prevenção contra crimes. Esses são apenas alguns dos inúmeros exemplos do potencial da IA para ajudar a resolver problemas sociais em nosso país.

Porém, ainda que exista uma ampla gama de possibilidades de uso, é fato que qualquer nova tecnologia tão disruptiva quanto essa possa causar certo desconforto em algumas pessoas e levantar uma série de questões sociais acerca de seu uso. Há debates relacionados com a mão de obra no trabalho, a privacidade, o preconceito e muito mais. Pensando nisso, mais de mil executivos do Vale do Silício assinaram, em março, um pedido público para que laboratórios de inteligência artificial suspendessem o desenvolvimento de determinados sistemas de IA por um período de seis meses.

Neste contexto, existe uma questão delicada que não pode ficar de fora da pauta: a importância de assegurarmos que a IA evolua de forma ética e responsável, para evitar a ampliação de vieses inconscientes e estereótipos já existentes na sociedade, especialmente os raciais e sociais. Os vieses inconscientes são preconceitos que podem estar presentes nos dados utilizados para treinar uma ferramenta de IA, o que pode levar a resultados discriminatórios.

Para que a IA seja realmente capaz de contribuir com a solução desses problemas, é preciso que as ferramentas sejam treinadas de forma a levar em conta a diversidade e as particularidades da população, além de garantir que as ferramentas não reproduzam preconceitos e vieses presentes na sociedade, mas, sim, que promovam a igualdade e a inclusão.

Existem muitos exemplos de vieses identificados nos últimos anos, como no caso de uma série de carros autônomos dos Estados Unidos que foram treinados para identificar com mais acurácia pedestres que possuem a pele clara. Ou o de um jovem negro brasileiro que precisou provar sua inocência três vezes na justiça após ter sido acusado por conta de erros apontados por ferramentas de reconhecimento facial.

Em uma sociedade tão diversa quanto a brasileira e em que mais da metade da população é negra, é preciso ter atenção redobrada para que as ferramentas não sejam enviesadas no ponto de vista racial. O treinamento de ferramentas de Inteligência Artificial para mitigar vieses, inclusive os inconscientes, pode ser realizado por meio de diversas técnicas. O estudo de viés dentro da ciência de dados é uma forma de oferecer equilíbrio nesses casos. É necessário que a amostra de dados seja realmente representativa com relação ao problema que está sendo tratado. Se não houver acurácia e diligência, significa que não foi colocada uma base de dados que represente de forma fiel a realidade da sociedade brasileira.

Na Europa, a Lei de Proteção de Dados já contempla uma preocupação com interpretabilidade, área do desenvolvimento de ferramentas que consiste em demonstrar que não há viés prejudicial relacionado a raça, gênero, religião, entre outros aspectos sociais. Essa frente tem crescido na comunidade científica, com o objetivo de oferecer equilíbrio independentemente dos aspectos sociais.

Ao evoluirmos para um contexto de mercado com maior representatividade dentro dos times de tecnologia, o desenvolvimento de soluções tecnológicas que melhor representem a realidade da sociedade brasileira se torna mais simples. Se houver falhas no desenvolvimento das plataformas, a IA pode perpetuar preconceitos a partir de vieses tendenciosos.

No entanto, é importante lembrar que — assim como a sociedade — a tecnologia também está em constante evolução e a análise e correção de vieses deve ser um processo contínuo. O Google, por exemplo, anunciou recentemente que aprimorou o treinamento de seus sistemas de reconhecimento facial, passando a utilizar uma escala de dez tons de pele, em substituição ao antigo método que contemplava apenas seis, a fim de melhor representar a diversidade étnica da população.

Contar com times diversos dentro das companhias que estão trabalhando no desenvolvimento de plataformas é fundamental para a criação de soluções de IA mais representativas da sociedade. Cada pessoa tem uma perspectiva única, e trazer pontos de vista distintos e antagônicos permite convergir para soluções com mais qualidade e maior escalabilidade. Com isso, é possível obter uma solução que tenha representatividade mais fiel ao que é a nossa sociedade para atender às necessidades de todos os grupos sociais.

Para concluir, retornarei ao artigo de Bill Gates citado no início deste texto. Ao abordar todas as questões que envolvem a evolução da Inteligência Artificial, Gates sugere três princípios centrais que devem guiar essa conversa nos próximos anos: o primeiro é a tentativa de equilibrar os temores sobre as desvantagens da IA com sua capacidade de melhorar a vida das pessoas. O segundo diz respeito a como vamos priorizar os esforços para garantir que as ferramentas, de fato, sejam usadas para reduzir questões de desigualdade social. Por fim, devemos ter em mente que estamos apenas no começo do que a IA pode realizar e que quaisquer limitações que tenha hoje poderão desaparecer antes que percebamos.

Acrescento ainda que é fundamental que essa discussão sobre o uso da IA de fato aconteça, levando em conta questões sociais, e que seja feita de forma ampla e participativa, envolvendo a sociedade civil, o governo, o setor privado e a academia. Não podemos nos esquecer que essa pode ser uma ferramenta muito valiosa para a construção de um futuro mais inclusivo e com mais oportunidades. Para isso, é fundamental que ela seja usada de forma responsável, transparente e ética, sem violar os direitos fundamentais das pessoas.