Papo Tech: A ética em Inteligência Artificial (IA)

Conheça um pouco sobre esse tema cada vez mais relevante no mundo da tecnologia.

Artigo escrito por nossa PicPay Lover Andressa Freires

Hoje em dia é comum ouvir falar sobre a cultura data-driven e como ela é importante para as empresas. Caso você não saiba, isso significa que a empresa tem suas ações orientadas por dados. As empresas estão aproveitando dados e IA para criar soluções em diversos nichos e níveis. Mas o uso de dados e IA, apesar de atrativo, também gera riscos de reputação, regulatórios e legais. Isso porque, normalmente, a IA forma um viés quando os dados de aprendizado fornecidos não são abrangentes e começam a ser tendenciosos para determinados resultados. Como os dados são um dos meios de aprendizado dos sistemas de IA, eles podem reproduzir todos os desequilíbrios ou vieses injustos.

O grande problema dos algoritmos enviesados é que eles podem propagar injustiças rapidamente e em larga escala, podendo prejudicar grandemente a vida e privacidade das pessoas dependendo do âmbito em que a IA esteja focada.

Por exemplo, uma IA que seleciona candidatos para uma vaga pode aprender a favorecer os homens porque foi ensinada a selecionar currículos de sucesso, e, historicamente, existe um viés social que beneficia candidatos homens.

Para garantir que os sistemas de IA sejam éticos e reduzir o risco de viés, os programadores devem projetar os sistemas e selecionar os dados com cuidado. Essa é a única maneira de garantir que os sistemas funcionem bem para todos.

Uma pesquisadora, chamada Joy Buolamwini, criou um projeto incrível que visa combater vieses algorítmicos. Você pode conferir o trabalho dela e sua equipe aqui.

O vídeo a seguir, que mostra Joy testando uma inteligência de reconhecimento facial, exemplifica bem o que quero dizer com algoritmos enviesados. Veja bem e perceba que ele não funciona para todos.

Também indico o filme que ela e sua equipe lançaram recentemente sobre o tema. Está na Netflix e irá se aprofundar mais nessas discussões importantíssimas.

Assim como as legislações e os códigos éticos da sociedade, as diretrizes éticas devem ajudar a constituir o desenvolvimento da IA.

Hoje, as maiores empresas de tecnologia do mundo estão contratando equipes especializadas para resolver problemas éticos que surgem do uso das grandes quantidades de dados que a humanidade gera diariamente, especialmente quando esses dados são usados ​​para treinar IAs.

As empresas estão investindo em respostas para questões éticas porque perceberam que a falta de olhar para esse item importante pode vir a ameaçar os resultados financeiros das companhias. Errar nesse âmbito e nessa escala pode expor as empresas a grandes riscos de reputação e legais. É necessário que haja um plano para diminuir esses riscos. E deve-se lembrar que eles devem ser estudados em conjunto por toda a empresa, envolvendo TI, RH e até marketing, já que erros éticos afetam a empresa como um todo.

A ética da IA ​​não vem em um manual. Ela deve ser adaptada às necessidades específicas dos negócios da empresa. Entretanto, temos alguns insumos básicos de como construir uma IA eticamente. Primeiro, a ética de dados e IA precisa se encaixar na estratégia da empresa a fim de proteger a marca de riscos reputacionais, regulatórios e legais. A criação de uma conscientização de todas as pessoas da organização também é muito válida. Qualquer pessoa que use dados ou produtos de IA deve entender um pouco sobre os dados da empresa, para qual fim os mesmos são usados e sobre a ética que os acompanha.

Falar sobre ética de IA não é uma tarefa fácil. Exige a adesão da liderança e de todos os colaboradores. Mas vale a pena! As empresas que fazem isso veem os riscos de reputação, regulatórios e legais mitigados. E, claro, as empresas serão tudo o que seus consumidores e colaboradores procuram: confiáveis e inclusivos.

Você pode estar se perguntando: e no PicPay? Como isso é feito?

No momento, estamos iniciando as definições sobre o assunto. Mas já temos um time de Dados com mais de 150 pessoas que olham para governança, análise, segurança, engenharia e ciência de dados! Logo, nos preocupamos muito em olhar para os dados da melhor e mais completa forma possível. E vale lembrar que existem 3 projetos de lei que estão em votação sobre o uso de AI e que na LGPD decisões automatizadas podem ser revistas!