Ética e Tecnologia: Como a tecnologia pode ser utilizada para nos manter na linha

[Este texto é uma tradução feita em 01/08/2018. O texto original foi publicado por Phaedra Boinodiris no The developerWorks Blog em 19/01/2018.]

Primeiramente, quero começar dizendo que todos são capazes de serem morais e éticos. Se escolhemos ou não ser é uma questão individual.

Todos nós escutamos as histórias, de IAs enviesadas a sistemas hackeáveis. Nesse blog esperançoso, irei ajudar a estabelecer uma framework para pensar sobre ética e tecnologia. Ainda que tenhamos a capacidade de seguir um código moral e ético, tecnologias poderiam em alguns casos nos avisar, senão nos deter completamente, quando entramos em um percurso antiético.

1. Eleições Justas/Representatividade

“O caráter de alguém se revela na maneira como ele trata as pessoas que não estão em uma posição de revidar ou retaliar.”

-Paul Elridge

O estado da Carolina do Norte sofre com diversos casos de manipulação eleitoral no nível da determinação dos distritos eleitorais. A Assembleia Geral do estado foi ordenada pela justiça a redesenhar seus mapas eleitorais inúmeras vezes. No mais recente fiasco, um professor da Duke utilizou um modelo matemático para provar que os novos distritos redesenhados ainda eram fortemente enviesados a favor dos republicanos. De acordo com o juiz James Wynn, não é incomum que os tribunais se apoiem em analises científicas como base de violações constitucionais.

Porque o uso desses modelos matemáticos não é o padrão? Eu proponho que o uso desses modelos matemáticos seja absolutamente mandatório quando a legalidade do mapeamento de distritos eleitorais for analisada. Complementarmente, uma análise com IA dos dados poderia garantir que os distritos não estão exibindo nenhum tipo especifico de viés.

Obrigue o uso de modelos matemáticos e IA para impedir manipulações eleitorais:

• Vantagens: Garantir matematicamente que os distritos são justos.
• Desvantagens: A IA poderia ser treinada para ser enviesada.
• Mitigação de risco: Garantir um treinamento completamente transparente da IA.

2. Fake News/Discurso de Ódio

“A relatividade se aplica a Física, não a Ética”

-Albert Einstein

Recentemente, acionistas têm exigido do Facebook e do Twitter que as empresas tomem medidas contra a proliferação de fake news e discursos de ódio. As duas tem aumentado seus esforços com a utilização de IA para observar infratores e bani-los ou diminuir seu alcance dentro da plataforma. Além disso, elas estão tentando informar seus consumidores sobre notícias através de uma funcionalidade chamada “artigos relacionados”, para que eles aprendam mais sobre o tópico antes de compartilhar. O desafio para essa abordagem é que muitas pessoas que compartilham notícias falsas procuram fontes de notícias que afirmam suas crenças. Então a questão é, como você incentiva as pessoas a mudar esse comportamento?

Podemos utilizar IA para reconhecer padrões de discurso e ódio e fake news, mas precisamos entender melhor as pessoas para entender o que fazer com essas informações. Talvez tomemos medidas diferentes dependendo da audiência. “Limpamos” a linha do tempo quando sabemos que é um menor consumindo as informações? Deixamos as pessoas colocarem os próprios filtros? Classificamos as pessoas para que só aquelas com poucos “pontos de toxicidade” possam jogar um jogo ou postar em uma rede social? Essas perguntas talvez sejam mais adequadas a estudiosos de ética do que aos de tecnologia.

Utilizar IA para sinalizar conteúdos tóxicos e fazer alguma coisa com esse conhecimento

• Vantagens: Criar espaços seguros para as pessoas online livres de discursos de ódio e notícias falsas.
• Desvantagens: Corremos o risco de exagerar na censura do conteúdo. Se deixarmos as pessoas escolherem seus filtros, acabamos criando o mesmo problema de reforçar os seus próprios preconceitos.
• Mitigação de risco: Regras completamente transparentes de bloqueio de conteúdo.

3. Transparência Financeira em Instituições Públicas

“O que for meu direito enquanto homem também o é do outro; e torna-se meu dever garanti-lo tanto quanto usufruir do mesmo”

-Thomas Paine

E se houvesse algum jeito de usar a tecnologia para garantir que todas as promessas feitas por agências governamentais e outras entidades fossem cumpridas? Que quando fundos são prometidos, eles realmente fossem repassados para as entidades responsáveis, e todo esse processo fosse transparente? Com auditorias públicas? ISSO é possível hoje em dia com a Blockchain, tecnologia pro trás das criptomoedas. Hoje em dia existem blockchains restritas cujas redes são capazes de criar os chamados “contratos inteligentes”, que compartilham as principais informações e iniciam processos de maneira segura quando algum patamar é atingido. Auditores podem ser chamados para analisar uma transação a qualquer momento de forma segura.

POR QUE nós NÃO usaríamos essa tecnologia para instituições governamentais? Nós já iniciamos uma nova era de Governo Aberto, onde certos conjuntos de dados são públicos, por que não fazer o mesmo com as transferências de fundos? Podemos garantir que dados altamente sensíveis só possam ser auditados por entidades autorizadas, mas no mínimo existiria um sistema com a infraestrutura para evoluir esse conceito.

Utilizar Blockchain para garantir a transparência das transações financeiras de instituições governamentais.

• Vantagens: Transparência das transações financeiras do governo.
• Desvantagens: Esses dados poderiam ser utilizados de forma nociva, por exemplo, por nações hostis.
• Mitigação de risco: Auditorias e níveis de permissão.

4. Usar IA Para Melhorar a Tomada de Decisões

“Não faça, quando cometer um ato vergonhoso, a defesa dos salafrários, ‘Meus antepassados faziam o mesmo’”

-Al-Ma’arri

A IA pode ser usada para minerar todo tipo de conjunto de dados disperso afim de encontrar padrões. Mas a IA possui uma falha no fato em que ela deve ser treinada por humanos, os quais podem introduzir seu próprios preconceitos no reconhecimento de padrões da IA. Mas, se pudéssemos criar sistemas de IA que fossem transparentes em relação a como eles são treinados (ao contrário dessa caixa preta) E QUE avisassem quando estão sendo treinados em um padrão muito diferente (possivelmente introduzindo preconceitos) poderíamos começar a usar IA para resolver todo tipo de problema interessante.

• Vantagens: Aviso sobre a contaminação com algum viés.
• Desvantagens: IA é corruptível.
• Mitigação de risco: Treinamento transparente de IA.

5. Reinventando a Educação

“Educar a mente sem educar o coração não é educação”

-Aristoteles

Dito pelo Fórum Econômico Mundial:

“Todas as crianças e jovens, independente de idade, genêro, etnia, renda familiar, cidadania, deficiências ou lugar onde moram, deveriam estar matriculados na escola e aprendendo. Mas conforme alcançamos o ano alvo para a conquista de Educação para Todos, é evidente que esse não é o caso. Cerca de 121 milhões de crianças e adolescentes ainda estão sendo privados de suas oportunidades de aprendizado com a educação.

E não são só os jovens que continuam sem acesso a educação. Em torno de 781 milhões de adultos — dos quais dois terços são mulheres — são analfabetos. Na áfrica subsahariana, metade das mulheres tem seu direito a alfabetização negado.”

Temos um imperativo moral e ético de garantir à todos o acesso a uma educação de qualidade. Eu já discuti extensivamente como a tecnologia pode facilitar a transformação cultural na sala de aula, mas ela também pode ajudar a garantir a acessibilidade. Eu NÃO estou dizendo que a tecnologia é uma solução definitiva para a educação, mas ela pode facilitar o engajamento dos estudantes, empoderamento dos professores, acesso, e a transformação cultural. IA pode ser usada para personalizar o aprendizado, um registro de habilidades baseado em blockchain pode democratizar esse aprendizado para escolas com falta de recursos, e softwares de telecomunicação global gratuitos podem possibilitar salas de aulas globais, sem restrições geográficas.

Sistemas Baseados em Blockchain, Aprendizado com Jogos, IA para Personalização do Aprendizado

• Vantagens: Democratização da educação, retreinamento das massas fora de sistemas públicos de educação mais lentos.
• Desvantagens: Acessível apenas para aqueles com banda larga.
• Mitigação de risco: Garantir o acesso universal a internet.

Veja o 4º ODS da ONU.

Em seu discurso no Nobel de 1964 em Oslo na Noruega, Martin Luther King Jr. nos relembrou que não deixassemos o nosso “progresso moral” ficar atrás do nosso progresso na ciência e tecnologia.

“Ainda assim, apesar desses avanços espetaculares na ciência e na tecnologia, com inúmeros ainda por vir, algo básico está faltando. Existe uma certa pobreza do espirito que permanece em forte contraste com nossa abundância cientifica e tecnológica. Quanto mais ricos nos tornamos materialmente, mais pobres nos tornamos moral e espiritualmente. Aprendemos a voar no céu como os passaros e a nadar nos mares como os peixes, mas ainda não aprendemos a simples arte de viver juntos como irmãos.

…

Esse é o predicamento sério, o profundo e assombroso problema a confrontar o homem moderno. Se iremos sobreviver hoje, nossa defasagem espiritual e moral deve ser eliminada. Poderes materiais ampliados significam perigos ampliados se não houver um crescimento proporcional da alma. Quando a “falta” da natureza humana subjuga o “interno”, nuvens negras de tempestade s formam sobre o mundo.”

Esses são apenas alguns poucos exemplos, existem incontáveis mais. Espero que esse blog tenha inspirado você a pensar sobre tecnologia sob esse prisma. Novamente, devemos estar sempre vigilantes para que não utilizemos a tecnologia como nossa base moral, e que continuemos a educar as pessoas para que tomem decisões mais sábias usando uma bussola ética. A tecnologia é uma ferramenta que pode, quando propriamente utilizada e com a supervisão adequada, potencialmente nos ajudar nessa jornada. Dedique-se à Tecnologia para o Bem.