Moralidade Computacional
Ética na computação
A humanidade reflete sobre a motivação de suas ações, discutimos se elas eram certas ou erradas. Julgamos as consequências das opções, as partes afetadas e tentamos encontrar e separar os inocentes dos culpados. Mas o que torna uma ação boa ou má? Quais são os padrões que utilizamos para entender a ética e a moral?
A moralidade e a ética falam de valores de todos os seres humanos ou de apenas alguns, de lugares específicos e de determinadas épocas? O mito de Anúbis, deus egípcio dos mortos, inclui uma pesagem do coração do falecido contra uma pluma, as coisas ruins feitas durante a vida pesam o coração demonstrando que a pessoa era moralmente corrompida e não merecia a vida eterna.
A metáfora do coração pesado é relevante para pensarmos o que faz com que julguemos uma ação como boa ou ruim. Muitos dos padrões morais e éticos estabelecidos são pautados em uma percepção de mágoa e sofrimento auto referenciados, ou seja, é ruim o que nos faz sentir dor e tristeza, é bom o que nos faz sentir alegria e satisfação.
Será que existem coisas que não causam nenhuma dessas duas reações? E se algo provocar reações opostas a depender do ponto de vista dos envolvidos? Qual é o julgamento mais válido quando a mesma ação é aprovada em uma cultura e reprovada em outra?
Os critérios escolhidos para julgar as ações de cada pessoa são escolhidos em grupo, nossas crenças e valores como sociedade determinam como julgamos as ações individuais. Bem e mal são formas de qualificar e mapear as escolhas entre desejáveis e assim incentivar o tipo de comportamento mais vantajoso.
No entanto, a vida é mais complexa do que uma divisão extrema entre certo e errado, muitas escolhas são confusas e não apresentam resoluções boas. Essas situações são chamadas de dilemas, e são representadas na filosofia para discutir quais são as motivações que orientam nossas decisões.
Você está em um bonde desgovernado, ele não tem como ser parado mas você pode direcioná-lo entre dois trilhos. Se você não fizer nada, o bonde irá seguir em linha reta e atropelar cinco trabalhadores que estão no caminho. Você pode ativar uma alavanca para trocar o bonde de trilho, mas nesse novo caminho você matará um trabalhador desavisado.
O que fazer? Escolher o mal menor, puxando a alavanca para tirar apenas uma vida? Esta pessoa que antes não estava em perigo foi assassinada por suas escolhas? Deixar o bonde seguir seu caminho e matar os cinco trabalhadores a frente o eximiria da culpa? Você é moralmente obrigado a salvar estas cinco pessoas?
Você estaria à vontade de deixar o bonde atropelar cinco trabalhadores se um deles for alguém querido? Um parente, interesse amoroso ou amigo próximo? E o oposto? Para salvar cinco pessoas você atropelaria alguém querido? Talvez uma alavanca ou botão seja muito impessoal, você empurraria alguém na frente dos trilhos com as próprias mãos para salvar outras cinco?
Dilemas como esses nos levam a refletir sobre o que consideramos mais relevante nas nossas tomadas de decisão, mas são apenas decisões hipotéticas, pois humanos irão sempre responder a decisões urgentes em poucos segundos de forma imprevisível. Mas o que ocorre quando podemos programar um computador que é capaz de reagir em frações de segundo? Que decisão ele deve tomar?
Quais são os valores que devem guiar a programação de um carro automático? Deverá ele seguir as leis de trânsito dando prioridade ao pedestre? Somente em certas condições como na presença de faixas de pedestre? Você compraria um carro que priorizasse o pedestre e por isso fosse capaz de te matar para proteger alguém?
Como lidar então com outros ocupantes do carro, a programação deve priorizar o motorista ou o dono? Você estaria satisfeito se o carro colocasse em perigo seus filhos no banco traseiro para proteger o motorista?
Estamos falando de situações que precisam ser decididas pelo programador. No caso de um acidente, quem é o responsável? O programador? A empresa que contratou seu trabalho? O carro em si? Será que essa decisão deve ser delegada para o comprador do veículo?
E quanto ao dano material? Seu carro deverá correr o risco de ser danificado para proteger uma vida? E se a vida for animal, um gato atravessando a pista deve acarretar um risco de dano ao carro ou deve ser ignorado? Quanto risco de acidente e dano é risco demais? Um carro que atropela cachorros e gatos para poupar despesas de reparos é moralmente reprovável?
Estamos falando então que objetos podem carregar e amplificar a intencionalidade e moralidade dos seus fabricantes e operadores. Quando fabricamos armas como minas terrestres estamos produzindo-as na intenção de provocar mortes, que só são aceitáveis quando direcionadas a inimigos em guerra declarada.
Minas terrestres não são utilizadas para caça, não são usadas em auto defesa. Pode-se argumentar que elas previnem ataques ou encurtaram guerras, mas a moralidade positiva desses artefatos logo se dissolve quando uma criança perde a perna ou a vida em uma ativação acidental dezenas de anos após o fim dos conflitos. É possível falar da moralidade das coisas?
Para nos aventurarmos na possibilidade de coisas terem moralidade, temos que reconhecer primeiro que elas afetam nossas vidas diretamente. Isto é fácil de reconhecer quando nossos sapatos quebram, os elevadores se recusam a se mover ou a energia elétrica falha no meio de um filme.
A existência dessas coisas nos permitem fazer mais em nossos dias, elevadores encurtam o tempo e o esforço necessário para chegar ao topo dos edifícios, sapatos embelezam e protegem nossos pés e a energia elétrica movimento os mais variados aparelhos que facilitam nossas vidas.
No entanto, quando as coisas não funcionam buscamos culpados humanos para as falhas. Foi o técnico que não manteve o elevador corretamente, o sapateiro que falhou ao aplicar a cola ao solado do sapato ou o gato de energia que provocou um curto que acabou com a energia.
O que estamos sugerindo portanto é que para as coisas agirem, não é necessário que elas o façam sozinhas ou isoladas, mas sim que reconhecemos que elas agem juntamente com seus operadores. Uma pessoa com um elevador pode subir um prédio mais rapidamente, um sapato bem feito pode exercer sua função por mais tempo, uma rede de energia precisa de técnicos e manutenção para manter-se movimentando o mundo.
Voltemos então ao debate das armas, uma arma de fogo muda as ações possíveis para seu portador, ela aumenta o número de mortes possíveis em determinado período de tempo, ela diminui o esforço necessário para cada uma das mortes. A arma não precisa matar sozinha para ser um problema, ao contrário, é justamente por ela não agir isoladamente que ela deve ser problematizada.
O acesso fácil a armas de fogo e a permissão do seu porte criam ações possíveis mais amplas e graves em momentos que de outra forma não haveria possibilidades altas de conflitos e mortes. Onde inserimos armas de fogo ampliamos as chances de tragédias e a gravidade delas.
Existe uma imagem vaga de que as mortes com armas de fogo são provocadas por conflitos entre bandidos e soldados em campos de batalha bem definidos. No entanto, as estatísticas mostram que a maior parte das mortes são com armas de baixo calibre em brigas passionais, brigas de bar, conflitos entre motoristas, discussões entre casais e crianças que acessam as armas sem conhecimento dos pais.
Independente de quem é o culpado em cada situação, em todas elas a existência das armas amplificou a probabilidade e a capacidade de um resultado trágico. Uma vez que entendemos a ação conjunta das coisas, será que nossos computadores agem sobre nós?
Os computadores nos permitem fazer muitas coisas que não seriam possíveis de outra forma. Editamos textos, calculamos finanças, somos guiados pela cidade, ouvimos músicas, fazemos compras, estudamos, socializamos e jogamos. Será que em todas essas ações o computar está também modificando ou influenciando nossas ações? Somos controlados pela ação conjunta dessas coisas?
Utilizamos espaços vigiados todos os dias, as lojas que visitamos possuem circuitos de câmeras, os transportes que usamos exigem bilhetes ou catracas que registram nossa presença, nossas escolas e casas são gradeadas. Aceitamos essas arquitetura como normal e frequentamos esses lugares da mesma forma.
Programar é como desenhar as possibilidades que estarão disponíveis para os visitantes dos programas, erguemos paredes e escolhemos onde estão as portas e os tipos de interação que são possíveis. Também determinamos que tipo de informação será produzida e o que será feito com ela após sua coleta.
Os espaços que frequentamos com nossos computadores possuem também seus mecanismos de vigilância, registram nossas visitas, escutam nossas palavras, seguem nossos passos e cliques, anotam nossas preferências, fazem experimentos com nossas emoções, nos oferecem produtos e vendem nossas informações para outras empresas. Aceitamos os termos de uso destes programas sem ao menos ler o que está escrito, autorizando todo tipo de abuso de forma legal.
Em muitos casos a abrangência da invasão é mascarada, ao autorizarmos o uso de informações não temos controle de quando e como elas são captadas e utilizadas. Nossas câmeras e microfones passam a nos espionar em nossos lares e momentos mais íntimos e nome do aperfeiçoamento dos serviços.
O comportamento das empresas é ética e moralmente aceitável? Seria aceitável fora das redes de computadores? Atribuímos gravidades diferentes para as mesmas ações quando acompanhadas pelos computadores? Seria essa uma via de mão única em benefício das empresas?
Em que momento a cópia não autorizada se tornou pirataria? Existe alguma semelhança entre navios, canhões e saque de cargas com assistir filmes sem pagar? Os piratas copiavam as riquezas que buscavam pilhar? Estamos privando as empresas de algo ao copiarmos sem pagarmos? O que torna a cópia não autorizada moralmente reprovável?
O argumento da cópia como imoral é baseada em uma ideia de originalidade e de propriedade intelectual, ou seja, algo novo foi criado e quem inventou essa novidade merece receber uma recompensa monetária por sua contribuição. Este mecanismo de pagamento dos artistas permitiria sustentar as pessoas responsáveis pela inovação sem dependência do Estado ou de patronos privados.
No entanto, quando escutamos uma música ou vemos um filme seus criadores não recebem automaticamente um valor em dinheiro, ainda que tenhamos pagado para ter este acesso a obra de arte. Existem vários degraus de separação entre artista e obra, que envolvem contratos, partilhas de lucros e disputas de forças diferentes, muito do lucro é voltado a produtoras e empresários detentores de direitos autorais.
O que as produtoras e os empresários fazem é justamente comercializar o direito de cópia, logo a cópia não autorizada é uma atividade que poderia estar sendo lucrativa e deixa de ser. No entanto, isso não quer dizer que é possível transformar cada ato de cópia não autorizada em um ato de cópia paga, existindo a possibilidade que essa criminalização apenas diminua o acesso a cultura e entretenimento.
O problema fica mais complexo ao se levar em conta que as fronteiras da criação de conteúdo não são tão claras. Devemos pagar ao utilizarmos uma imagem como base para uma pintura? Uma obra literária deverá pagar para todas as outras que a inspiraram? Como identificar uma cópia de uma obra apenas inspirada? A saga 50 tons de cinza deve direitos à saga crepúsculo?
O direito intelectual sobre uma informação também é igualmente problemático, como separar a originalidade de artefatos como celulares e computadores? Onde começa uma contribuição original em uma pesquisa científica e todas as publicações anteriores que foram referenciadas deixam de ser relevantes ao direito intelectual? É possível patentear sem cópia não autorizada de algum autor?
Um programa de computador pode ser desenhado para causar prejuízos ao seu usuário. Chamamos esses programas que atuam como armas de vírus, eles sequestram funções das nossas máquinas, expõem ou deletam nossos dados e causam danos aos computadores.
Muitos dos vírus são feitos por encomenda de países, a Coréia do Norte possui boa parte da sua riqueza advinda de programas desse tipo. Em um mundo onde a guerra cibernética é real e pode causar prejuízos como a derrubada de redes de energia e a influência de eleições, seriam os programas de antivírus um serviço de interesse público?
As pessoas que criam programas e exploram as falhas dos já existentes são chamadas de hackers. Existem narrativas que os dividem em diferentes motivações, aqueles que buscam expor falhas para proteger o público teriam o chapéu branco, os white hats. Os hackers que atuam de forma moralmente reprovável mas em interesse coletivo, como expondo farsas e atacando empresas injustas teriam o chapéu cinza, os grey hats.
E finalmente, aqueles que roubam dados e ameaçam pessoas e governos seriam os chapéus pretos, os black hats. Essa divisão é fictícia e pouco clara, não só por que a própria identificação dessas pessoas é difícil, como elas atuam de diferentes formas a depender das circunstâncias e podem ser rotuladas a depender dos interesses políticos em jogo.
As ações dos computadores não se limitam aos ambientes virtuais, elas transbordam o tempo inteiro em sistemas que buscam controlar nossas vidas. Sistemas de reconhecimento facial estão sendo implantados e já estão sendo problematizados por suas falhas. São sistemas como esses que vão decidir no ônibus se somos os portadores do bilhetes e se temos direito à passagem.
Os dados utilizados para alimentar tais sistemas e as condições variáveis climáticas como iluminação e até mesmo a manutenção destes sistemas podem gerar falhas e constrangimentos. Os dados também possuem ponto de vista e viés em sua formulação, não sendo gerados sem intermédio humano em uma ação coletiva.
Estamos confiando cada vez mais em sistemas automatizados como autoridades desencarnadas, que dizem o que deve ou não ocorrer sem qualquer questionamento de sua validade. Será que estamos prevendo o futuro ou reproduzindo nossos preconceitos em nossas máquinas?
Existe moralidade das coisas? Existem limites para a computação e as simulações que produzimos? Empresas já produzem bonecas sexuais programadas para simular estupros, isso é moralmente defensável? Existem argumentos feitos em defesa da produção de bonecas sexuais infantis como forma de prevenção e tratamento de pedófilos. Em nossa cultura ambos exemplos são revoltantes. Fica claro aqui como a moralidade é situada e que o julgamento moral nunca é simples.
A colaboração que os estudos de Ciência-Tecnologia-Sociedade é a perspectiva sociotécnica, onde não existe uma separação clara entre os eventos e seus participantes. Não há uma fronteira que separa os objetos das ações e motivações, não existem neutralidades ou isenções que absolvam atores.
Buscamos sempre questionar quem são os envolvidos em qualquer questão, identificando aqueles que atuam sobre os acontecimentos. O que fazem? Para que foram feitos ou para que atuam? Para quem são feitos? Quem está interessado nesta ação, se beneficiando das possíveis resoluções?
Todos que trabalhamos com tecnologia devemos ser capazes de evitar generalizações e julgamentos morais anteriores as situações que encontrarmos. Cada caso deve ser analisado e pensado em suas implicações, cada linha de código deve ser feita pensando-se nas interações que elas possibilitam e dificultam.
Referências
Lessig, Lawrence. Code and other laws of cyberspace 2.0, 2006.
Latour, Bruno. Reagregando o Social: uma introdução à teoria ator rede. Edufba, 2012.
Lee, Chasel. Grabbing the wheel early: moving forward on cybersecurity and privacy protection for driverless cars. University of California, Berkeley, 2017.
