O que impediu o debate racional sobre IA na Google?
Em menos de uma semana, a Google uniu e depois dissolveu um grupo multidisciplinar com a missão de discutir o uso ético da inteligência artificial (IA).
No centro da controvérsia está a presença de Kay Coles James no grupo. James é presidente do think tank conservador Herritage Foundation e possui um histórico de declarações desacreditando o aquecimento global e contra LGBTs e imigrantes.
Funcionários da empresa fizeram um abaixo-assinado reivindicando que James fosse “desconvidada” e isso acabou viralizando e atraindo assinaturas de pessoas fora da Google. Posteriormente, surgiu a crítica à presença de Dyan Gibbens no mesmo fórum. Gibbens é CEO de uma empresa de drones e seu nome no grupo foi questionado pois, como uma executiva interessada na venda de drones poderia oferecer objetividade ao debate sobre o uso ético desses dispositivos na área militar?
Além dessa pergunta, estaria a cargo desse grupo debater questionamentos muito importantes quando falamos em inteligência artificial: como desenvolver IA de modo que ela não seja uma exterminadora de empregos? Como controlar a produção e o uso de armas autônomas? Como usar IA para combater fake news e desmascarar deepfakes? Como evitar que algoritmos carreguem os vieses de seus criadores, tornando-se máquinas de referendar preconceitos? O que fazer para proteger a privacidade das pessoas com a popularização de sistemas de reconhecimento facial? Como evitar que empresas, grupos de poder e governos se aproveitem de brechas em sistemas para abusar das narrativas das pessoas e ganhar eleições? dentre outros…
O post que oficialmente funda o grupo, chamado de Advanced Technology External Advisory Council (ATEAC), enaltece o currículo de cada membro, mas não diz por que exatamente aquelas pessoas foram escolhidas. Entretanto, é possível supor que a intenção da Google era a de, assim como nos filmes, juntar notáveis de cada área em uma missão mesmo que essas pessoas estejam em áreas diametralmente opostas do debate político. E, dentre as habilidades de cada membro da ATEAC, James é a única que possui experiência no trato com o governo. Ela poderia ser uma porta para a administração Trump.
Diferente do que acontece no cinema, em que o grupo de notáveis pouco tem que lidar com o mundo externo, exceto com o inimigo e a missão, a conjuntura atual contém uma variedade maior de atores e de agendas.
Se “política é uma questão de contagem, não do que se conta, mas sim do que se leva em conta” como me dizia um professor, a Google deixou de levar duas coisas em conta ao montar esse grupo: que a polarização política está abrangendo muitos domínios da vida e que, assim como as empresas se adaptam às condições políticas, trabalhadores também podem fazê-lo, sobretudo quando se trata do engajamento político.
O momento é o do choque de narrativas, de defesa de posição e do viés da confirmação. Ser fotografado com uma pessoa do outro lado da narrativa é um sinal de fraqueza. Algo que stalkers resgatam, haters abusam e gente esperta usa a seu favor, de modo que não haverá contextualização no mundo que tire a visão de conluio com o inimigo da cabeça das pessoas. Aliás, o direito de se deixar esquecer pela tecnologia é coisa que as big tech geralmente ignoram, pois pessoas se arrependem, mudam de opinião e o peso do que foi gravado “em rocha” no passado, por mais paradoxal que pareça, impede que algumas narrativas tóxicas se enfraqueçam.
Ou seja, todo mundo quer que esse período de fim do diálogo passe, mas vivemos em um mundo complexo, com incontáveis especializações, agendas e gente enaltecendo a sua narrativa, puxando o seu fio de uma trama que está em um nível tão grande de enrosco que quanto mais puxamos, mais ela se fecha, asfixiando a todos.
A Google, em um tipo de ingenuidade que só os que são muito grandes conseguem ter, não teve sensibilidade para perceber isso, mesmo tendo todas as cores e sabores da diversidade em seu próprio “campus” e a forma pela qual os “googlers” vêm reagindo à controvérsia aponta um novo caminho para o engajamento político dos trabalhadores.
Os “googlers” já haviam feito outros abaixo-assinados para lidar com a controversa escolha da empresa se sujeitar à censura do Partido Comunista da China, para assim deixar de estar na lista de sites bloqueados no país. Foram duas petições, uma contra e outra a favor do projeto.
Esse tipo de ação, sobretudo em uma corporação como a Google, coloca os princípios da empresa à prova e em público. Como operar com base no que está em sua carta de princípios, na missão, visão e valores atendendo a regimes tão distintos ao mesmo tempo?
Vivo em um país em que os sindicatos são fortes em algumas categorias, mas para outras são puramente decorativos, em um estilo bastante obsoleto
de decoração. A tecnologia oferece a possibilidade de muitas empresas continuarem sendo produtivas em estado de greve, de modo que essa tática tem sido cada vez mais inócua à medida que o tempo passa, e penso que a própria IA tende a sepultá-la, sobretudo quando automatizar os setores de logística.
Entretanto, uma coisa que a tecnologia facilita é a exposição de contradições. A mesma característica que imobiliza a cooperação de uma bolha com a outra é usada para desmascarar a incoerência, seja de modo oculto no vazamento de whistleblowers ou se expondo em abaixo-assinados.
É um movimento que sangra os incoerentes, mas ao mesmo tempo, estanca o relacionamento entre os diferentes. Uma encruzilhada em que é difícil imaginar o que virá a seguir. Enquanto isso, pelo menos na Google, perguntas essenciais sobre IA, continuam sem resposta.
Visite Startups & Encontre Videos, Livros, Escolas, Professores, Eventos, Cursos, Faculdades, Meetups, Bootcamps, Artigos, Podcasts de Design, Tecnologia, Negócios e Inovação.
