Todo nosso ódio contra robôs
Uma coisa me foi trazida em segredo; e os meus ouvidos perceberam um sussurro dela. Entre pensamentos vindos de visões da noite, quando cai sobre os homens o sono profundo, sobrevieram-me o espanto e o tremor, e todos os meus ossos estremeceram.
Então um espírito passou por diante de mim; fez-me arrepiar os cabelos da minha carne. Parou ele, porém não conheci a sua feição; um vulto estava diante dos meus olhos; houve silêncio, e ouvi uma voz que dizia:
Seria porventura o homem mais justo do que Deus? Seria porventura o homem mais puro do que o seu Criador?
Eis que ele não confia nos seus servos e aos seus anjos atribui loucura; quanto menos àqueles que habitam em casas de lodo, cujo fundamento está no pó, e são esmagados como a traça!
Desde a manhã até à tarde são despedaçados; e eternamente perecem sem que disso se faça caso. Porventura não passa com eles a sua excelência? Morrem, mas sem sabedoria.
— Jó 4:12–21
Há décadas nos prometeram um futuro onde robôs estariam em todos os cantos, completando todas as tarefas chatas de nossas rotinas, emancipando-nos como uma nova e triunfante espécie, livre para a Arte, para a contemplação. Estamos em 2020, sem dúvida no futuro, e não é nada difícil perceber a essa altura que o Vale da Estranheza não é apenas um ruído estético, mas um tipo de luta. Os robôs não estão aqui para nos ajudar, mas para nos devorar e nos tornar parte deles. Como uma espécie reativa e adaptada a todo tipo de batalha e jogo, resta aos humanos contra-atacar.
Em nosso futuro os robôs habitam as sombras, empenhados em atividades chatas contra nós. Não é como as batalhas épicas dos filmes de ficção científica, mas uma rotina chata, um jogo tático onde o objetivo é vencer pelo cansaço. Eles ligam massivamente a serviço de empresas de telemarketing. Indicam toneladas de vídeos inúteis no YouTube, matam pessoas atropeladas, deletam toneladas de atrocidades publicadas a todo segundo no Facebook. Eles conhecem nossos pontos fracos. Os robôs e as inteligências artificiais que os alimentam representam uma fronteira própria, sem leis ou mandamentos. Seu combustível é apenas a contínua fome de dados e aprendizado.
Assim como os monstros interdimensionais das histórias de Horror Cósmico, os robôs possuem servos entre humanos, prontos para nos entregar para qualquer peça deformada feita de metais e algoritmos remendados e obscuros. O maior deles provavelmente é Ray Kurzweil, um futurólogo que dedica a própria existência a mostrar que o futuro pertence às máquinas e resta à nós, humanos decadentes e carnais, nos unir à elas. Como ele comenta ainda na introdução de seu celebrado livro A Era das Máquinas Espirituais:
Assim que um computador atingir um nível humano de inteligência, ele necessariamente o ultrapassará voando. Desde sua criação, os computadores têm superado de modo significativo a destreza mental humana de recordar e processar informações. Um computador pode se lembrar de bilhões ou mesmo trilhões de fatos com perfeição, enquanto nós temos grande dificuldade de memorizar um punhado de números de telefone.
Sujeitos como Kurzweil quase nunca estão mentindo em suas previsões, mas mascaram uma parte da verdade — e além de elevarem o potencial das máquinas, eles precisam continuamente diminuir o ser humano. Muitas das exibições fantásticas do funcionamento de inteligências artificiais escondem dentro de si cantos obscuros, ou empurrões completamente humanos. Antes de ser inventores, todos os moradores do Vale do Silício são especialistas em lobby, competição ferrenha e marketing — aliás, é para o marketing e venda que a maioria das inovações robóticas se concentram hoje.
Robôs do Google já nos deram mostra de como pode ser a humanidade em um mundo das tais máquinas espirituais. Ao catalogarem e classificarem páginas da web segundo critérios matemáticos, o resultado foi a uniformização dos textos jornalísticos. Todos eles parecem um só. Todos os sites seguem critérios robóticos para receberem boas avaliações dos algoritmos secretos do Google. O que era uma floresta com alguma diversidade se tornou uma plantação de soja esteticamente deprimente, mas perfeita do ponto de vista produtivo, um perfeito pedaço de Terra industrializado.
Conhecedores disso, esses novos futurólogos são parte de uma linhagem antiga de espertos farsantes, prontos para dourar a pílula e nos esconder o que o futuro nos reserva.
Em 1739, o francês Jacques de Vaucanson apresentou ao mundo o Digesting Duck. Segundo ele, tratava-se de um autômato em forma de pato capaz de comer grãos e defeca-los pouco depois. Todos ficaram maravilhados. Embora a peça realmente tivesse seus méritos por ser intrincada e um tanto autômata, havia um truque: a comida era armazenada em um recipiente e as fezes armazenadas em outro. Toda a digestão e a caganeira era um truque engenhoso que só foi descoberto após a morte de Jacques.
Muitos dos sistemas atuais de inteligência artificial são, em parte, farsas marketeiras que utilizam métodos parecidos. O sistema de moderação do Facebook só existe em sua totalidade por empregar também a mão de obra de milhares de humanos submetidos a rotinas ferozes e conteúdos que os deixam traumatizados. Propagandas no Gmail? Muitas delas são geradas por humanos que leram as mensagens privadas. Sistemas de reconhecimento de vigilância são tão falhos que é um crime o simples fato de alguma força governamental utilizá-los. Da mesma forma, essas IA cometem crimes que são frequentemente ignorados ou nunca punidos por se tornarem aceitáveis pelos sistemas morais das nações que os abraçaram.
Como lêmingues incapazes do autocontrole, governos e empresas se lançam em busca do lucro desmedido em uma corrida armamentista para implementar IAs que são vendidas como sofisticadas. Assim como os pequenos roedores, que migram massivamente em busca de comida após sua população aumentar até 10 vezes, ninguém consegue frear tais iniciativas ou sequer entender o motivo delas. O Homo Sapiens age bastante irracionalmente boa parte do tempo. Agora, em massa, auxiliado por robôs e seus espíritos devassos.
Vivemos em um momento em que as IA ainda são meros infantes com a responsabilidade de decidir o destino de milhões de pessoas e isso se tornou aceitável. Mesmo as maiores façanhas desses sistemas ainda guardam algumas trapaças.
De 10 a 17 de fevereiro de 1996, o campeão mundial de xadrez naturalizado russo Garry Kasparov enfrentou o supercomputador Deep Blue em uma série de seis partidas. Kasparov ainda hoje é lembrado como um dos melhores jogadores de xadrez da história: campeão mundial aos 22 anos, em 1985, título que manteve até 2000, após ser derrotado pelo também russo Vladimir Kramnik. Do outro lado estava o Deep Blue, um supercomputador da IBM, equipado com um software capaz de analisar 200 milhões de movimentos de xadrez por segundo.
Na mídia, o confronto era vendido como uma disputa transcendental entre um dos homens mais inteligentes do mundo e a mais poderosa máquina já criada. Outros, não se sentiram tão impressionados — segundo Noam Chomsky, a vitória do computador seria “tão interessante quanto o fato de um trator poder levantar mais do que algum levantador de peso”.
No primeiro match — um conjunto de seis partidas de xadrez — Kasparov venceu de 4–2, mas numa revanche realizada um ano depois ele não foi tão feliz. De 3 a 11 de maio, em uma nova série de seis partidas, ele perdeu de 3½ a 2½ (empates valem meio ponto).
Apesar das vitórias, Kasparov ficou mundialmente conhecido como o “primeiro homem a perder para um computador”, uma sina que nunca o abandonaria até sua aposentadoria, em 2005. Sua derrota também representou o momento em que ficou claro que não demoraria para humanos serem superados por computadores e softwares avançados — o conceito de Inteligência Artificial finalmente mostrava sua força contra um dos homens mais inteligentes do planeta.
Mas haviam detalhes: Kasparov não teve acesso a partidas disputadas por Deep Blue antes do match, e também teve o pedido a uma nova revanche negado pela IBM. Houve também o chamado Movimento 44, hoje clássico, quando o Deep Blue realizou um movimento completamente contraintuitivo e Kasparov acusou a IBM de trapacear, afirmando que humanos estavam interferindo no funcionamento da máquina.
Não seria um caso inédito. Em 1770, o alemão Wolfgang von Kempelen apresentou o Turco, um autômato que jogava xadrez e chegou a enfrentar Napoleão Bonaparte e Benjamin Franklin, em 84 anos de competição. Muitos desconfiavam que o Turco era operado por um humano, mas nunca conseguiram provar. Seus mecanismos só foram revelados em 1820, pelo filho do último proprietário dele, após a máquina ser destruída em um incêndio: uma série de mecanismos permitiam que um campeão de xadrez ficasse lá dentro e controlasse as jogadas do Turco. Boa parte da parafernália interna dentro do autômato, orgulhosamente exibida por Kempelen durante as partidas, era construída apenas para parecer complicada e enganar quem o inspecionasse antes das partidas.
Em outras palavras, o Turco era um prodígio da construção e do ilusionismo, mas uma farsa. Assim como o Turco e seus segredos, nunca saberemos com certeza o que foi o Movimento 44 que desestabilizou emocionalmente Garry Kasparov. Enquanto o enxadrista acusou humanos de interferirem nas jogadas de Deep Blue, um documentário lançado anos depois afirmou que a jogada foi fruto de um bug: o programa do supercomputador entrou em loop e um algoritmo monitor, para evitar uma “tela azul”, ordenou que o software fizesse uma jogada válida semi-aleatória no tabuleiro. Apesar de essa ser a versão oficial da questão, nenhum auditor independente teve permissão para analisar os códigos do computador e a questão passou para a história com uma nota de obscuridade anexa.
O Movimento 44 e o Turco entraram para a história, ao ponto de não ser por acaso que a plataforma da Amazon para contratação de pequenas tarefas rotineiras é chamada de Mechanical Turk, uma alusão ao nome em inglês do Turco. A plataforma é uma interface que permite os chamados “solicitantes” contratarem toda a forma de serviço sujo e tedioso por pagamentos quase irrisórios. Como os solicitantes são proibidos de pedir informações pessoais das pessoas que aceitam os serviços, elas podem ser encaradas quase literalmente como máquinas sem valor — embora a inclusão desse termo de serviço seja um tanto compreensível.
Muitas vezes, essas pessoas anônimas ajudam a treinar robôs em tarefas complexas, como identificar números em imagens — mais ou menos como somos obrigados a fazer sempre que precisamos vencer um captcha do Google. Empresas utilizam força de trabalho barata para fazer um serviço que uma inteligência artificial não é capaz. Ademais, o trabalho humano é mais barato que máquinas e é mais lucrativo contar com ele.
As engrenagens intrincadas como de um relógio e a presença humana são fundamentais para empresas mentirem abertamente sobre as capacidades de seus sistemas de inteligência artificial.
Apesar da nossa impotência diante das máquinas — apoiadas por Estados totalitários e corporações bilionárias — , a reação humana mais comum diante da ação de robôs é o embate. Mesmo que seja um embate cujos resultados sejam a simples diversão, um jogo sem maiores consequências, cujo fim é a pura e secreta satisfação individual. Uma rápida acelerada na consciência, a sensação de algo que pode ser feito. A importância desses atos reside em manter certos sentimentos hostis em relação às máquinas e suas pretensas inteligências.
Pesquisadores sabem que motoristas possuem uma reserva de ódio contra veículos autônomos e reagem à presença deles, às vezes de forma violenta — batendo contra eles ou tentando jogá-los para fora da pista. Essa é uma forma de explorar as fraquezas de robôs, que são programados para uma existência segura: dificilmente um robô agressivo será aprovado e irá para as pistas.
Essa é uma das fraquezas de um sistema robótico, já bastante explorado pela ficção científica. A partir do momento que programadores —estes, sem dúvida se afeiçoam em alguma medida por suas próprias criações — dão a esses sistemas algum tipo de aprendizado reativo contra valentões na estrada, o jogo parece se aproximar de um resultado de soma zero, onde os ganhos de um são a exata perda do outro. Uma simples brecha pode ser o início de uma batalha suicida cujos resultados só podem ser previstos na ficção.
Como criar um sistema capaz de reagir contra a violência das estradas sem injetar nele mais resultados catastróficos? Provavelmente nenhum pesquisador conseguirá responder essa pergunta em menos de três décadas.
Essa agressividade pode também ser medo e falta de confiança em sistemas automatizados, segundo pesquisas da Universidade Central da Flórida. Sistemas robóticos interagindo com pessoas geralmente resultam em situações um tanto incontroláveis. A maioria das pesquisas pode ser resumida em uma conclusão falsamente simples: “A razão é simples — os seres humanos são criaturas imprevisíveis, agressivas e às vezes maliciosas”. Se os humanos não são de confiança, por que as criações dele seriam?
Uma prova disso é o acidente fatal em que um carro autônomo da Uber atropelou e matou uma mulher de 49 anos, em 2018, no Arizona (EUA). A Uber, responsável pelo carro, não foi condenada, sequer responsabilizada. E, se fosse, não se sabe quem seria preso. Talvez uma multa para a corporação bilionária? Seria no máximo isso. Quem entrou na mira da Justiça foi a motorista de testes, Rafaela Vasquez, acusada de falta de atenção, por estar assistindo The Voice momentos antes da colisão. Ela foi acusada de homicídio.
As investigações do caso revelaram a negligência das empresas que testam carros autônomos nas ruas dos Estados Unidos. No veículo (fabricado pela Volvo) não havia um sistema para alertar o motorista de que era hora de assumir a direção. Os freios de emergência do carro também foram desativados pela Uber, o que tornou inútil uma manobra de emergência ativada pelo sistema 1,3 segundos antes da batida.
Todo o resto ocorreu nos bastidores: acordos fora do tribunal com a família da vítima e supostas melhorias nos sistemas automatizados de carros da empresa. Nunca saberemos exatamente o que ocorreu porque os resultados de uma auditoria geral nas pesquisas da Uber nunca foram divulgadas. E nenhum dos responsáveis pelo carro foi criminalmente responsabilizado, o que provavelmente é uma séria indicação do que nos aguarda num futuro onde robôs e inteligências artificiais estarão diretamente ligados a mortes com muito mais frequência.
A resposta dos pesquisadores para isso é invocar a regulamentação e fazer tudo dentro da lei, mesmo plenamente conscientes que as leis não estão nem perto de regular o desenvolvimento de sistemas do tipo.
O brilhante Dr. Fantástico (1964) conta sobre um sistema apelidado de Máquina do Juízo Final. O tal aparelho seria um sistema automático criado na União Soviética que lançaria bombas atômicas sobre diversos alvos globais assim que uma bomba atômica atingisse o território do país. Parecia uma insanidade por si só, uma vez que um funcionamento ruim poderia significar o fim da vida no planeta, entre outras questões.
Em 2009, conhecemos com uma razoável quantidade de detalhes, que tal dispositivo existiu na extinta União Soviética e era chamado oficialmente de Perímetro — mas recebeu um apelido muito mais charmoso: Mão Morta. O sistema ainda está em operação, segundo a descrição da WIRED e faz quase exatamente o que o filme afirmou: detecta um ataque nuclear ao país através de detectores sísmicos, de radiação e pressão do ar, e responde massivamente. Para funcionar, o sistema precisaria ser ligado em um momento de crise por um funcionário militar, e antes do disparo varreria as comunicações do alto escalão militar em busca de “sinais de vida”. Caso não encontrasse, ativaria o Apocalipse, dando ainda a chance de um funcionário graduado em um bunker impedir a devastação.
O tal Dispositivo do Juízo Final talvez seja a primeira descrição de uma arma mortal com alto grau de autonomia descrita na ficção científica, principalmente em guetos paranoicos, mas o temor que guerras futuras ocorram sem a intervenção humana é bastante real. A Guerra do Futuro talvez seja tão rápida, que estratégias humanas não terão lugar nela, segundo algumas apostas. Lembro de ter lido coisa similar no livro Congo, de Michael Crichton, durante a adolescência, e ficado um tanto assustado.
Como escreveram os coronéis chineses Qiao Liang e Wang Xiangsui, no seminal livro Unrestricted Warfare, a tecnologia é um canto irresistível para nós, humanos:
Não há dúvida de que o surgimento da tecnologia da informação foi uma boa notícia para a civilização humana. Isso porque é a única coisa até hoje capaz de infundir mais energia na “praga” tecnológica que foi liberada da caixa de Pandora e, ao mesmo tempo, fornece um amuleto mágico como meio de controlá-la [tecnologia ]. Acontece que, no momento, ainda resta saber quem, por sua vez, terá um encanto mágico para controlá-la [tecnologia da informação]. O ponto de vista pessimista é que, se essa tecnologia se desenvolver em uma direção que não pode ser controlada pelo homem, acabará por transformar o homem em sua vítima. No entanto, essa conclusão assustadora é totalmente incapaz de reduzir o ardor das pessoas por ela.
Máquinas agora possuem espíritos e nossos jogos geopolíticos também. A Guerra deixou de ser um campo arrasado por disputas de armas e se tornou um vasto espaço fantasmagórico bombardeado por bytes carregados de informação. Os atuais Deep Blue não mais jogam xadrez, mas burlam a defesa de softwares, invadem usinas, sistemas de mísseis, fortalecidos por gigantescos servidores instalados na vastidão ártica do globo terrestre. A Guerra das Máquinas nem precisa ser declarada.
Sistemas internéticos como armas não são nenhuma novidade. Guerras cibernéticas, manipulação de informação e ataques coordenados por bots são elementos até manjados desse novo estágio de guerra permanente que vivemos, totalmente indissociável dos tempos de paz. Mas potências buscam novos estágios: armas letais que jamais serão tocadas por humanos.
Potências militares já protagonizam uma corrida pelo desenvolvimento das chamadas armas autônomas letais (LAWs, em inglês). Como Estados estão sob certa vigilância e escrutínio, eles terceirizam para corporações ávidas por contratos bilionários a pesquisa necessária para que tais armas existam.
Israelenses desenvolveram um drone chamado Harpia, capaz de detectar radares inimigos e destruí-los. Russos apresentaram um drone kamikaze chamado KUB-BLA (apelidado por americanos de Kalashnikov Self-Destructing Kamikaze Drone), capaz de reconhecer veículos inimigos com base em imagens. Como os outros sistemas automatizados, esses também não serão capazes de explicar as decisões, ou mesmo passar por escrutínios — os códigos se tornam caixas-pretas assim que começam a funcionar.
Se guerras — nosso modo mais extremo de interação social — serão quase totalmente administradas por máquinas, é possível que todo o resto também seja. E uma vez que deixamos que uma máquina tome uma decisão de forma totalmente automatizada, nunca mais recuperamos nosso tênue poder de tomar tais decisões. Nem mesmo os criadores dos algoritmos de inteligência artificial podem definir com clareza como uma decisão “foi tomada” — embora alguns muito claramente questionem se tais decisões são, de fato, tomadas de forma ativa.
Mesmo com todos os riscos, o Vale do Silício é um grupo pronto para abraçar a Guerra. Porque guerra é dinheiro, é aceleração, é movimento. É justamente o que essas empresas e a ideologia por trás dela desejam: acelerar, dissolver e virtualizar tudo ao ponto de ninguém mais conseguir concentrar, dar qualquer significado para uma experiência, o que deixa todo o poder nas plataformas. Cada acontecimento só deve ganhar importância se registrado por bytes, em timelines, diluído em um fluxo interminável de fotos, likes e comentários.
Militares e agência de inteligência utilizam os mesmos servidores que hospedam timelines de redes sociais. Os mesmos algoritmos que indicam endereços no Google Maps também identificam alvos para drones do Exército dos Estados Unidos, como nos mostrou o Projeto Maven. Toda essa tecnologia é cada vez mais secreta e parte de um gigantesco esforço de desenvolvimento militar que há uns 20 anos poderia soar futurista.
Um exemplo: desde julho de 2019, Amazon, Google, Microsoft, Oracle e IBM lutam por um contrato de cerca de US$ 10 bilhões (esses valores sempre são iniciais), chamado Joint Enterprise Defense Infrastructure (JEDI, sim, os milicos às vezes gostam de soar engraçadinhos). A ideia é fornecer computação na nuvem, processamento e aplicativos para o Departamento de Defesa dos Estados Unidos.
A Amazon venceu, a Oracle contestou, a Microsoft levou na segunda licitação, dois juízes reviram tudo e o contrato ainda está aberto. É uma mostra das vontades ferrenhas dessas empresas pelo dinheiro que importa: o público, dos insaciáveis militares. Independentemente de quem vencer a disputa, é quase certo que é a Amazon que sai da história como a gigante de infraestrutura de nuvem.
Em parte, esse é o caminho natural das potências do Vale do Silício, muitas delas nasceram boiando na enchente de dinheiro e técnica criada pela DARPA após a II Guerra Mundial.
Algumas delas, acharam natural construir armas antes mesmo desse esforço do governo dos Estados Unidos, como a IBM, na hoje conhecida história dos holerites construídos e vendidos para os nazistas identificarem os judeus e os inserirem nas engrenagens dos campos de concentração — o governo americano também comprou a tecnologia para fazer o mesmo com japoneses.
Assustador o suficiente? Existem questões ainda mais complexas quando os robôs caminharem entre nós.
Ainda que tais questões filosóficas ainda não tenham sido sequer arranhadas em todas a sua profundidade (um robô de fato pensa?, tem personalidade?, um dia terá?), outros debates já entraram na jogada — a União Europeia, por exemplo, discute se robôs merecem receber personalidade jurídica.
Uma vez reconhecidos como “pessoas” no âmbito legal, humanos estarão concedendo a uma elite um poder de decisão sem precedentes (embora, provavelmente pouca coisa mudará por isso), onde criações de grupos empresariais se tornam tão importantes quanto esses próprios grupos. E talvez essa mesma elite não entenda o alcance do tal poder.
Como escreveu Theodore Kaczynski, o Unabomber, em seu manifesto A Sociedade Industrial e seu Futuro:
Se se permite às máquinas tomar suas próprias decisões não podemos fazer nenhuma conjectura sobre os resultados, porque é impossível adivinhar como se comportarão. Só assinalamos que a sorte da raça humana estará a sua mercê. Pode-se argumentar que nunca será tão estúpida a ponto de entregar todo o poder às máquinas. Mas não estamos sugerindo que a raça humana voluntariamente transfira o poder às máquinas nem que estas se apoderem dele deliberadamente. O que sugerimos é que facilmente essa situação pode resultar em uma dependência tal que não haveria outra alternativa a não ser aceitar todas suas decisões. (parágrafo 173)
(…)
Devido à melhora das técnicas a elite terá maior controle sobre as massas e, como não será mais necessário o trabalho humano, as massas serão supérfluas, um ônus inútil no sistema. Se a elite for cruel, simplesmente decidirá exterminá-las. Se forem humanos, podem usar propaganda ou outras técnicas psicológicas ou biológicas para reduzir a taxa de nascimento até que se extingam, deixando o mundo à elite. Ou, se esta consiste em liberais bondosos, podem decidir desempenhar o papel de bons pastores do resto da humanidade. Para isto, se encarregarão de que todo mundo satisfaça suas necessidades físicas, que todas as crianças se criem sob condições psicologicamente higiênicas, que todo mundo tenha um gosto são para mantê-lo ocupado e que qualquer que possa estar insatisfeito receba um «tratamento» para curar seu «problema». Por suposto, a vida estará tão vazia de sentido que as pessoas terão que ser desenhadas biológica ou psicologicamente para extirpar sua necessidade de afirmação pessoal ou «sublimá-la» em direção ao poder como um passatempo inofensivo. Estes seres humanos desenhados podem ser felizes em tal sociedade, mas a maioria não será livre. Será reduzida à categoria de animais domésticos. (parágrafo 174)
É muito provável que os criadores dos robôs do futuro os invistam de traços que humanos fingem almejar como espécie — altruísmo contínuo, senso de justiça perfeito, bondade e honestidade. Ver nesses robôs — que provavelmente terão braços, pernas, voz, um sorriso — o que séculos de hipocrisia nos diz que deveríamos ter, provavelmente nos tornará párias psíquicos, encarando um abismo corrosivo de perfeição.
Imagine encarar criações perfeitas. Seres sempre felizes, carregados de virtudes, beleza inigualável, sempre verdadeiros. Eles não arrotarão. A provável consequência de ver tais anjos na Terra, andando felizes em cidades cada vez mais poluídas, nos torturará com desejos cada vez mais angustiantes, talvez suicidas. A reação psicológica será unicamente a contemplação de nossa falha como espécie, além de possuir, em si, uma espécie nada sutil de eugenia, racismo e elitismo.
Não pense que seus criadores terão escrúpulos, mesmo quando entenderem tais consequências, pois seres humanos plenos de bem-estar não precisam comprar. O capitalismo busca pessoas tão preenchidas quanto empresas: que sejam quantificáveis, falsamente decididas e que comprem por impulso. Essa estranha relação entre emancipação pessoal e capitalismo foi descrita por Deleuze em seu longo livro O Anti-Édipo.
O capitalismo instaura ou restaura todos os tipos de territorialidades residuais e factícias, imaginárias ou simbólicas, sobre as quais ele tenta, bem ou mal, recodificar, reter as pessoas derivadas das quantidades abstratas. Tudo repassa ou regressa, os Estados, as pátrias, as famílias. É isto que faz do capitalismo, na sua ideologia, “a pintura mesclada de tudo aquilo em que se acreditou”. O real não é impossível, ele é cada vez mais artificial.
Deleuze fala em “territorialização” e “espaços estriados”, uma forma de dizer que o capitalismo tem essa capacidade de mapear e registrar territórios e torná-los úteis para atividades do capital. E, mais importante, torná-los inúteis como inimigos de um modo de vida que perpetue o mercado. A Inteligência Artificial e seus agentes mais visíveis (robôs) são a fronteira final desse movimento, uma forma de territorializar completamente o comportamento e a inteligência humana, uma das únicas fronteiras ainda com fragmentos selvagens e obscuros para o capital. O objetivo maior parece não envolver criar computadores superinteligentes, mas fazer a humanidade agir de forma espelhada a esses dispositivos binários.
Mesmo com boas intenções (criar um robô que é também um ser humano perfeito), um empresário do tipo contribuirá para mais um passo na nossa auto-destruição como espécie.
Robôs perfeitos, pais de família, melhores jogadores de xadrez ou soldados letais: não importa como, todas as interações deles serão contra nós.
A História geralmente aponta os Luditas como os pioneiros na rejeição de um progresso técnico em nome de um tradicionalismo da força de trabalho humana. O Ludismo é descrito como um movimento de trabalhadores que destruíam máquinas industriais como forma de protesto, no início do século XIX. Tais grupos diziam não obedecer a reis ou senhores industriais, mas seu próprio rei, Ludd, uma entidade revolucionária, noturna e destruidora.
Tais movimentos foram fortemente reprimidos: inicialmente com tiros de donos de fábricas, e depois com o uso de forças militares. Quem participou dessas sabotagens chegou a ser condenado à morte. Antes disso já haviam leis que preveniam freios à industrialização — uma lei britânica de 1721 estabelecia a deportação como pena para a destruição de máquinas, outra de 1812 colocou a pena de morte como pena. O Progresso Técnico não foi salvo por suas qualidades, mas com o uso de torturas, prisões, deportações e execuções. Ironicamente, a criação dos sindicatos foi outro fator que diminuiu o poder desses protestos, uma vez que estabeleceu regras claras para atuação da classe trabalhadora.
Os Luditas não foram simplesmente pessoas que lutaram contra máquinas, mas sim trabalhadores em busca de igualdade social, como pontuou Eric Hobsbawm em um ensaio sobre o tema. No século XXI, a luta contra a inteligência artificial, vigilância e robôs não é uma simples luta contra tais invenções técnicas, mas sim contra os efeitos sociais da existência delas — controle, deterioração psíquica, impunidade.
Pior: muitos historiadores e comentaristas da imprensa utilizam o exemplo do movimento ludita como um símbolo da derrota do homem frente às máquinas, diante do progresso. Há um senso de inevitabilidade nesses escritos, como se o progresso técnico, da maneira como ele existe, fosse a única forma possível — um exemplo é este texto do Proxxima. Tais trabalhadores são descritos como ratos cegos, sem noção do que estavam fazendo.
Não é o que pensa o escritor Thomas Pynchon, que em 1984 perguntou em um artigo no NY Times se era OK ser ludita (perdoe a tradução):
As máquinas de tricotar que provocaram os primeiros distúrbios luditas deixavam as pessoas desempregadas há mais de dois séculos. Todo mundo viu isso acontecendo — tornou-se parte da vida diária. Eles também viram as máquinas se tornando cada vez mais propriedade de homens que não trabalhavam, apenas possuíam e contratavam. Não foi necessário nenhum filósofo alemão, no momento ou mais tarde, apontar o que isso causava aos salários e aos empregos. O sentimento público acerca das máquinas nunca poderia ter sido um simples horror irracional, mas provavelmente algo mais complexo: o amor / ódio que cresce entre humanos e máquinas — especialmente quando já existe há um certo tempo — sem mencionar o sério ressentimento em relação a pelo menos duas multiplicações que foram vistas como injustas e ameaçadoras. Uma era a concentração de capital que cada máquina representava, e a outra era a habilidade de cada máquina de colocar um certo número de humanos fora do mercado de trabalho — para “valer” tantas almas humanas. O que deu ao rei Ludd seu carisma especial de Mau, o levou de herói local a inimigo público nacional, foi que ele se levantou contra esses oponentes maiores que humanos e prevaleceu.
Quando os tempos estão difíceis, e nos sentimos à mercê de forças muitas vezes mais poderosas, não nos voltamos, ao buscar algum equalizador, mesmo que apenas em imaginação, em desejo, para o Fodão — o djinn, o golem, o hulk , o super-herói — quem vai resistir ao que de outra forma nos oprimia? É claro que o embate real ou secular ainda estava sendo travado por pessoas comuns, sindicalistas à frente de seu tempo, usando a noite e sua própria solidariedade e disciplina para conseguir suas ampliações de efeitos.
Pynchon ainda nos lembra que Lord Byron era um dos poucos parlamentares ingleses ao lado dos luditas — cuja esposa, Mary Shelley, escreveria na mesma época (1816) Frankenstein ou o Prometeu Moderno, uma narrativa de horror perfeita sobre como a tecnologia pode agir sem controle. A contemplação dos efeitos do desenvolvimento irracional da tecnologia é perfeitamente capturada na natureza gótica da narrativa, essa inevitabilidade da nossa própria destruição. A união da deformação corporal com o vazamento da consciência, adicionada a um robô gigantesco, parece ser o símbolo perfeito da revolução tecnológica sem limites.
Não é preciso uma imaginação muito poderosa para ligar os efeitos da Revolução Industrial ao que o filósofo Vilém Flusser chamou de “realização característica da nossa cultura”: Auschwitz. Para o autor, a rede de campos de concentração espelha nosso máximo progresso cultural unido ao nosso desenvolvimento técnico. Gulags e a explosão de Hiroshima são apenas a variação desse ápice. Assim como as decisões das inteligências artificiais, uma vez postos em funcionamento, esses sistemas de destruição não precisavam mais de líderes ou do conhecimento de seus fundadores: eles funcionavam de forma automatizada, em direção ao que foram programados.
Essas máquinas são protegidas por segredos industriais, investimentos financeiros, são entidades em si, agentes terceirizados de bilionários inescrupulosos. Os que desenvolvem tais redes de destruição — assim como a IG Farben e seu Zyklon B — são meros funcionários em seus serviços, incapazes de enxergar a banalidade do mal que cometem.
Opor-se a esse desenvolvimento — ao Progresso — é opor-se à própria cultura ocidental. É cair vítima da loucura, não muito diferente de Nietzsche e o próprio Unabomber — oficialmente classificado como insano, contra a própria vontade. Em uma cultura que abraçou o cinismo como proteção mental (Quem não sabe que redes sociais fazem mal? Todos sabem que governos e empresas querem nossos dados!) levantar qualquer voz contra tais aplicações da tecnologia não é ser louco, mas bobo.
Mas tais pessoas não são mais bobas do que os que acreditam nos poderes ou capacidades de inteligências artificiais. Tais pessoas não são chamadas de evangelistas à toa: eles tentam vender uma ideia e em nada diferem de padres. Caras como Kurzweil são sujeitos tentando ressuscitar o Deus que a Filosofia tentou matar — a diferença é que seus devotos conversam com a Alexa, ao invés de rezarem. Logo eles nos oferecerão robôs capazes de nos ajudar em tratamentos de terapia, serão celebridades perfeitas, nos darão o sexo inimaginável que sempre buscamos, nos confortarão em momentos de profunda agonia. Será uma oferta irresistível.
Imagine um movimento ludita moderno contra máquinas que também têm direitos e personalidades jurídicas? Se existem defensores de janelas de bancos, é bem possível que imagens de robôs triturados sob o fogo de protestos causem respostas emocionadas.
No século XXI, um movimento como o ludita não é mais possível, pois as máquinas não são mais físicas. Elas são “espirituais”, formas desconcentradas sem materialidade, dispersas por redes controladas por regras de governos e corporações. Mesmo as estruturas materiais da internet possuem redundância demais para temerem qualquer destruição ou interrupção maior que poucas horas. Como derrubar o Facebook e seu claro favorecimento a conteúdos conspiratórios, racistas e criminosos? No máximo, Luditas modernos podem criar máquinas capazes de destruir máquinas, e por um período tão ínfimo que sequer será simbólico.
Tais grupos, hoje descritos por rótulos como “anarcoprimitivistas”, criam vírus que destroem o hardware ou perturbam seu funcionamento. Mesmo o Unabomber, que tentou inverter essa lógica ao matar desenvolvedores humanos, utilizou bombas cada vez mais sofisticadas em seus atos terroristas. De forma geral, esses atos podem ser tão ridículos quanto um texto sobre os perigos do desenvolvimento tecnológico de inteligência artificial hospedado em um site que utiliza algoritmos para indicar novos textos para leitura. É como vomitar em um lago.
A última fronteira de resistência ludita é o próprio corpo, mas parte dele já está tomado. Em parte, já somos produtos das máquinas que achamos usar. Parte das nossas memórias estão no Google, nossos olhos são bombardeados pela luz de celulares, nossos dedos digitam muito mais rápido do que com canetas nas mãos, nossa postura depende de nossos smartphones. Somos programados pelas interfaces que acessamos.
Os servos dos robôs projetam um futuro mais promissor: seremos robôs em breve, nossas consciências serão transferidas para máquinas e nos tornaremos imortais. Mas ainda seremos nós? Seremos humanos?
Nós ainda nem sabemos o que somos e nunca devemos esquecer que a geração que nos prometeu a imortalidade e a vida de volta ao Éden, sem trabalho pesado e rotinas estressantes, nos mergulhou em um mundo opressivo onde o próprio futuro do planeta é posto em dúvida. Onde vemos um céu digno de filmes de ficção científica acima da Califórnia, onde todos possuem problemas mentais, onde todos são controlados.
Assim como os uruk-hai fabricados nas entranhas de Isengard, os robôs do presente e futuro não sairão do nada. Eles serão parte integrantes de uma cultura e essa cultura é parte integrantes deles. Os robôs e toda a cultura tecnológica atual respondem ao que é chamado de Ideologia Californiana.
O nome pode não ser tão popular, mas é simples de entender. É uma união estranha de boemia lisérgica dos anos 60 com uma busca acelerada e extrema pelo lucro. Como define o livreto de mesmo nome, tal ideologia “promiscuamente combina o espírito desgarrado dos hippies e o zelo empreendedor dos yuppies”. O que cimenta essa estranha visão — que combina um otimismo enganador, a falta do freio das leis e uma relação passivo-agressiva com o Estado — é justamente a tecnologia da informação.
Antes dessa galera assumir o poder, arquitetos do futuro um tanto mais acordados escavaram as profundezas da alma humana, os esgotos de nossa civilização e de lá tiraram restos futuristas um tanto menos brilhantes e que melhor espalhavam o trilho que percorremos. Eles nos fizeram contemplar ciclos intermináveis de violência (Laranja Mecânica), paranoia contínua (Um Reflexo na Escuridão), dissolução da identidade (Neuromancer) e os assombros de nossos traumas que se recusam a ficar enterrados (Solaris). Os robôs provavelmente só ampliarão esses defeitos da espécie.
Do outro lado do front, publicações bobas quando resolvem evangelizar (Wired) disseminavam a Ideologia Californiana em cortes cada vez mais infeccionados, e o lixo dessa desenvolvida e fantasmagórica forma de capitalismo espalhava sua sujeira.
A Ideologia Californiana ganha força justamente por ser ambígua. Partes de seus preceitos podem soar como música tanto para alas corporativas escravocratas, quanto para progressistas que desejam ganhar eleições. A ideia parece ser diluir o significado das coisas até torná-las um ponto perdido no meio de um fluxo.
Um exemplo prático é o modo de trabalho de agências de publicidade. Os expedientes chegam a 12h, 18h mas existem “mimos”: cerveja, é possível ir de bermuda, videogames dentro da firma. Em outras palavras, as fronteiras entre o ambiente de trabalho e as casas são rompidas nesses ambientes, mas o cerne da relação entre funcionários e empresários continua intocável: venda de força de trabalho.
A técnica não é diferente da maquinaria interna do Turco, criada com o propósito de confundir e dar a ilusão de complexidade exagerada. É daí que surgem distorções de conceitos sociais conhecidos. O livre arbítrio é exacerbado, todos podem se tornar empreendedores, problemas psíquicos são totalmente individualizados e todos devem fazer terapia. Nos bastidores, agentes poderosos recolhem dados, os embalam, revendem, lançam aplicativos para monitorar seu sono e produzir mais dados. O ciclo parece ser infinito, uma teia impenetrável de agentes, movimentos, vítimas e vilões.
É necessário aceitar os riscos, empreender. Tudo é reinventado a todo momento. Ideólogos contam mentiras claras que são repetidas tantas vezes que se tornam verdades. O livre mercado apregoado por eles é dominado por empresas gigantescas, impulsionadas pelo governo dos Estados Unidos, em nome da “liderança internacional”. A liberdade individual tão repetida por eles é apenas uma forma de nos mostrar que somos livres para comprar, e se nem dinheiro para isso temos, a culpa também é nossa.
Quando pessoas apontam que os robôs, inteligências artificiais e carros autônomos são um perigo para o futuro, a mensagem subjacente é que o perigo é que esses dispositivos estejam imersos na atual cultura tecnológica, em muito cria direta de antigos hippies da costa oeste dos Estados Unidos, com a mente “expandida” por drogas e embebidos pela vontade de lucros agressivos. É essa capacidade de reescrever o passado em nome de deturpar o futuro que é apontada por Deleuze.
É possível entender um pouco os efeitos da robótica com o próprio xadrez: no jogo, a saída foi um meio termo, como indica um texto excelente do site Real Life.
As capacidades dos computadores devastaram a forma como o jogo era praticado: assistentes deixaram de ser contratados, análises por software se tornaram mais comuns, prodígios cada vez mais jovens surgiram, os russos perderam a dominância mundial, e jogadores se tornaram algo próximo de máquinas, conhecedores de vastas quantidades de padrões de jogos e respostas para movimentos. Estratégias vencedoras se tornaram menos agressivas e passaram a forçar o adversário para uma linha de jogo que você já conhece exaustivamente. Na dúvida, defenda-se. Pouco da intuição ou pensamento analítico parece ter sobrado, segundo diversos comentaristas.
Simplificando mais do que deveria, o xadrez está caminhando para ser o que virou o jogo da velha, onde um jogador passa a saber com muita precisão a linha de jogo do adversário. Programas como Komodo e Stockfish fazem análises baseadas em algoritmos e enxadristas são influenciados pelas estratégias dessas máquinas. O próprio Kasparov promove o que ele chamou de Xadrez Avançado (ou xadrez centauro ou xadrez ciborgue), em que os enxadristas oponentes utilizam também um computador como auxiliar, para ajudá-lo a explorar possibilidades do jogo.
Nessa modalidade de jogo híbrida, mestres de xadrez foram capazes de vencer até os melhores programas de computador em partidas comuns, de 90 minutos. Mas em 2013 a sorte começou a virar para o lado dos computadores, que se tornaram tão rápidos que os melhores jogadores não eram mais capazes de vencer sem diminuir bastante o tempo das partidas ou alterar significativamente outras condições gerais do jogo.
Se as máquinas influenciarem os humanos como o fizeram com os jogadores de xadrez, será como se todos se tornassem profundos conhecedores de teoria dos jogos. Decisões se tornam tediosas tabelas de Excel, todas elas fazem sentido, mas são opressivamente seguras, fruto de estatísticas. O resultado talvez fosse uma sociedade perfeita, robótica, mas seria uma pena de morte para o humano.
Se esperávamos a loucura e a incompletude da união homem-máquina proposta em Akira ou Tetsuo: The Iron Man — um estado onde os dois corpos brigam, uma união que é também uma guerra dialética, onde a síntese nunca é alcançada — provavelmente estejamos errados. A simbiose maquínico-biológica provavelmente envolve um profundo tédio — emoções eliminadas, pulsões controladas, zero acidentes. O que nasceu para proporcionar a nova evolução da espécie e um grito de liberdade individual, provavelmente resultará na transformação de todos no mesmo tipo de humano: sem vontades, enclausurado, ciente do melhor a se fazer antes mesmo de tentar. A vida poderá se tornar um amontoado de regras explicáveis por testes científicos enviesados, o sonho de qualquer aluno da Escola de Chicago.
A guerra nesse futuro será unicamente psíquica e as ferramentas para lidar com ela já estão disponíveis: bombas químicas.
Assim como os jogadores de xadrez, que aprenderam estratégias defensivas que exigem paciência num nível que a maioria dos humanos não está disposto a ter, talvez seremos usados pelas máquinas como receptáculos desse evangelho matematicamente perfeito, tedioso e sem qualquer ousadia.
É um combate que pode ser definido em termos de biologia contra máquina. Nesses termos, a Inteligência Artificial parece uma fresta do futuro constantemente seduzindo os humanos, em busca de inevitáveis voos mais altos. Em outras palavras, desenvolver o que pode ser nosso fim, é também o próximo passo lógico de conservação biológica. Não é muito diferente do que fizemos com bois, ovelhas e porcos: garantimos sua multiplicação e sobrevivência biológica, mas ao preço do aprisionamento de qualquer desenvolvimento futuro.
