Quando a distopia é hoje: representações de um futuro próximo

“O que aconteceu para não mais celebrarmos o futuro e sim temê-lo?” Ouvi esta pergunta no Nerdcast Tecnologias do Futuro 3. Como sou fascinada pelo tema Tecnologia, comecei a pensar algumas coisas e me propus responder: Por que, diante dos acontecimentos mais recentes no mundo da inovação tecnológica, nós, reles mortais, começamos a temer nosso futuro ao invés de celebrá-lo?

Na parte inicial do podcast, os participantes discutiram sobre como grandes corporações midiáticas (estamos falando de Google e Facebook, óbvio) parasitam as novas tecnologias até adquiri-las financeiramente (por exemplo, no caso da compra do Whatsapp e do Instagram pelo nosso nada querido Marquinhos Zuckerberg) ou até lançarem uma ferramenta similar e, frente ao extravagante e opressivo tamanho de seus corpos jurídicos, tomar de assalto as inovações de empresas menores, arrastando por anos os litígios em torno das patentes, exclusividades etc. — pensando aqui, basicamente, no caso do Snapchat, que recusou a oferta de compra do Marquinhos, que por sua vez adotou um recurso idêntico no Instagram e acabou de inaugurar o mesmo recurso no próprio Facebook, “quebrando” de vez o concorrente.

A conclusão desta sessão inicial do programa foi a de que não adiantava nada você, hoje, pensar em algum serviço ou produto virtual realmente novo, incrível e revolucionário porque, no final do dia, quem vai implementar este serviço ou este produto é a Google ou o Facebook. Seja porque eles se oferecerão como compradores, seja pela impossibilidade de ganhar um processo jurídico contra eles, no caso deles copiarem o seu conceito. E mais: raríssimos são os envolvidos no mundo da tecnologia a investirem tempo e criatividade em algo por pura boa vontade e nobreza… Então, além de perder a patente autoral da inovação, perde-se também dinheiro. Quer dizer, além dos caras pegarem a sua ideia, eles vão fazer muita grana com ela.

Num primeiro momento, esse contexto contemporâneo de disputas desleais entre pequenas e grandes empresas de tecnologia poderia nos antecipar uma resposta à questão principal deste texto. O monopólio da inovação causa, no mínimo, desconforto e desconfiança sobre o tipo de futuro que teremos pela frente. Trata-se do exercício de imaginar como seria se somente um grupo de pessoas ou de empresas, exorbitantemente poderoso e inatingível, terminasse por controlar, em um momento não tão distante, tudo o que diz respeito aquele tipo de tecnologia nas nossas vidas. Estamos aqui trabalhando com o exemplo de mídias sociais e de ferramentas de comunicação, mas é importante lembrar que essa dinâmica de inovação tecnológica, aquisição de recursos, disputa de patente e acumulação de muita grana rola em todos os setores de tecnologia do mundo. Ou seja, se você pesquisar, vai achar a Google dos remédios, a Google dos automotores, a Google das cervejas ou até a Google dos produtos de limpeza e higiene pessoal *cof cof P&G cof cof*.

Imagem que atribui as marcas mais consumidas às suas respectivas corporações

O que nos acalenta o coração e a alma é o fato de existir, ainda hoje, muita concorrência — não só entre empresas, mas também entre “soluções” e “estilos de vida” — e talvez por isso não nos angustiamos tanto com a possibilidade de, no futuro, só existir uma fonte de produção e distribuição de um determinado produto ou serviço. Afinal, apesar de atualmente existir um grande complexo industrial farmacêutico por ai, que controla a maior parte da circulação mundial de medicamentos, você continua podendo curar sua dor de garganta com mel e gengibre. A distância real entre todos os monopólios tecnológicos em formação e a nossa vida cotidiana com certeza nos conforta e nos garante certa liberdade (mesmo que fictícia), mas, por outro lado, não nos impede de pensar mais reflexivamente sobre o futuro e de transformar bastante nossas expectativas quanto a ele.

Entretanto, essa visão um tanto quanto pessimista, de um mundo controlado por grandes corporações, onde a maioria esmagadora das pessoas está subjugada aos interesses privados de pequenos grupos econômicos (e políticos) poderosos e a tecnologia está muito aquém de servir plenamente a humanidade, não é novidade. As chamadas ficções distópicas — ou o conceito de distopia em um sentido mais amplo — já davam conta, nas décadas de 1970 e 1980, de retratar nossa realidade futurística assim. Nas obras surrealistas como Laranja Mecânica (1971), as apocalípticas como Mad Max (1979) ou nos cenários cyberpunks de Blade Runner (1982) e Exterminador do Futuro (1984), a ideia de um futuro “temível” já está posto em prática. Pensar sobre as enormes fusões entre empresas de tecnologia hoje seria como assistir ao nascimento da Skynet, e não a toa essa foi a referência que pensamos, mesmo que de forma jocosa, quando a Microsoft anunciou, em 2011, a compra da Skype por US$8,5 bilhões.

A fusão entre os logos das empresas Skype e da Microsoft faz referência à inteligência artificial fictícia Skynet da franquia de filmes Exterminador do Futuro. Na série, a Skynet foi responsável por acionar o holocausto nuclear conhecido como “Dia do Julgamento” e enviar um exército de Exterminadores contra a humanidade

Portanto, meu argumento é que uma explicação através do receio quanto ao crescimento e monopólio de grandes corporações não é suficiente para dar conta de uma alteração atual na expectativa sobre o futuro, afinal, este receio já existe há pelo menos 40 anos. Na realidade, explanar o conceito de distopia quase invalida minha pergunta. Se já pensamos de forma no mínimo suspeita (pra não dizer “morrendo de medo do que vai acontecer nessa p*rra”) sobre o futuro desde as décadas de 1970 e 1980, então não haveria nenhuma “mudança”, certo? Estaríamos simplesmente dando continuidade a um movimento bem anterior a nós mesmo. Mas permita-me continuar o raciocínio.

As distopias, de um modo geral, travam um contraponto a um modelo de futuro harmonioso no qual o desenvolvimento tecnológico promoveria benefícios nos transportes, no modo de trabalho, na distribuição dos recursos, etc. Tal previsão otimista foi apresentada de forma icônica em Os Jetsons, desenho produzido pelo estúdio Hanna-Barbera no início dos anos 1960. Nesta animação, a família Jetson reside na cidade futurística de Orbit City, e vive seu cotidiano entre carros voadores, esteiras automáticas e o convívio com a robô Rosie, uma assistente doméstica metálica que usa uniforme de avental e espanador naquilo que seria sua mão. O cartoon não faz menção às desigualdades sociais ou a um desenvolvimento tecnológico nocivo aos cidadãos; a única hostilidade de fato retratada é entre George Jetson, o pai, e seu patrão, o Senhor Spacely.

O ponto é que a criação de universos distópicos como uma resposta mais realista, ou melhor, mais implicada com as estruturas sociais de poder — fundamentalmente as específicas do sistema capitalista — teve enquanto pano de fundo um contexto social complexo, envolvendo tanto os movimentos de contracultura e seus derivados (como no caso do movimento punk que inspirou cenários cyberpunks já citados) como os conflitos políticos, sociais, simbólicos e tecnológicos da Guerra Fria. Não é difícil perceber a influência desses fatores nas obras que encarnam uma versão não tão entusiasmada do futuro da humanidade. O perigo de uma guerra nuclear apocalíptica, por exemplo, era bem mais real naquela época.

Mas afinal, aonde eu quero chegar com isso tudo?

A minha reflexão sobre essa “mudança” de perspectiva não está no fato de, diante das últimas inovações tecnológicas, prevermos, hoje, um futuro distópico em contraponto ao mundo harmonioso de os Jetsons. Nem em temermos a unificação de grandes corporações, o que culminaria no pesadelo de perdermos por completo nossa liberdade (mesmo que ela tenha sido, desde sempre, fictícia). Isso nós já fazemos há anos. Muito anos.

A centralidade deste texto está em sugerir o que atualizou os nossos medos. O que poderia nos fazer repensar, nos dias atuais, o impacto social da tecnologia no futuro e diminuir drasticamente nosso entusiasmo sobre as inovações de serviços e produtos tecnológicos. Em outras palavras, qual seria o contexto específico de nossa época que transformou nossa relação com o futuro?

E eu proponho, finalmente, uma resposta. Arrisco dizer que estamos lidando, hoje, com a ameaça de perdermos, nesse futuro projetado, a nossa tão famigerada singularidade humana. Temeríamos, então, um mundo no qual não saberemos mais o que nos torna e o que nos reconhece como humanos. Em outras palavras, estamos lidando com o gradativo escancaramento da imprecisão quanto o que, afinal de contas, nos distingue de outros seres vivos, sejam eles orgânicos ou não.

Um bom exemplo dessa mudança de perspectiva aconteceu com a franquia japonesa Ghost in the shell. Não vou me ater aos seriados televisivos, aos filmes ou aos OVAs dos anos 2000 (até porque eu nem assisti todos eles). Vou eleger aqui três obras centrais: a revistinha mangá original de 1989, o filme anime mais célebre de 1995 e o filme live action mais recente, de 2017 — traduzido no Brasil para “A Vigilante do Amanhã”. Live action é o termo usado para caracterizar as obras cinematográficas que utilizam atores reais, ao contrário das animações ou animes (animações oriundas do Japão).

Resumindo de maneira breve, Ghost in the shell é uma ficção cyberpunk distópica que retrata uma cidade oriental futurística — no ano de 2029 — onde já é possível unir ser humano e máquina, fabricando, assim, indivíduos tecnologicamente aperfeiçoados e capazes de interagir com extensas redes de informações virtuais através de seus cérebros cibernéticos. A história se desdobra em torno da personagem principal, a agente de elite Motoko Kusanagi, mais conhecida como Major, que trabalha para o Setor 9, unidade pública de segurança com caráter policialesco responsável por coibir crimes — ou terrorismo, como queira chamar — cibernéticos. Major, como outros personagens, é um ser híbrido. Seu hibridismo, porém, é radical e não tão comum. Enquanto a maior parte das modificações tecnológicas retratadas se estendem em corpos fisiológicos— substituindo olhos, membros ou dedos, por exemplo— a adaptação de Major consiste na implantação de seu cérebro humano-orgânico em um corpo-robô, altamente complexo e repleto de funcionalidades, desenhado especificamente para a função de agente especial. O procedimento de transferência de cérebro não é exclusivo da personagem, embora integre parte fundamental da trama. Afinal, ser um ciborgue consciente talvez não seja tão simples assim, concordam?

A agente de elite e líder do Setor 9, Major Motoko Kusanagi, na capa do anime Ghost in the shell de 1995

Major já “nasce” tendo que lidar com a condição fronteiriça de existir enquanto uma forma mecânica (shell) que comporta uma vida, ou alma, orgânica e humana (na série chamada de ghost). O único resquício fisiológico da androide é seu cérebro, também alterado — Um parêntese: a representação da alma humana via presença cerebral é interessantíssima, mas não vou me estender nesse tema aqui. Se quiserem debater isso depois, #ficaadica.

Na revistinha mangá, onde a história de Ghost é contada pela primeira vez em 1989, a personagem de Major soa mais púbere e inconsequente. A revista como um todo assume o estilo infanto-juvenil típico, intercalando humor às cenas de ação cinematográficas. Desenvolve-se a trama principal — a caça ao ciberterrorista denominado Mestre dos Fantoches — e as tramas paralelas, como o caso dos tanques militares em formato de aranha que adquirem auto-consciência e resolvem não obedecer mais as ordens dos comandantes.

O enredo de toda a série japonesa é apresentada: trata-se de prever as consequências da interação humano-máquina. Major, com o tempo, busca compreender como sua natureza (entenderam a ironia? risos) se difere e se assemelha dos humanos e dos computadores, revelando limites e grandes possibilidades de ação. Com a narrativa animada de 1995 o sentido da história muda. Desculpem, não é exatamente o sentido que muda, mas o tom. Como escreveu Daniel John Furuno neste artigo aqui:

Sem o senso de humor do mangá, o anime é muito mais sombrio e, de certo modo, pessimista. O apelo erótico — que aqui se resume ao figurino (ou à falta de um) da Major — é frio e um tanto deslocado. Aliás, a própria personagem parece outra: a jovem do mangá, que muitas vezes se comporta como uma adolescente pirracenta, mas que apresenta um nítido amadurecimento ao longo da trama, não existe; em seu lugar, a versão animada coloca uma mulher séria e ensimesmada, extremamente consciente dos dilemas filosóficos resultantes de sua condição, e que só sofre uma transformação significativa após os eventos do final da história.

De modo geral, o filme anime termina por contar uma outra versão da história retratada na revistinha mangá, assim como o filme de 2017 reconta a história do anime também de uma forma diferente. E veremos que o ponto principal para ilustrar a mudança de perspectiva sobre o futuro que busco traçar neste texto é justamente o fato de que a franquia assumiu, ao longo dos anos, essas três versões.

Diferente dos cenários nucleares e de grandes corporações imaginados nos anos de 1970 e 1980, desde o início, Ghost in the shell se ocupou em destrinchar a subjetividade humana em meio aos avanços tecnológicos iminentes. E por isso é um ícone: talvez tenha sido, junto com o livro Androides Sonham com Ovelhas Elétricas? (1968), o marco inaugural de toda esta discussão filosófica no mundo do entretenimento pop, inspirando grandes filmes como Matrix (1999) e antecipando conceitos e estéticas importantes para a literatura futurística cyberpunk. “Se humano e máquina estão cada vez mais próximos, qual é a fronteira que os separa?”

No anime de 1995 — um dos meus filmes favoritos de todos os tempos, diga-se de passagem — a história conta “apenas” com a perseguição, por parte de todo o Setor 9, ao Mestre dos Fantoches. Transbordando reflexões filosóficas, a protagonista Major lidera a caçada ao ciberterrorista. Conforme se aproxima do suposto inimigo, a agente de elite encara seus questionamentos mais profundos e que representam alguns dos maiores anseios de toda a série até então. As possibilidades infinitas que o aperfeiçoamento tecnológico pode proporcionar ao indivíduo altera sua consciência sobre si mesmo? As memórias, a personalidade e as características próprias de cada corpo ou cérebro alterado são autênticas ou são fabricadas? Os seres cibernéticos serão capazes de produzir novos seres, mais complexos e autônomos?


Início da zona de SPOILER — aconselho que assistam aos filmes antes de continuar :)

Ao final da trama, conhecemos o Mestre dos Fantoches. Trata-se de um acidente de percurso. Uma entidade auto-consciente desencadeada a partir da enorme rede de tecnologias militares internacionais que visava produzir um androide espião capaz de solucionar, por meio da aquisição de informações estrangeiras vitais, importantes embates diplomáticos. O Mestre de Fantoches “cria vida”, ou seja, torna-se consciente, com o processamento dos dados do projeto 2501 — iniciativa norte-americana para construir tal agente cibernético — rebelando-se e recusando-se a “servir” aos propósitos para os quais fora “produzido”. Como parte de seu plano, o Mestre “encarna” em uma androide e é capturada por agentes do Setor 9.

Na cena do filme anime de 1995, o Mestre dos Fantoches, ou Projeto 2501, “encarnado” em um corpo cibernético

O que assistimos, então, é uma consciência virtual que se transfere para um corpo robótico fabricado, tornando-se uma entidade viva capaz de raciocinar e ter sentimentos de forma autônoma e que excluiu completamente qualquer elemento orgânico ou fisiológico de sua composição. Porém, ainda há uma limitação final. Assim como Major, o Mestre dos Fantoches compreende sua incapacidade de se reproduzir. Como é possível evoluir e perpetuar se não é possível gerar novos seres?

Aí nos encontramos no desfecho do filme, o clímax, a parte que eu choro… risos. Brincadeiras a parte, o que difere de modo crucial esta segunda versão da terceira, o filme live action de 2017, é justamente a forma como ambas terminam.

Diálogo final entre o Mestre dos Fantoches e Major Motoko Kusanagi

No anime de 1995, ser capturado pelo Setor 9 foi o jeito que o Mestre dos Fantoches encontrou para se aproximar de Major e fundir-se a ela no plano virtual para dar origem a um terceiro ser. No epílogo dos dois personagens, o Mestre convence a androide sobre sua participação imprescindível na construção de algo maior que eles mesmos e por fim conseguem, através de uma simbiose de informações (popularmente conhecida como “a gente faz amor / por telepatia”), criar um descendente, abrindo a possibilidade de perpetuação da nova consciência virtual e rompendo com uma das únicas fronteiras restantes entre o que é próprio da condição humana e o que pode ser produzido pelas máquinas — a capacidade de perpetuação de uma espécie consciente. Major, ao mesmo tempo que abandona sua parte humana ao abrigar em seu cérebro a nova consciência, consegue realizar um de seus maiores anseios, o de originar uma forma viva completamente virtual, cibernética e autônoma.

De certo modo, o Ghost in the shell de 1995, apesar de contemplar a discussão acerca da tal da singularidade humana, não teme perdê-la. Afinal de contas, a protagonista do anime escolhe dar continuidade à uma consciência virtual ao invés de manter sua “humanidade cerebral”, seu ghost. No fim, a reflexão proposta pelo anime sugere não uma ameaça de superação do ethos humano, e sim um percurso inevitável de superação do ethos humano. Uma consequência não intencional, eu diria. Sem dúvidas essa versão da história, altamente filosófica, agrega complexidade às previsões sobre nosso futuro tecnológico, mas ainda não responde a questão inicial deste texto.

Em A Vigilante do Amanhã, título em português da versão live action, assistimos uma produção fotográfica linda, baseada nas cenas do anime — juro, tem sequências que são idênticas — mas com menos de 1/3 de toda a “pegada filosófica” das obras anteriores. A despeito de ser dirigido e distribuído por Hollywood e de ter sofrido whitewashing, escalando atores brancos para interpretar papéis de orientais, o que por si só já são grandes problemas, o filme de 2017 fica muito aquém da história que o inspira e revela, no final, uma perspectiva muito diferente sobre o destino de nosso ethos humano.

Neste filme, concomitante à perseguição ao ciberterrorista que anda chacinando cientistas importantes, a personagem Major busca, ao longo do filme inteiro, recuperar sua memória e descobrir o que aconteceu antes do procedimento de transferência do seu cérebro orgânico para seu corpo cibernético. Os diálogos reflexivos do anime foram cortados, transformando os anseios filosóficos de Major em uma “simples” busca por sua identidade pessoal, pré-intervenção. Um retorno à Motoko humana.

Ao término do enredo, descobrimos que ela e o ciberterrorista em questão — que não é o Mestre dos Fantoches — , quando mais jovens, eram um par amoroso que faziam parte de um grupo rebelde anti-desenvolvimento tecnológico, perseguidos pelo governo. Após capturados, ambos são submetidos à transferência cerebral. Enquanto o ciberterrorista retoma sua memória e se rebela contra quem o fabricou, assassinando-os, a Major continua com seu trabalho no Setor 9, até entrar em contato com ele novamente e também recuperar as suas memórias. No epílogo final, o diálogo dos dois se reproduz como no anime de 1995: o vilão conversa com a Major sobre a possibilidade de, juntos, sacrificarem seus ghosts para criarem um ser autônomo e com consciência virtual; um descendente.

Mas qual não foi minha surpresa? A Major se recusa a abrir mão de sua humanidade e abandona o ex-companheiro que morre alvejado pelos helicópteros do governo que os perseguiam. A personagem, no filme de 2017, termina a história dizendo que “encontrou as suas respostas”. Na cena final vemos Major e a mãe da adolescente Motoko Kusanagi, a jovem rebelde levada pelo governo, em frente ao túmulo de Motoko. Major decide então seguir com a mãe do seu cérebro ou do seu ghost ou da sua parte humana, dando a entender que ela continuaria a vida interrompida pelo processo tecnológico que transformou seu corpo em um aparato cibernético policial.

Cena do live action, quando o ciberterrorista revela que Major tinha uma “vida antes disso tudo acontecer”.

Optar por retomar sua biografia é, no sentido que tentei organizar aqui, reforçar a ideia de uma saída para sua humanidade. Major, em 2017, resiste à “coerção” da entidade auto-consciente e se nega a perder a única coisa que a reconhecia como indivíduo, como pessoa. O filme sugere uma solução antropocêntrica dos conflitos, elegendo os laços da subjetividade humana — a relação com a mãe de Motoko, por exemplo — como superiores ao ímpeto ou desejo de criação e perpetuação de novos seres. No fim do dia, Major conseguiu salvar seu lado humano de um impiedoso avanço tecnológico, rejeitando a proposta de fundir-se por completo a uma nova forma de vida, virtual e inorgânica.

Fim da zona de SPOILER


A mudança de final do live action de 2017 em relação ao final do anime de 1995 é radical. E, pra mim, representativo desta “atualização dos medos sobre o futuro” que podemos perceber, tanto na realidade como nas obras de ficção. Crer em um desenvolvimento tecnológico sem abrir mão de nossa humanidade parece ser, hoje, uma das maiores tensões com as quais temos que lidar. Se antes temíamos as guerras nucleares ou a repressão dos grandes monopólios tecnológicos, agora (além disso) nos preocupamos em salvaguardar nossa singularidade humana, reconhecendo e reforçando as fronteiras entre nós e eles — máquinas, robôs, androides, inteligências artificiais, algorítimos virtuais, Siri…

Veja bem. Não estou falando aqui sobre robôs ou máquinas fazendo coisas no lugar de pessoas e só. Isso é uma problemática antiga, principalmente quando pensamos nas relações de trabalho. Tempos Modernos, filme de Charlie Chaplin, tá aí desde 1936 pra não me deixar mentir. O que percebo não é um caso de substituição ou de sujeição (como no caso de O Exterminador do Futuro, por exemplo). É um caso de superação, ou melhor, de uma adaptação tal que a máquina ou robô ou androide seja capaz de apreender nossos valores e reproduzi-los de forma semelhante ou até mais competente. Uma espécie de Teste de Turing perfeito…

E a partir de então, o que seremos nós diante deles?

Cena do filme Ex-Machina que narra os conflitos entre Ava, uma inteligência artificial, seu criador Nathan Bateman e o programador Caleb Smith, escolhido para aplicar o Teste de Turing na androide

Talvez aí resida nosso temor perante um futuro altamente tecnológico, com o desenvolvimentos de seres não biológicos eficiente até para cuidar de nossas crianças ou demonstrar empatia e compaixão. Nos tornaremos descartáveis? Nos tornaremos previsíveis? Nos tornarmos nada além de um construto orgânico capaz de fazer umas contas, escrever uns livros, pintar uns quadros ou abraçar uns desconhecidos? Se daqui a alguns anos até nossa habilidade de fazer julgamentos críticos e contextuais puder ser copiado ou aprendido por uma consciência virtual, nos restará ser alguma coisa de fato singular?

Afora as respostas religiosas — que particularmente não me interessam — as saídas para esse imbróglio antropotecnológico ainda são desconhecidas… Até lá, nos contentamos em pensar sobre esses dilemas e perder um bom tempo criando textos na internet.

Pode confessar, isso é muito Black Mirror…

One clap, two clap, three clap, forty?

By clapping more or less, you can signal to us which stories really stand out.