No último fim de semana, tive o prazer de ver pela primeira vez em uns 20 anos o filme Fantasia, da Disney. Foi em um evento promovido pelo Museu da Imagem e Som de São Paulo, no qual o filme foi acompanhado por uma banda ao vivo tocando clássicos do rock da década de 60 e 70.
A banda era inegavelmente boa, e do repertório ninguém seria louco de falar nada. Ainda assim, as músicas não tinham o mesmo contato próximo com a ação do desenho que a trilha sonora original tinha (pelo que eu me lembre de quando tinha 6 anos). Senti falta por exemplo da 6ª sinfonia do Beethoven na parte que tem os pégasos, cupidos e centauros.
Por outro lado, os 20 anos que me separaram daquela última visualização me deram também uma série de conhecimentos que eu, com 6 anos, jamais sonharia que teria. E foi graças a eles, por exemplo, que eu consegui perceber uma discreta mensagem sobre tecnologia na parte do Mickey Aprendiz de Feiticeiro.
Essa era uma das minhas partes favoritas quando eu era criança — em parte porque ela tinha o Mickey. Resumindo: o ratinho da Disney era ajudante de um mago poderoso, que fazia magias misteriosas. Como ajudante, ele fazia a tarefa repetitiva e extenuante de buscar água numa fonte e jogar em um poço.
Quando o mago vai dormir, Mickey rouba seu chapéu enfeitiçado e usa-o para encantar uma vassoura. Ele então ensina a vassoura enfeitiçada a fazer seu trabalho para ele. Feito isso, ele fica brincando até eventualmente dormir, mas ele então acorda para ver que a vassoura já encheu o poço muito além de sua capacidade, e agora começa a inundar a torre do mago. Suas tentativas de fazer a vassoura enfeitiçada parar só fazem piorar o problema, que só é superado quando o mago, provavelmente puto com o barulho, acorda e dá um fim na bagunça (e uma vassourada na bunda do Mickey). Se você ainda não viu, dá uma olhada aqui embaixo:
O mago foi um personagem que eu amei rever. Ele é evidentemente malvado, mas do jeito mais misterioso, legal e atraente possível. Mesmo ele dando uma vassourada na bunda do Mickey, não tem como não se sentir pelo menos curioso pelos poderes impressionantes que ele deve ter, e o sorriso malvado que ele dá no final é algo que eu quero saber fazer quando for mais velho.
O Mickey também é bem fofinho, e é fácil se identificar com a vontade dele de automatizar seu trabalho: ficar carregando baldes de água um dia inteiro, na distante expectativa de um dia se tornar um mago poderoso como seu mestre, deve ser bem brochante. Mesmo assim, há que se considerar que o tapa na bunda que ele toma é merecido: ele mexeu com uma força muito maior do que imaginava.
“Uma força muito maior do que imaginava”. Essa expressão pode se referir a magia maldosa, a pessoas perigosas ou (e é isso que me chamou atenção) a tecnologias — que talvez sejam uma forma contemporânea de magia.
O que Mickey faz com a vassoura do mago (automatizar sua tarefa) é algo que é feito atualmente em escala industrial no mundo inteiro. A cada dia, computadores se tornam capazes de realizar uma diversidade ainda maior de trabalhos mecânicos e repetitivos. E a tendência é que esse ritmo de substituição de trabalhos por máquinas só se acelere.
Há, já de cara, a diferença de que na vida real, ter sua tarefa automatizada não te permite ficar brincando e dormindo enquanto seu trabalho é feito para você. Em geral, o dia em que um robô (ou vassoura) aprende a fazer o seu trabalho por você é o dia anterior ao da sua demissão. Mas não é isso que o desenho parece apontar como ameaça.
A ameaça, no desenho, é o impacto que o trabalho vassourizado tem sobre o ambiente (a torre do mago). O trabalho do Mickey, quando executado no ritmo desumano da vassoura encantada, ameaça alagar a torre. Quando o Mickey tenta evitar esse destino, ele apenas acelera a sua chegada. É só mediante a intervenção providencial do mago que as vassouras não fazem da torre um lugar inabitável. O livro de receitas do mago chega a ser molhado, mas o desenho não deixa claro se ele foi perdido ou não. Basta saber que o estrago causado pelas vassouras foi grande.
Parece haver aí uma clara mensagem sobre a natureza do trabalho. Enquanto executado por humanos, ele faz sentido e traz benefícios (por mais que seja chato e cansativo); em escala maquinal, ele perde seu sentido e se torna danoso. Ele coloca em risco, nesse último caso, as próprias condições de sua realização.
Mas há também uma preocupação clara sobre o perigo da tecnologia. Aquilo que permite acelerar o trabalho a um ritmo muito mais ágil, diferente do que a gente geralmente pensa, não traz necessariamente benefícios. Pode, aliás, trazer uma destruição imensa.
Lançado pela primeira vez em 1940, Fantasia provavelmente não tinha preocupações com o meio ambiente ou com o potencial destrutivo das indústrias (essas questões só ganhariam mais espaço na pauta política internacional lá pela década de 90, com o “fim da Guerra Fria”). Mas para as nossas gerações, esse capítulo do filme pode ser lido como um grande aviso sobre o uso incalculado de novas tecnologias que vão além da escala humana.
Não faltam exemplos de tais tecnologias. A primeira que vem à mente é a Inteligência Artificial. Por meio dela, é possível que robôs aprendam tarefas novas de forma cada vez mais rápida . Isso acelera tanto as tarefas quanto a eliminação de empregos a um ritmo que positivamente ameaça a nossa forma de vida — se não o nosso planeta, então ao menos a nossa organização social em torno de trabalho/salário.
Quando falamos em redes neurais, a questões é ainda mais tensa. Redes neurais são uma forma de “aprendizagem de máquina”: uma técnica por meio da qual máquinas podem aprender novas tarefas de maneira quase automática. E são, também, um exemplo de programas que não são plenamente entendidos por seus programadores: eles sabem o que entra e o que sai da rede neural, mas não sabem ao certo como cada entrada se transforma em cada saída.
Esse parece ser um claro exemplo de Mickey vestindo um chapéu de mago grande demais para sua própria cabeça. Não é o único: a técnica CRISPR de edição genética permite que pequenas mudanças sejam feitas ao código genético de determinadas espécies. Por meio dela seria possível, por exemplo, substituir todos os mosquitos do mundo por mosquitos que não transmitem malária. Isso efetivamente eliminaria a malária da face da Terra — mas quem sabe quais outras consequências isso também teria?
Pode ser que no futuro todas as nossas tarefas sejam feitas por robôs, e a gente receba uma renda básica universal para realizar trabalhos criativos, interessantes e envolventes que robôs não conseguem realizar. E pode ser que no futuro os mosquitos não transmitam mais doenças, e nenhuma consequência terrível surja disso. Mas pode ser também (e isso me parece muito mais provável) que essas tecnologias mudem de maneira drástica a forma como vivemos nas próximas décadas. E se seguirmos os princípios mais firmes da racionalidade, temos que concordar que não dá pra esperar que nenhum mago venha desfazer a zona que a gente fez.