Parte I: Animar
Escrevi três textos comentando sobre os desenvolvimentos recentes das Inteligências Artificiais. Comento mais sobre os possíveis impactos no uso destas ferramentas nos modos de vida humanos do que sobre o próprio funcionamento delas.
Os três textos são: I. Animar; II. Simular; III. Alucinar.
Os links para as partes seguintes estarão linkados aqui após a publicação delas.
Este primeiro texto é sobre como nossa relação de antropomorfizar as máquinas acaba as colocando numa posição subalterna e como isso impacta em nossas relações humanas.
O canto dos pássaros mecânicos
Na obra Jungle Jam, do coletivo Chelpa Ferro, o público testemunha uma performance de máquinas de costura que, enfileiradas e presas à parede com um saco plástico na ponta, parecem se comunicar. Se a pessoa espectadora sentar no meio da sala e fechar os olhos, pode ter a impressão de ouvir o som de pássaros batendo asas, e de que eles se comunicam com os outros “pássaros” dentro da mesma sala, de forma coordenada, às vezes até de forma ritmada.
Não existe nada de inteligente nestas máquinas de costura, apenas uma programação eletrônica básica que aparenta algum tipo de coordenação entre estes aparelhos. Ao fechar os olhos, os aparelhos tornam-se entidades, seres animados, dotados de agência — ou seja, o poder de agir por vontade própria, de forma autônoma, respondendo às mudanças que acontecem no ambiente em que se encontra.
Nossa mente pode ser facilmente enganada, nos conduzindo a fabricar sentido a partir da combinação aleatória de dados que provocam os sentidos, criando a ilusão de que algo parece ser o que não é. Quando desconhecemos os princípios por trás dos objetos mecânicos com os quais nos relacionamos, tendemos a ignorar seu funcionamento para que essa relação possa fluir mais facilmente, sem nos sobrecarregar cognitivamente. O efeito colateral dessa relação é a criação de uma intuitividade com uma aura de magia. Sempre há algo de mágico em conversar com uma caixa ligada na tomada.
Hoje, a redução destas fricções aparece para nós muitas vezes de forma antropomorfizada — atribuindo aspectos humanos a animais, deuses, objetos e elementos da natureza — pois a forma humana nos parece mais amigável, e problemas sistêmicos com inúmeras camadas de complexidade que gostaríamos que fossem resolvidos por uma pessoa, na verdade são tratados de forma paliativa por robôs que tentam simular uma pessoa do outro lado da tela.
A relação com entes criados para servir é histórica e muito anterior a chatbots e assistentes de voz.
Antropomorfizar para antropocentrar
Na cultura judaica, por exemplo, existe o Golem, criatura mitológica com origem bíblica que seria um ser artificial místico, feito de barro, e que ganharia a vida ao receber a inscrição Emet (“verdade” em hebraico) na testa. Estas criaturas se tornavam servas de seus donos, como conta a história de um rabino que criou um golem para defender um gueto judaico em Praga. No século XIX a escritora Mary Shelley usa uma premissa similar para criar uma das criaturas mais famosas da cultura pop, o Frankenstein, que seria feito de restos mortais de outros seres humanos, e que ganha a vida de forma artificial.
A própria origem da palavra “robô” significa “servidão” em tcheco. A palavra teria se difundido a partir da peça R.U.R., escrita em 1920 pelos irmãos Capek, onde estes robôs eram seres semi-humanos e sem alma fabricados com matéria orgânica sintética para servirem de escravos da humanidade. Enquanto os robôs replicantes da peça de teatro (e mais tarde, no filme Blade Runner) não se tornam realidade, os algoritmos de inteligência artificial são como a essência, a alma — ou anima — que habitarão os corpos das máquinas no futuro.
Essa ideia de que algo não-humano possa se comportar como se fosse humano está presente em narrativas populares há muito tempo, pois é uma forma de tentarmos explicar fenômenos ao nosso redor tentando vinculá-los a algum tipo de intencionalidade — fazemos isso o tempo todo com animais, por exemplo — e também revela uma dinâmica relacional de poder centrada no ser-humano: apesar de autônomas, as entidades não-humanas, quando animadas, são propriedade de um humano e devem se submeter a este humano. Ou seja, perpetua uma visão antropocêntrica do mundo, em que seres humanos estão acima de todos os seres e entidades que co-habitam o mesmo ambiente que eles.
Escravagismo robótico
Sendo os robôs os seres artificiais criados por alguém para servir em alguma função, atribuída a eles por nós seres humanos, quem responderá por seus atos? Se os tratamos como servos, a quem eles servem?
O professor David Gunkel , em entrevista para a New York Magazine, afirma que uma vez que algoritmos de IA sejam propriedade intelectual de organizações como o Google ou a Open AI, estas empresas deveriam ser responsabilizadas pelos atos destas máquinas, ainda que tenham autonomia para executar decisões sem a supervisão direta de seus criadores. Para Gunkel, este tipo de relação tem um nome: “escravidão”.
“Os escravos durante os tempos romanos eram parcialmente entidades legais e parcialmente propriedade.” — David Gunkel
Para os romanos, os escravos eram tratados como propriedade a não ser que estivessem engajados em atividades comerciais, ocasião em que seus atos não eram de responsabilidade de seus donos. De acordo com ele e outros pesquisadores de direitos para robôs, estas leis romanas que legislavam sobre os escravos poderiam servir como base para a criação de leis que regulem a existência e convivência das inteligências artificiais entre nós.
É fato que há a necessidade da regulação de tecnologias tão poderosas e a responsabilização pelas consequências de seus usos irresponsáveis. Porém as premissas por trás desta relação de servidão — quando antropomorfizada da forma que viemos fazendo há algum tempo com chatbots e inteligências artificiais, na realidade e na ficção — na verdade mascaram um desejo colonial antigo de submeter outros seres às suas vontades.
“Nós moldamos nossas ferramentas e então nossas ferramentas nos moldam”
O debate sobre os direitos dos robôs — algo que era considerado tema de ficção científica até não muito tempo — agora nos impõe dilemas morais urgentes.
Quando em 2018 a Amazon, Google e Apple começaram a lançar funcionalidades em seus assistentes de voz reforçando “boas maneiras” em crianças, agradecendo quando elas usavam um “por favor” para dar comandos de voz, era notável que estes aparelhos já não eram apenas computadores conectados a algoritmos de aprendizagem de máquina. Para uma pessoa nascida na última década, a IA é também um ente que co-participa de seu processo pedagógico de socialização.
Em entrevista para a New York Magazine, o pesquisador de IA Blake Lemoine propõe um cenário perturbador:
“Digamos que você tenha uma RealDoll em tamanho real no formato de Carrie Fisher (atriz de Star Wars).” Para esclarecer, uma RealDoll é uma boneca sexual.
“É tecnologicamente trivial inserir um chatbot nesta boneca.” (…)Ele disse: “O que acontece quando a boneca diz não? Isso é estupro?
Eu disse: “O que acontece quando a boneca diz não, e não é estupro, e você se acostuma com isso?”
“Agora você está chegando num dos pontos mais importantes”, disse Lemoine.
“Se essas coisas realmente são pessoas ou não — eu acho que são; Eu não acho que posso convencer as pessoas que não pensam que são — o ponto principal é que você não pode dizer a diferença. Então, vamos habituar as pessoas a tratar coisas que parecem pessoas como se não fossem”.
Esse tipo de relação sádica com objetos animados que emulam o comportamento humano é perigosa demais para que as deixemos somente no âmbito da vida privada. O criador do chatbot ELIZA — primeiro chatbot criado nos anos 1960 — passou a vida se arrependendo de sua criação, chegando a afirmar que estes brinquedos “divertidos, encantadores e viciantes” seriam nossa ruína.
“Não é de admirar que homens que vivem dia após dia com máquinas das quais acreditam ter se tornado escravos comecem a acreditar que homens são máquinas.” — Joseph Weizenbaum, criador da ELIZA.
Ao mesmo tempo que estamos moldando as relações com estas entidades, elas também moldam nossos comportamentos no futuro. Não é apenas a tecnologia por si só que compõe os possíveis cenários que viveremos em 10, 15 ou 20 anos. São as regras, leis e incentivos que delinearão as relações dos humanos com as máquinas, das máquinas com outras máquinas, e — o mais importante — dos humanos com outros humanos.
Ao nos acostumarmos a tratá-las como seres humanos corremos o risco de nos dessensibilizar em relação aos outros humanos ao nosso redor. Quando analisamos a inserção de uma nova tecnologia no ambiente social, essa análise não acontece no vácuo, há uma história que a precede, bem como desigualdades existentes. A desigualdade na produção e no acesso ao uso desta nova tecnologia pode aumentar ainda mais o abismo entre classes — e até o historiador israelense Yuval Noah Harari já cantou a bola: com o avanço das inteligências artificiais, o efeito colateral mais provável é o surgimento da "classe dos inúteis": uma grande quantidade de pessoas cujos conhecimentos e habilidades que tem alguma função econômica, tornam-se inúteis porque estas funções serão substituídas pela combinação de várias destas tecnologias digitais.
Os LLMs (Large Language Models, base tecnológica para o funcionamento do ChatGPT) são apenas uma das tecnologias em ritmo de desenvolvimento exponencial. A combinação desta e outras tecnologias tem potencial de gerar transformações sociais, econômicas e políticas de forma muito rápida e abrupta. Diante deste cenário, as implicações legais deveriam ser as primeiras a serem discutidas. Porém, devemos refletir sobre qual futuro que desejamos como sociedade, e colocar o pé no chão na hora dessa discussão.
Devemos pensar sobre quais tipos de comportamento humano podem aparecer de forma exacerbada tratarmos as máquinas como servos dos seres humanos, e quais as relações de poder que irão se estabelecer. Outro ponto é pensar sobre os modelos econômicos que viabilizam o acesso a este tipo de tecnologia. Se há desigualdade no acesso, um efeito mais provável é de que aqueles com maior poder financeiro possam acessar as tecnologias mais avançadas, ganhando ainda mais vantagem econômica sobre aqueles que tem acesso limitado. Nesse ponto, a falta de uma legislação adequada poderia criar um abismo social ainda maior entre seres humanos. Nosso deslumbramento com uma tecnologia que parece mágica não deveria nos iludir sobre as possíveis consequências que estas podem ter sobre nossa espécie — e de forma irreversível.
Prévia da parte II. Simular
No próximo texto (II. Simular) eu vou falar um pouco mais sobre a simulação do comportamento humano e comento sobre o termo "Synthetic Human Behavior" usado pela linguista Emily M. Bender na entrevista pra New York Magazine que citei acima.
Eu começo com o trecho abaixo:
O que é um ser humano?
A ideia de que todos os seres humanos são (ou deveriam) ser tratados com equanimidade é um dos princípios que orientam a Declaração Universal dos Direitos Humanos da ONU, texto que não tem nem 100 anos. Porém, até pouquíssimo tempo as coisas não eram bem assim.
Até 1958, por exemplo, na Europa ainda existiam ‘zoológicos humanos’, exibindo pessoas de África, Ásia e América do Sul como se fossem animais em jaulas. Na mesma entrevista com Lemoine citada na parte I. Animar, ele lembra à jornalista que há 50 anos ela não poderia abrir uma conta bancária sem a assinatura de seu marido, porque mulheres não eram consideradas integralmente como pessoas. Durante o auge da Revolução Industrial, até meados do século XIX era comum que as crianças trabalhassem nas indústrias. Nos EUA, a segregação racial só foi formalmente extinta a partir de 1965. E no Brasil, somente em 2011 o Supremo Tribunal Federal reconheceu que pessoas do mesmo sexo poderiam constituir família.
A conquista pela ampliação de direitos legais para outras populações que historicamente são marginalizadas e submetidas à relações de poder desiguais é algo muito recente na História, e a própria noção de que o conceito de “humanidade” pudesse ser estendido a outros seres além de cidadãos caucasianos e Europeus é muito recente, e sabemos muito bem que na realidade ainda falta muito para que muitos destes direitos sejam plenamente alcançados.
