O quarto chinês e o motivo pelo qual chatbots nunca conversarão como uma pessoa

Theodore interagindo com seu sistema operacional Samantha (cena do filme Her)

Podem as máquinas pensar, é a pergunta que Alan Turing inicia seu texto de 1950, Computing Machinery and Intelligence. A ideia de máquinas que se comportam como seres humanos é provavelmente a primeira que se tem quando surge o assunto sobre inteligência artificial. Essa ideia permeia a imaginação do homem desde o início da computação. Hoje com chatbots ganhando cada vez mais espaço no cotidiano das pessoas, através das redes sociais, a ideia de conversar com uma máquina da mesma maneira que conversamos como uma pessoa volta para as rodas de discussão. Porém esse tipo de pensamento tem algumas implicações que devem ser consideradas e infelizmente esse tipo de realidade está mais longe do que gostaríamos que estivesse.

Para aprofundarmos mais sobre a questão é necessário alinhar alguns conceitos. O filósofo John Searle faz uma distinção no domínio da inteligência artificial em seu texto Mentes, Máquinas e Consciência: uma introdução à filosofia da mente, identificando a existência de uma Inteligência Artificial Fraca (I.A Fraca) e uma Inteligência Artificial Forte (I.A Forte). Para o autor devemos considerar que toda máquina que consegue manipular dados, desempenhando operações rigorosas, nos auxiliando a testar hipóteses, funcionando como uma ferramenta, como por exemplo uma calculadora, um computador, um celular, uma máquina de raio-x, possuem I.A Fraca. E máquinas que são capazes de se assemelhar à mente humana, no sentido de possuir estados cognitivos avançados e consequentemente possuir a capacidade de identificar em outros seres esses estados cognitivos, são as que possuem I.A Forte.

Como estados cognitivos avançados entendemos que é necessário possuir a capacidade de compreensão, um entendimento do contexto no qual se está inserido, uma intencionalidade. É necessário conseguir se relacionar sem um script pré-definido e limitado. Em uma conversa livre é isso que esperamos. Mas como veremos a seguir compreender é diferente de manipular dados.

Mesmo que IA Fraca seja uma realidade atualmente, possuindo uma curva de evolução cada vez mais acentuada, ela se distingue conceitualmente da I.A Forte, não sendo capaz de extrapolar seus limites e mesmo que uma máquina possua a capacidade de manipular símbolos e informações de maneira extraordinária, isso não seria suficiente para poder atribuir-lhe compreensão. E por isso, uma conversa, no nível que temos entre humanos, não seria possível para esse tipo de I.A

Através do experimento do quarto chinês vamos entender como Searle demonstra a diferença existente entre manipulações de símbolos e compreensão.

Podemos dizer que quem está no quarto sabe chinês?

Agora suponha que essa pessoa depois de um tempo realizando esse teste se saia tão bem em relacionar as perguntas enviadas em chinês, com o calhamaço de regras em inglês, que consegue devolver as respostas em chinês de forma extremamente eficiente. Alguém que estará do lado de fora e não saiba como está funcionando o processo dentro do quarto, se questionado sobre as habilidade dessa pessoa em chinês, irá responder prontamente que a pessoa que está do lado de dentro domina o idioma chinês. Já nós, não podemos dizer que a pessoa que está dentro do quarto sabe chinês, pois conhecemos o que está acontecendo e a única atividade que esta pessoa está realizando é a manipulação de símbolos de maneira formal sem nenhum tipo de significado.

Mas no caso do idioma chinês, eu obtenho respostas manipulando símbolos formais em chinês, sem significação. No que diz respeito ao chinês, eu simplesmente me comportei como um computador; executei operações computacionais com base em elementos formalmente especificados. Para os propósitos do idioma chinês, eu sou simplesmente uma instanciação de um programa de computador.

SEARLE, J. Mentes, Máquinas e Consciência: uma introdução à filosofia da mente. p.3

Searle está afirmando que mesmo que uma máquina possa manipular símbolos e informações de maneira surpreendente, isso não seria suficiente para poder atribuir-lhe inteligência. Ele está interessado no lado conceitual dessa questão. Está preocupado com a parte cognitiva, psicológica e filosófica de uma mente e se, de fato, uma máquina é capaz de reproduzir tais aspectos.

Para um exemplo prático vamos utilizar o caso de um famoso computador da década de 90 o Deep Blue.

Deep Blue nunca ganhou uma partida de Xadrez

Deep Blue vs Kasparov em uma disputa de Xadrez

Deep Blue é um computador da IBM que em fevereiro de 1996 ganhou uma partida de xadrez do então atual campeão do mundo Garry Kasparov, se tornando assim a primeira máquina a conquistar tal feito. Seguindo a linha de pensamento de Searle na verdade o Deep Blue nunca ganhou uma partida de xadrez, pois ele não sabe o que é jogar um jogo, o que é ganhar e até mesmo o que é xadrez. A única coisa que ele está fazendo afinal é manipular informações(símbolos formais sem nenhum significado para ele) com extrema eficiência. Não existe nenhum tipo de intencionalidade nesse caso, ele possui sintaxe, mas não semântica.

Na medida em que o programa é definido em termos de operações computacionais baseadas em elementos puramente formais, o que o exemplo sugere é que estes não têm conexão com a compreensão. Eles não são condição suficiente e não há, tampouco, razão para supor que eles sejam condição necessária ou mesmo que eles tenham alguma contribuição significativa para a compreensão. Observe-se que a força do argumento não é simplesmente que máquinas diferentes podem ter o mesmo input e output enquanto operando em princípios formais diferentes — não é este o ponto. O que queremos dizer é que por mais que se coloque no computador princípios formais isto não será suficiente para a compreensão, uma vez que um ser humano será capaz de seguir tais princípios formais sem compreender nada.

(SEARLE, J. Mentes, Máquinas e Consciência: uma introdução à filosofia da mente. p.4)

As únicas máquinas atualmente que podem pensar somos nós. A única intencionalidade que encontramos quando falamos sobre inteligência artificial está na mente de quem interpreta os outputs gerados por máquinas que construímos.

Por isso não adianta conectar seu chatbot a serviços de inteligência artificial como IBM Watson e acreditar que eles serão capazes de interpretar cada palavra dita, conseguindo assim manter uma conversa livre, como a Ava de Ex Machina ou Samantha do filme Ela(Her). Não é assim que esse tipo de inteligência funciona.

Mas por outro lado, nada disso impede que seu bot seja bom de papo. Como foi dito anteriormente a I.A Fraca tem evoluído de forma impressionante e devemos usa-lá a nosso favor para desenhar conversas que sirvam a um propósito. Desenhar conversas para chatbot é um processo que envolve muitas disciplinas, extrapolando o meio digital. É fundamental sempre estar atento a experiência do usuário em primeiro plano e como essa solução pode resolver o problema que pretende, como bem exemplificado no texto Como desenhar conversas para chatbots? do Caio Calado

É importante conhecer todos os limites existente nesse tipo de tecnologia, para que possamos extrair seu melhor sem perder tempo com questões que não se adequam ao problema. E se somos nós que atribuímos intencionalidade em outros seres e objetos, será que não deveríamos mudar o foco da pergunta inicial “podem as máquina pensar”, aceitando que mesmo que essas máquina não tenham um nível de compreensão como o da mente humana elas já são capazes de mudar completamente nossa relação inter-pessoal, alterando a forma que enxergamos uma sociedade?