Se um usuário do Bixby em uma noite de inverno… A literatura de um assistente virtual (Parte 2)
Na segunda parte de nosso folhetim lembraremos a importância de narrativas e poemas em nossas vidas, conheceremos alguns textos literários lidos pelo Bixby e debateremos um pouquinho sobre o contato de um/a usuário/a de celular e sua IA.
Prontas e prontos para a leitura dessa semana?
Então, vamos lá!
Me conta uma história?
Hoje eu me despertei de um sonho lindo
A minha avó sorrindo, ai, quanto tempo faz
Vó, que eu não te abraçava
A tua voz na sala, os quadros e os cristaisPois dos assuntos sobre bruxaria
A minha avó Daria é quem sabia mais
Dos mistérios do planeta
E o dom da natureza de se transformarE transformando ela mudou de plano
E um dia todos vamos, porém até lá
Vai, meu filho, encontra um jeito
De ser aqui mesmo o que você sonhar(TIM BERNARDES, 2022)
Quando a vovó contava uma historinha antes de dormir ou o papai fazia um trocadilho ou o amiguinho da escola contava uma piada eles estavam, na verdade, nos ensinando e encaminhando para além de como separamos a ficção daquilo que seja (quase sempre tão difícil de separar) chamado de realidade: estavam convidando para a identificação com suas experiências pessoais vividas por meio de palavras. Em outras palavras, eles tentavam, involuntariamente, criar vínculos que o passar do tempo, os desentendimentos das relações humanas e nem mesmo a morte conseguem apagar.
Desde pequenos somos impelidos a fazer parte do universo das histórias da carochinha, repletas de bruxas, princesas, sapos falantes, ogros, etc. com os quais conhecemos o funcionamento da realidade por meio de explicações alegóricas que representam o acesso de cada indivíduo não apenas ao mundo da imaginação, como também à compreensão de nossa vida em sociedade. Ao escutarmos as histórias narradas pelas pessoas queridas de nosso entorno, além de estarmos navegando nos oceanos dos outros, somos convidados a subir em suas caravelas. Consecutivamente, ao ouvirmos uma dessas histórias, conhecemos o (interior de cada) narrador de forma elaborada voluntariamente (ou conscientemente). Por sua vez, cada modo particular de organizar uma narração, os verbos escolhidos, a presença ou a ausência de adjetivos, a entonação, como ele ou ela envolve o ouvinte na história contada (entre outros procedimentos discursivos), parecem dizer mais a respeito de cada narrador do que propriamente da história contada.
Em “Literatura e Direitos Humanos”, Antonio Candido (2011) reforça a importância da literatura elaborada artisticamente como bem incompressível, ou que deveria ser inalienável, ao usufruto humano. Em outra medida, o crítico também expõe a eficácia subjetiva e coletiva das produções, esteticamente menos elaboradas, com as quais grande parte da população que não tem acesso às produções eruditas convivem rotineiramente, tais como as canções sertanejas, de ninar e de roda, entre outras formas artísticas menos elaboradas que atravessam nosso cotidiano. De maneira alguma Antonio Candido considera essas formas menos elaboradas como inferiores ao regozijo de ouvintes e leitores, pois o ensaio do professor trata sobre a importância da existência de um acesso universal a conteúdos esteticamente mais complexos. Afinal de contas, há como desprestigiar ou desvalorizar as histórias contadas por nossas avós que nos constituíram como seres humanos? Talvez por isso, elas possuam valor afetivo semelhante às obras universais da humanidade. Entretanto isso não as tornaria mais elaboradas, esteticamente falando, que A divina comédia ou o Dom Quixote.
Em “O narrador: considerações sobre a obra de Nikolai Leskov”, de Walter Benjamin (1989), nos deparamos com a influência do processo narrativo como uma característica meramente humana o que, segundo o filósofo alemão, parece devidamente representada na obra do autor russo mencionado no título. De acordo com Benjamin, a narração da experiência humana foi entrecortada após a 1ra Guerra Mundial. Antes do referido combate, os navegadores, por exemplo, eram importantes fontes de conhecimento, pois traziam em suas vozes aprendizados valiosos a respeito de outras culturas, valores e costumes. O trauma impingido por esse conflito bélico, além de entristecer o cenário político e social global, parece ter emudecido os homens — sobretudo aqueles que fizeram parte dessa carnificina.
Seja nas histórias das avós, seja na dos navegadores, parece haver um ponto em comum com os usuários do Bixby, pois esses últimos podem solicitar ao assistente que lhes conte histórias, poemas, haicais, etc. Curiosamente, se há alguma experiência envolvida nesse aspecto, ela advém do envolvimento do usuário com seu dispositivo celular e não de uma experiência vivenciada pela inteligência artificial. Nesse aspecto, a relação entre usuário e assistente virtual é quase umbilical, embora não chegue ao ponto de criar qualquer espécie de rixa, desavença, deslocamento ou desencaixe entre criador e criatura — como pode ocorrer na relação pai e filho, avó e neta, por exemplo — pois a relação homem-máquina está amparada nas três leis da robótica de Isaac Asimov (1950) [1].
Como exemplos de como essa produção pode ser constituída, vejamos alguns exemplos de solicitações que podem ser realizadas pelo usuário do Bixby nos celulares localizados em língua espanhola para a Espanha e leiamos quatro microcontos desse assistente virtual:
Léeme un poema
Lee un haiku
¿Puedes rapear?
Cuéntame una historia de Navidad
¿Puedes contarme alguna historia?
Cuéntame un buen cuento
Cuéntame un cuento largo
¿Puedes contarme un cuento?
Léeme un cuento
¿Me cuentas una historia?
¿Me contarías un cuento?
¿Podrías contarme una historia?
¿Sabes alguna historia de miedo?
Cuéntame una historia de miedo
Cuéntame algo terrorífico
Cuéntame algo que dé miedo
Cuéntame una historia de amor
Historia romántica
¿Me puedes contar una historia de piratas?
¿Me puedes contar un cuento para dormir?
Ella pidió un balón de fútbol y pensó que había sido mala porque le trajeron un vestido de princesa. Ella se convirtió en la reina del fútbol.
Cuando despertó, el asistente virtual seguía allí.
Alguien le dijo que aquella sería su última noche y blindó su casa de arriba a abajo. Comprendió demasiado tarde que la amenaza dormía a su lado.
Acudió a la oficina de objetos perdidos a por su cartera. No estaba allí, pero en su lugar encontró una sonrisa y una mirada que le acompañarían toda la vida. [2]
De acordo com o site oficial da Samsung do Brasil, as solicitações ao Bixby estão dispostas em uma produção subjetiva que descortina a rotina do usuário: “O Bixby permite que você se concentre no que mais importa. Ele aprende o que você gosta de fazer e trabalha com seus aplicativos e serviços favoritos para ajudar você a fazer mais coisas” (SAMSUNG, [n.d.], [n.p.]). Em relação à função chat (ou literária) do Bixby, topamos com textos pré-escritos, ou programados, como os citados acima. De outra maneira, digamos que, por questões éticas e óbvias de não acesso às informações pessoais, as histórias contadas pelo assistente não se assemelham às palavras, sites, buscas na internet, etc. do usuário de um aparelho celular. Como exemplo desse mecanismo de conversa com o Bixby, seguem prints de vídeos dos canais Canaltech e EMDTech, no Youtube, apresentando parte dessa produção artística Bixbyana na forma de rap e piada:
Figura 2 e 3: Rap decolando em 3, 2, 1 [3]; Um leão, um tigre e um urso… [4].
Também vislumbramos as solicitações da função chat servindo (quiçá, futuramente) como uma plataforma inovadora de produção artística — quase como uma ficção científica na iminência de funcionar na realidade — subjetiva, particular, singular, personalizada, etc. Ou seja, o Bixby poderia ser uma plataforma de histórias, piadas, poemas, raps, haicais, contos, etc. com uma tração potente que — além de interativa, como é de costume das literaturas encontradas nos meios digitais — retirasse, ainda que de sua literatura digital, o que, supostamente, chamaríamos de uma “leitura literária não personalizada”, assim como seu rap parece funcionar ao não se relacionar pessoalmente com o seu usuário, mas com qualquer um que segure o celular e solicite essa produção artística.
Na piada, também fica implicitamente representada a problemática dessa produção: afinal de contas, como garantir a um assistente virtual uma produção pessoal de piadas (ou seja, de alguns usuários para outros) e, principalmente, como tornar esse uso relevante sem que necessariamente — em um futuro que não parece distante — o aplicativo se veja diante da criação de um conteúdo que contenha grandes problemas de fundo éticos, morais, pessoais, políticos, sexuais, sociais, etc. não relacionados ao app, mas, sim, com o aprendizado (ou inserção de dados ao app) desse assistente virtual em relação ao usuário no qual o Bixby se espelha?
Como é de se imaginar, para funções como esta deverá haver, obviamente, uma limitação de dados para que qualquer personalização dê lugar a sugestões de riso pacíficas e nunca depreciativas. Para isso, cabe como exemplo o resumo da conferência da profa. Shannon Vallor (2022a, [n.p.]), que, em muito, parece entrelaçada aos textos de Antonio Candido (2011) e Jacques Lacan (1998) citados previamente:
O novo campo interdisciplinar ético da Inteligência artificial (IA) revelou a extensão pela qual os sistemas de IA tendem à reflexão e à ampliação dos vícios humanos: nossos preconceitos injustos e os comportamentos discriminatórios, nossa vontade de consumir e difundir informações falsas e nossa tendência de buscar qualquer mínimo lucro sem nos dar conta de que perdemos de vista a grandiosidade de nossas vidas. Ainda que isso seja verdadeiro, a metáfora do espelho expressa uma impressão enganosa e perigosa de que a IA simplesmente toma posse e reproduz nossa humanidade na forma de software. Todos sabemos que um espelho nunca capta a presença humana de maneira encarnada. Os espelhos de vidro apagam e bloqueiam grande parte de nosso físico e de nossa realidade consciente. As imagens de um espelho não transmitem cheiro, profundidade, suavidade, medo, esperança, imaginação. Então, o que é bloqueado por um espelho da IA? Nesta palestra eu exploro as dimensões de nossa humanidade que a transformação da ordem socioeconômica e moral da IA torna mais difícil para vermos em nós mesmos, uns nos outros e porque nosso futuro depende de trazer de volta à vista esses aspectos vitais de nossa humanidade [5].
Se, por um lado, a criação das narrativas do Bixby se ancorasse no espelhamento usuário/assistente, isso poderia parecer, à primeira vista, o calcanhar de Aquiles desses assistentes IA; por outro, a percepção do funcionamento dessas possíveis produções poderia sugerir o reconhecimento de quem segura o celular. Esse espelhamento do “outro” — ou do Bixby e de sua história contada — decorreria no processo de reconhecimento de características do usuário (altruístas ou vis) como a base de uma (possível) produção artística. Em outro aspecto, a arquitetura de aprendizado profundo da IA continuaria auxiliando o leitor e a leitora a alcançarem seu desenvolvimento humano através da leitura literária, seja no reconhecimento de suas virtudes, seja na ultrapassagem de seus vícios. Por isso, piadas menos explosivas como: “Esqueci as chaves. Você sabe inglês? Ouvi dizer que abre portas” são autoexplicativas como catálogo menos “explosivo” de piadas oferecido pelo Bixby.
Guardadas as devidas apresentações textuais dos vícios, que devem ser filtrados, uma produção literária que se apoiasse no espelhamento das escolhas do usuário em seu celular — além de problemas de acesso às informações pessoais do usuário — , poderia tender a uma aparente posse do inconsciente do usuário (e, se quisermos ser menos diretos, os dados involuntários produzidos por um certo sujeito) como matéria textual algoritmicamente elaborada. De acordo com a professora Shannon Vallor (2022b, 00h 26m 54s): “Mesmo que uma máquina genuinamente inteligente fosse criada usando cérebros humanos como projeto, ela não seria um espelho de nós, mas uma cópia nossa” [6]. Portanto, o espelho inconsciente do usuário na forma de dados de utilização de um celular se comportaria com refrações e reflexões e, por isso, a manutenção dos padrões éticos de sua função literária em relação aos dados do usuário — concebida por uma solicitação a ser devidamente aprovada para a escrita de narrativas nessa função do Bixby — poderia, inclusive, encontrar uma produção democrática e mais respeitosa do que as unidades humanas que utilizam um aparelho celular. Afinal de contas, os problemas decorrentes do alimento intelectual entregue ao assistente virtual para seu aprendizado ou depósito não parece uma falha na arquitetura da AI, mas um problema essencialmente humano.
[1] Na sequência, se por ventura houver a necessidade de recordar as três leis da robótica, de Isaac Asimov, ei-las: “1. Um robô não pode ferir um humano ou permitir que um humano sofra algum mal;/ 2. Os robôs devem obedecer às ordens dos humanos, exceto nos casos em que essas ordens entrem em conflito com a primeira lei;/ 3. Um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores”.
[2] Leia um poema para mim. / Leia um haicai. / Você pode fazer um rap? / Conte uma história de Natal. / Você pode me contar uma história? / Conte-me uma boa história. / Conte-me uma história longa. / Você pode me contar uma história? / Leia-me uma história. / Você pode me contar uma história? / Você poderia me contar uma história? / Você poderia me contar uma história? / Você conhece alguma história de medo? / Conte uma história assustadora. / Conte algo que seja assustador. / Conte algo assustador. / Conte uma história de amor/ História romântica/ Você pode me contar uma história de piratas? / Você pode me contar uma história de ninar? / “Ela pediu uma bola de futebol e achou que teria agido mal porque lhe trouxeram um vestido de princesa. Ela se tornou a rainha do futebol.” / “Quando acordou, o assistente virtual ainda estava lá.”. / “Alguém lhe disse que esta seria sua última noite e protegeu sua casa de cima para baixo. Ela percebeu tarde demais que a ameaça estava dormindo ao seu lado.”. / “Ele foi até o escritório de achados e perdidos para procurar sua carteira. Ela não estava lá. No entanto, encontrou ali um sorriso e um olhar que ficaria com ele para o resto de sua vida.”.
[3] Se por alguma eventualidade a letra do rap não for visível na imagem, pode-se lê-la completamente na sequência: “Todo mundo pode embarcar nessa viagem/ Giga é o que não falta, cabe toda sua bagagem. / Vem que nessa nuvem a gente sai da atmosfera/ Num piscar de olhos tchau Mercúrio, Vênus, Terra/ Um buraco negro engole tudo ao seu redor/ Quem visualizou, não respondeu, já fez pior/ Mas não se preocupe que eu não te largo no vácuo/ Essa conexão não cai nem com um sinal fraco”.
[4] Se por alguma eventualidade a letra da piada não for visível na imagem, pode-se lê-la completamente na sequência: Um leão, um tigre e um urso juntos dentro de um ônibus. Qual é o nome do filme? Ferocidade máxima.
[5] The new interdisciplinary field of AI ethics has revealed the extent to which AI systems tend to reflect back and amplify human vices: our unfair biases and discriminatory behaviors, our penchant for consuming and spreading misinformation, and our tendency to pursue narrow gains while losing sight of the bigger picture. While this is true, the mirror metaphor conveys the misleading and dangerous impression that AI merely captures and replicates our humanity in software. Yet we all know that a mirror does not capture the embodied human presence. Glass mirrors erase and occlude much of our material and conscious reality. Mirror images convey no smell, no depth, no softness, no fear, no hope, no imagination. What does the AI mirror occlude? In this talk I explore the dimensions of our humanity that AI’s transformation of the socioeconomic and moral order makes it harder for us to see in ourselves and in one another, and why our futures depend upon bringing these vital aspects of our humanity back into view.
[6] Even if a genuinely intelligent machine were built using human brains as a blueprint, it would not be a mirror of us, it would be a copy”.
Na próxima semana conheceremos outros textos literários produzidos no meio digital e os diferenciaremos dos oferecidos pelo Bixby e suas potencialidades. Se ainda não leu a primeira parte desse folhetim, acesse-o clicando aqui.
Obrigado pela leitura e até a semana que vem!
Antônia Beatriz Anzolin Bolognin, In memoriam
