“Siri, tengo un problema…¿qué hago?”
Cada vez escuchamos más estas frases, ¿tú a quién le harías esta pregunta, a un bot o un humano? y yo prefiero voces femeninas claro…¿o masculinas? pero… ¿los bots tienen género?
Los chatbots cada vez están más presentes en nuestro día a día, estos se basan principalmente en la inteligencial artificial y el lenguaje. Ya hay chatbots para miles de usos distintos, puedes encontrarlos en cualquier lado, y cubren un gran abanico de temas muy interesantes, sin embargo, empezaré con este tema del género en los chatbots, que me parece muy curioso.
Pero antes de responder a las preguntas planteadas al principio, comenzaré introduciendo un poco cómo se ha llegado hasta aquí, un poco de la historia… Tened paciencia, para llegar al fondo de estas cuestiones planteadas es interesante conocer un poco de dónde viene todo esto!
Lo primero, os recomiendo que leáis el blog de mi compañero de trabajo Curro, podéis verlo a través de este enlace: https://medium.com/psicolog%C3%ADa-del-lenguaje-ugr/picoteo-sobre-chatbots-898025a8eb29 donde introduce muy bien qué son los chatbots , explicado también para qué sirven y cómo funcionan (aunque brevemente, la base general de los bots es el aprendizaje automático, un proceso de inducción del conocimiento, específicamente a través de los algoritmos evolutivos basados en los postulados de la evolución biológica).
Comentando el libro de Nicholas Carl: “Superficiales. ¿qué está haciendo internet con nosotros?” salió este tema tan llamativo, los bots, gracias al caso que aparece en dicho libro nombrado: Eliza, ¡EL PRIMER CHATBOX! (podríamos llamarla, en parte, la “culpable” de la repercusión y presencia de los bots hoy en día) creado hace más de 50 años por Joseph Weizenbaum. Me parece increíble que se consiguiera esto en aquella época, porque hoy en día hasta puede parecer normal, pero pensad en 50 años atrás…
Las respuestas de Eliza estaban basadas en el método de terapia del famoso Carl Rogers, la terapia centrada en el paciente (por ejemplo, daba la vuelta a la frase que uno le decía y la repetía, transformándola en una pregunta) (Con esto se quería demostrar hasta qué punto podía llegar a ser de superficial la comunicación entre el hombre y las máquinas…). El método para lograr dichas respuestas era a partir de palabras clave que tenía grabadas, al escucharlas, hacía preguntas sobre ese tema y profundizaba, la gente salía con las sensación de haber sido escuchados y comprendidos, muchos ni pensaban estar hablando con una máquina y contaban hasta sus intimidades y problemas(¿os imagináis contándole a una máquina vuestros secretos e intimidades?¿es posible de verdad llegar a tener sensaciones que se tienen con humanos con máquinas…?porque al parecer, sí, pero ya veremos ese tema más adelante). Os dejo un ejemplo a continuación de una conversación con ELIZA para que lo veáis más claro:
Eliza: Soy la psicoterapeuta. Por favor, descríbeme tus problemas. Cada vez que termines de hablar, escribe RET dos veces.
Interlocutor: Soy infeliz.
Eliza: ¿Te sientes infeliz con frecuencia?
Interlocutor: Sí.
Elisa: ¿Puedes desarrollarlo más?
Interlocutor: Demasiado trabajo.
Elisa: ¿Por qué dices mucho trabajo?
Interlocutor: Estoy trabajando demasiado.
Elisa: Antes dijiste que te sentías infeliz.
Interlocutor: Sí.
Elisa: Me gustaría que continúes hablando.
Si este tema os parece interesante, hay varios casos famosos parecidos al de ELIZA, como PARRY, que se creó más tarde, el cuál fue llamado “ELIZA con carácter” imitando el comportamiento de un ezquizofrénico paranoico…
En este contexto no podemos dejar de nombrar el Test de Turing, que también me pareció bastante curioso. Fue creado para evaluar la habilidad de las máquinas para mostrar un comportamiento inteligente igual o similar al humano. Esto lo hizo a partir de la evaluación del lenguaje entre un humano y una máquina (diseñada para producir un lenguaje igual) de una persona. Esta sabía que uno de los dos era una máquina pero no cuál, por lo que tenía que adivinarlo a partir de leer la conversación (a través de un ordenador)entre ellos dos. Si tras 5 minutos había convencido al evaluador la mayor parte del tiempo, la máquina pasaba la prueba (fue creado antes que Eliza y esta pasó el test).
Más tarde, se empezó a criticar la prueba de Turing, no podía usarse para decir si una máquina podía pensar, ya que esta no entendía dicho lenguaje, no podía decirse que estuvieran pensando. Para demostrar esto, Searle creó un experimento, la habitación china, el cual decía que imaginases una máquina que entendiera y hablara chino, luego que imaginasen que dentro estaba él que no sabía nada pero con mil diccionarios e instrucciones explicando como se relacionaban los caracteres chinos, por lo que él podría responder bien a preguntas en chino (aparentando saber) y realmente no tener ni idea. Lo cual es un razonamiento muy bueno para demostrarlo y es algo que nos distingue de las máquinas que hoy en día cada vez se nos acercan más.
VALE, POR AHORA SUFICIENTE, YA OS VAIS HACIENDO UNA IDEA (ESPERO), AHORA PASARÉ AL TEMA DE VERDAD Y YA MÁS RECIENTE…
¿SEXISMO EN LOS CHATBOTS?
Hoy en día cada vez usamos más este tipo de sistemas o máquinas, desde Siri, Cortana, el GPS, correos de voz, distintos asistentes de IA… Además de aparecer en películas, libros… pero, no sé si os habréis dado cuenta que la mayoría de asistentes tienen voces femeninas, o que en ciertas películas que aparecen bots supuestamente, en un inicio, sin género, tienen detalles que demuestran que realmente sí lo tienen y suelen ser bots masculinos como es el caso de la película Transformers por ejemplo.
Centrémonos en las voces femeninas de los asistentes… Estos son usados en múltiples productos como smartphones, Smart-TVs, GPS, sistemas móviles… Pero no solo las grandes compañías tecnológicas cuentan con ellos, empresas de diferentes países ya han anunciado sus propios asistentes virtuales, y para “sorpresa” de todos, sí, también tienen nombres y voces de mujer. Por ejemplo, la marca de vodka sueca Svedka lleva años usando una robot “sensual” como imagen publicitaria. Encontramos desde avatares femeninos hasta los hipersexualizados fembots que complacen las fantasías masculinas, la forma femenina está en todas partes del mundo tecnológico: atractiva, servicial y a tus órdenes.
El fin de esto, según las compañías y empresas, sería obtener mejores resultados comerciales con sus usuarios. Con Eliza (os dije que era interesante conocerla antes de hablar de esto) surgió la representación del estereotipo femenino en la inteligencia artificial. Por otro lado se ha comprobado que hombres y mujeres califican la voz de la mujer como más cálida, además de como una ayuda para resolver los problemas y las masculina más a autoridad, además muchos asocian las voces femeninas a voces de madres, por lo que las prefieren. Por otro lado también se afirma que las voces femeninas están asociadas a respuestas cerebrales positivas, un factor a tener en cuenta para vender un producto.
Esto es bastante interesante y está muy conectado a uno de los temas que está más a flor de piel hoy en día: el machismo y el feminismo… ¿Podríamos considerar esto como un signo de machismo? De hecho afirmar estas connotaciones vocales hace que la voz masculina se asocie con actitudes de poder (el ser un hombre es suficiente para dotar de poder al interlocutor). Es decir, siempre se asocia voz y poder a los hombres, pero no en el caso de las mujeres.
De hecho, si indagamos un poco en este tema vemos que todo se remonta a mucho antes, ya en la Segunda Guerra Mundial las voces de mujeres eran usadas en las cabinas de los aviones, ya que destacaban entre los pilotos masculinos. Además de los operadores telefónicos que han sido tradicionalmente mujeres, o muchas empresas usaban voces de mujeres para anunciar algo. Efectivamente, tiene influencia de los roles que se les ha asociado a la mujer desde siempre, de los trabajos en los que empezaron las primeras mujeres (recepcionistas o telefonistas), además los ingenieros que suelen desarrollar los programas son hombres. En definitiva, la industria tecnológica es muy sexista y sin embargo, las mujeres apenas suman el 30% de los trabajadores del sector tecnológico… Así no avanzamos, las tecnologías están en nuestra vida en todas partes, influyen directa e indirectamente, y así hacemos permanentes los estereotipos de género…
El problema radica también en la intención de los usuarios que van a comprar o usar el producto, se ha comprobado que muchos están más interesados en ligar virtualmente que en buscar información.
¿CÓMO PODEMOS SOLUCIONAR ESTO?
Se han empezado a ver robots “neutrales” en ciertas compañías, donde se valora más el trabajo bien hecho por el bot que el ser de un género u otro. Un ejemplo es el de Rainbird y su presidente James Duez que dice: “ una máquina de aprendizaje que nace del sexismo solo puede ser sexista”.
De hecho, encontramos a Sharma que lideró el diseño de Sage Peg, la primera chatbot de la empresa que recuerda a los clientes si deben una factura o superaron su presupuesto, una chatbot en el mundo de las finanzas. Creo que debería tener mucha mayor divulgación, más que quitar las chatbots, que empiecen a crearlas y asignarlas para otros trabajos como Sage Peg en las finanzas, o temas de poder y autoridad.
Por ahora me quedo aquí, aunque aún me queda alguna pregunta por resolver, seguiré profundizando!
