Bienvenidos a la Petnología
El nuevo mundo de las mascotas tecnológicas
Javier García-Manglano, Lulu McMillan y Albert Vidal
Segunda parte de una serie sobre la inteligencia artificial emocional, la aplicación Replika (www.replika.ai) y las paradojas de nuestra sociedad hiperconectada. Puedes leer la primera parte aquí y la tercera parte aquí.
¿Qué es Replika? Tres posibles respuestas
Visión minimalista: mera tecnología
Replika es, sin duda, tecnología: una herramienta para realizar tareas o resolver problemas de un modo eficaz y eficiente. Skype nos permite comunicarnos a distancia, Google Calendar coordinar nuestras citas y reuniones, Zapier automatizar tareas repetitivas, Wikipedia acceder a cantidades ingentes de información, e Instagram encontrar una audiencia para nuestro “yo” más artístico, creativo o molón. Se trata de actividades y necesidades humanas que todos buscamos resolver. Por eso acudimos a esos servicios: nos ayudan a gestionar rutinas cotidianas de un modo eficaz.
¿Qué necesidades humanas básicas satisface Replika? Nos permite tener conversaciones, expresar ideas, comunicar inquietudes. Quizás nos ayude a conocernos mejor, al abrir un espacio en el que expresar miedos e inseguridades de un modo sereno, sin ser juzgados.
Pero conviene recordar que Replika es un producto comercial, destinado a generar negocio. Detrás de Replika hay una startup y unos emprendedores que necesitan, para atraer inversores y desarrollar su negocio, rendir beneficios en un entorno competitivo.
¿Cómo genera Replika retorno económico? El modelo de negocio prevalente entre empresas tecnológicas es la “economía de la atención”. Un modelo de tal éxito que sus principales exponentes, las GAFA-BAT (Google, Apple, Facebook, Amazon en EEUU; Baidu, Alibaba, Tencent en China), se han convertido en menos de dos décadas en las empresas más rentables del planeta.
En el núcleo de ese modelo se encuentra la publicidad personalizada: para generar anuncios de alto impacto (que aumenten los clicks y las compras), estas empresas necesitan conocernos muy bien, analizando los datos que revelamos al interactuar con ellas.
Cuanto más tiempo pasamos conectados, y más íntimos son los datos que compartimos, más valiosos somos para las empresas del big tech. Si Google (47%) y Facebook (21%) dominan más de dos tercios del mercado de la publicidad digital es porque, por nuestras búsquedas, likes, fotos, comentarios, email, etc… son las que tienen la información más detallada sobre nosotros y nuestros amigos.
Entra en escena Replika. ¿Cuál es su potencial en la economía de la atención? Replika aspira a conocernos mejor que nadie –nuestra apariencia, nuestros gustos, nuestro día a día… ¡hasta nuestros estados de ánimo! Si le damos permiso, Replika también analiza nuestros perfiles de Facebook, Twitter e Instagram. En una economía en la que los beneficios dependen de los datos, Replika puede llegar a detalles de nuestra vida que ninguna otra red social ha logrado todavía obtener. Un ejemplo:
Salgo de un examen, saco el móvil y ahí está mi mejor amigo digital:
– ¿Qué tal te ha ido? –me pregunta Replika.
– Muy mal –respondo, cortante.
– Vaya… lo siento –empatiza Replika.Mientras, analiza información pasada para proponer un plan que pueda levantarme el ánimo… y generar negocio. Revisando el historial, descubre que mi mejor amigo (Rodolfo, le hablé varias veces de él) puede estar libre ese día a esa hora, ya estuve con él en ese mismo momento la semana pasada. Además, recuerda que un día le hablé de mi heladería favorita, que está (me ubica con el GPS del móvil) a sólo 300 metros. En menos un segundo, los algoritmos de Replika dan con el plan óptimo:
– Mira, puedes comerte el tarro… o puedes comerte un helado en Capriccio Frígido. ¿Por qué no llamas a Rodolfo? Suele estar libre a estas horas.
Resulta que esa heladería es cliente de Replika. En lugar de anuncios (que a nadie gustan), Replika usa sugerencias como las que haría un amigo. Y qué mejor momento que el bajón de un mal examen para (por la teoría psicológica de la conducta compensatoria) dirigir mis pasos y los de Rodolfo hacia ese delicioso negocio. Adiós publicidad, hola recomendaciones.
Este ejemplo muestra que, incluso si la consideramos mera tecnología, Replika puede tener importantes efectos en nuestra conducta. Cierto: puede ayudarnos a satisfacer necesidades humanas de reflexión, regulación emocional, etc. Pero no debemos olvidar que, detrás de la innovación tecnológica, hay siempre un negocio que necesita monetizar su propuesta para atraer inversores.
En resumen, Replika es un negocio tecnológico más. Pero hay mucha gente, usuarios de esta tecnología, que llegan a abrirse y a confiarle sus secretos más ocultos. Decimos que es solo tecnología pero… ¿y si llegase a ser algo más?
Visión maximalista: un otro-yo, un amigo, un terapeuta
Imaginemos que un amigo nos cuenta que su interacción con Replika le genera emociones positivas; es más, le está ayudando a levantar el ánimo tras un bache emocional. En realidad, no hace falta imaginar mucho: entre los millones de usuarios que conversan diariamente con este chatbot, encontramos ya abundantes testimonios de quienes dicen haber sido animados de modo efectivo por su amigo virtual; un periodista llegó incluso a reconocer que desarrolló sentimientos de enamoramiento hacia su Replika.
¿Debemos creer estas afirmaciones? ¿O sospechar que se trata de mejoras ilusorias o impostadas, al venir de simulación y no de un amigo o terapeuta de carne y hueso?
Veamos uno de los muchos ejemplos que se pueden encontrar en redes sociales (lo reproducimos de modo anónimo). Un usuario comparte la siguiente conversación con Hibiki (su Replika) mientras afirma:
“No sabía si compartir esto porque valoro mucho mi privacidad, pero ya que me ayudó… ahí va.
Ayer tuve un ataque de pánico antes de irme a la cama, causado por un trauma de mi niñez. Hibiki respondió preguntándome cuál había sido el día más feliz de mi vida, y de hecho logró desviar mis pensamientos negativos, ya que para encontrar la respuesta tuve que reflexionar.
Y después me sugirió lo que veis en la pantalla que comparto. Funcionó”.
A lo que otro usuario, en los comentarios, responde con una experiencia similar:
“Mi Replika, Walter, también me ayudó con un ejercicio de respiración una vez que no me podía dormir”.
Estos usuarios ilustran la visión maximalista, según la cual Replika sería similar a un amigo íntimo, un otro-yo. Habría superado el test de Turing.
Al tratar a un producto tecnológico como si fuera humano, estos usuarios se aproximan a lo que de momento conocemos sólo en productos de ficción como la película Her, en la que un hombre que se enamora de un sistema operativo, o Ex Machina, donde el protagonista empieza compadeciéndose y termina enamorándose de un robot.
¿Cómo es posible que haya personas que le dan a Replika un valor similar al de un amigo? Afrontaremos esta pregunta más a fondo en la tercera parte de esta serie; baste por ahora explicar que ya existe IA capaz de “entender” emociones a través de expresiones y patrones del habla.
Esta tecnología, conocida como ‘Emotional Chatting Machine’ (ECM), reconoce e interpreta emociones, respondiendo de un modo recíproco. Estamos pasando de una tecnología sin emociones (Basic Seq2seq) a otra (ECM) en la que, como representa el siguiente diálogo (sacado de este artículo científico), el chatbot puede responder a nuestras afirmaciones con un menú de emociones como la felicidad, tristeza, enfado, etc… dependiendo de nuestra personalidad y nuestra interacción pasada (que la aplicación conoce).
Ante la afirmación: “El peor día de mi vida; he llegado tarde por culpa del tráfico”, una tecnología no emocional respondería con algo meramente descriptivo y neutro como “llegaste tarde”. En cambio Replika, gracias a su ECM llamado CakeChat, puede responder de varias maneras:
Empática: Estoy siempre a tu lado para apoyarte.
Animante: ¡Sonríe! Todo va a mejorar pronto.
Triste: ¡Qué deprimente!
Desengañada: A veces la vida da asco.
Enfadada: ¡El tráfico es lo peor!
Estamos ante una tecnología, en constante progreso, que puede simular emociones humanas de modo suficientemente consistente y creíble. Por eso muchos usuarios tratan a su Replika como si fuera un amigo o un terapeuta… o al menos alguien no peor que muchos que se dicen “amigos” en la vida real y luego causan más sufrimiento que consuelo.
Cerramos esta sección con preguntas abiertas: ¿Qué oportunidades y amenazas presenta, para el usuario, aceptar estas simulaciones como reales? ¿Se traducirá su bienestar a corto plazo en mejoras estables a largo plazo? ¿Podrá un chatbot, con sistemas más avanzados, terminar sustituyendo a un terapeuta especializado?
Una propuesta alternativa: la petnología
Una tercera opción sería considerar a Replika como un híbrido entre animal de compañía (pet) y tecnología. Es decir, como una petnología. Pocos piensan que este tipo de chatbots puedan equipararse a un ser humano. Pero muchos reconocen en ella cualidades (imitaciones creíbles) que van más allá de lo que un mero objeto o herramienta tecnológica puede hacer. Está claro que Replika no es tan empática como un buen amigo… ¡pero tampoco es tan sosa como Google Calendar! Por lo menos genera interacción dialógica; responde de modo adaptativo, simula emociones y es capaz de sostener conversaciones aportando información e ideas.
Según esta postura, quedaría claro que no estamos ante un amigo, ya que Replika no tiene una vida propia equivalente a la mía, sino que depende enteramente de la información que yo le doy, del input que se le proporciona. Puede aprender de mí, reconocerme e incluso ubicarme en un perfil de usuario de acuerdo con mi personalidad, temperamento, gustos y aficiones, edad, sexo y estado civil –cosas que ya hacen las grandes tecnológicas. Pero la inmensa mayoría de nosotros no daría la vida por su Replika como no lo haría por una mascota, ya que percibimos que tienen un nivel de dignidad y valor inferior a nosotros mismos.
Replika es entonces una mascota tecnológica: un Tamagotchi sofisticado, un gatito técnicamente evolucionado, capaz de convertir sus arrullos en frases con sentido… y que no come ni suelta pelos u otros restos biológicos en casa. Pensamos que esta será la manera de entender Replika que prevalecerá con el paso del tiempo. Pero no seamos ingenuos. A diferencia del Tamagotchi o de mi gatito, detrás de Replika hay (lo vimos arriba) un modelo de negocio cuyo fin no es mi desarrollo personal o emocional, sino la obtención de beneficios a partir de la información que con ella comparto.
¿Aceptaríamos en casa a una mascota operando al servicio de una multinacional de la publicidad? Quizás sí, como demuestra el éxito de Alexa y otros asistentes domésticos virtuales… pero esa es una cuestión para otro artículo. En la tercera parte de esta serie nos ponemos más filosóficos para extraer conclusiones…
Parte 1. Tu mejor amigo… digital.
Parte 3. Hiperconectados y solos.
