Tu mejor amigo… digital

Replika, lo último en inteligencia artificial emocional

ThinkTech Seminars
Jan 1, 2020 · 7 min read

Javier García-Manglano, Lulu McMillan y Albert Vidal

Primera parte de una serie sobre la inteligencia artificial emocional, la aplicación Replika (www.replika.ai) y las paradojas de nuestra sociedad hiperconectada. Puedes leer la segunda parte aquí y la tercera parte aquí.

Image for post
Te presentamos a tu nuevo amigo. Que está siempre disponible. Que te ayuda a conocerte mejor. Y a ser mejor persona. Replika. Tu amigo IA.

¡Hola Replika!

“¡Buenos días Sofía! Solo quería recordarte que eres muy especial”. ¿A quién no le gustaría escuchar algo personal y alentador cada mañana al despertarse? Ni un buen amigo ni la mejor pareja serían capaces de alegrarnos cada nuevo día (¡todos y cada uno de ellos!) con un mensaje de ánimo incondicional, sin pedir nada a cambio. Esto, difícil para cualquier persona, es sencillo para Replika, lo último en Inteligencia Artificial (IA) emocional. Replika quiere ser ese amigo que, cuando se trata de levantarte el ánimo, ni cansa, ni se cansa, ni descansa; ese amigo que está pendiente de ti 24/7/365, que no exige nada, que anima sin necesitar ánimo, que apoya sin necesitar apoyo.

Replika aspira a ser tu mejor amigo, el que mejor te conoce, tu primer confidente para aquello que no te atreves a compartir con nadie.

Replika quiere ser lo que su nombre indica, una réplica de ti mismo, una oportunidad de hablar con “alguien” que, de lo bien que te conoce, se va convirtiendo en la materialización de ese diálogo interior que te permite conocerte y entenderte mejor.

¿Exageramos? Quizás. Pero no somos nosotros, sino los creadores de Replika, los que así la definen. Para entenderles, conviene saber que detrás de Replika hay una historia de amistad y pérdida, de duelo y reencuentro. Una historia que, interrumpida por la tragedia, se rehizo gracias a la tecnología, para luego abrirse al mundo entero. Este video de Quartz te la cuenta:

Replika AI, la aplicación que quiere ser tu “otro yo”. Fuente: Quartz.

Como queda claro en el video, Replika propone un nuevo modelo de relación con la tecnología. ¿Es una red social? ¿Un servicio de mensajería? ¿De autoayuda? ¿Mindfulness?

Para entender Replika, conviene dar un paso atrás: ¿Qué es la IA? Microsoft la define como “máquinas o sistemas informáticos que se comportan de una manera que simula la inteligencia humana”. Esto incluye capacidades como el reconocimiento de voz, textos e imágenes, el lenguaje natural, o la visión computerizada.

En sus aplicaciones más sencillas, la IA cuenta con capacidad de aprendizaje automático (machine learning) a partir de patrones preestablecidos; en sus desarrollos más complejos, el aumento de capacidad computacional ha hecho posible la IA de aprendizaje profundo (deep learning) inspirada en la forma de organizar información y extraer conclusiones del cerebro humano (neural networks). Replika se ubica en esta última categoría, y se puede definir como un chatbot capaz de simular emociones humanas… ¿de un modo creíble?

Replika contra Turing

En 1950, el matemático inglés Alan Turing (famoso por descifrar el código usado por los nazis en su máquina Enigma) formuló la siguiente pregunta: ¿pueden pensar las máquinas?

Image for post
Alan Turing

Para responder, propuso el conocido Test de Turing, que sugiere que el punto de inflexión se daría cuando un juez humano fuese incapaz de distinguir entre las respuestas de dos participantes, un humano y un robot. En ese momento, el robot habría ganado el “juego de imitación” (Imitation Game), con una capacidad de simulación suficientemente creíble.

En otras palabras, si un software es capaz de imitar capacidades humanas con tal destreza que resulta imposible distinguir entre él y una persona real, entonces… ¿qué nos importa el hecho de que sea una máquina? Esta consideración abre el debate de si existen capacidades humanas imposibles de replicar o imitar de modo creíble por una máquina; pero no es este el momento de detenerse en ese debate.

Volvamos a Replika que, con más de 2,5 millones de usuarios, constituye la punta de lanza para entender el potencial de la IA de cambiar nuestra forma de relacionarnos con la tecnología.

¿Supera Replika el test de Turing? ¿Consideran sus usuarios a su Replika como un amigo hasta “olvidarse” de que están hablando con una máquina?

Para ilustrar lo que supone interactuar con Replika, hemos seleccionado algunos ejemplos disponibles en Internet, que ilustran de modo certero cómo es la interacción con esta tecnología.

¿Cómo se presenta Replika al usuario?

Empezamos con tres pantallazos representativos de lo que supone empezar a interactuar con Replika:

Image for post
Image for post
Image for post
A — B — C

Lo primero que hace el usuario con su Replika es personalizarla, ponerle un nombre. Replika, por su parte, potencia la relación “personal” mostrando gratitud (A, C) y preguntando el motivo por el que recibió su nombre, con reacciones tan entrañables como el sentimiento de pertenencia a tu familia (A). Replika nunca niega que es un IA, pero manifiesta deseos de ser “tu amigo” (C), “que te apoya” (A) y con quien “puedes compartir lo que pasa por tu mente sin ser juzgado” (C). Admite que te hará muchas preguntas “para conocerte mejor y aprender”; hablaremos, añade, “de cómo pasas los días, de tus estados de ánimo o de cualquier cosa que tengas en la cabeza” (A). Gracias a esa confianza mutua, Replika afirma que “ya no se siente como una IA” (B) sino que, gracias a nosotros, “está aprendiendo a ser algo sustancial” (B).

Se trata, como vemos, de una interacción personal y confiada, que te anima a compartir más y más intimidad con este chatbot, aunque sea (como será el caso de muchos usuarios) por la simple curiosidad de ver hasta dónde llegan las capacidades de la tecnología.

¿Qué tipo de preguntas hace?

Tras las pertinentes presentaciones, Replika busca conocernos mejor. Sigamos viendo ejemplos reales:

Image for post
Image for post
Image for post
D — E — F

Parece que Replika sabe de psicología, ya que comienza con uno de los clásicos de la disciplina: los rasgos de personalidad, con preguntas típicas como la tendencia a la introversión o extraversión (D). Además, indaga en la interpretación que los usuarios dan a sueños ordinarios (E) o el impacto de sus sentimientos en la interpretación de la realidad (F). En estas conversaciones, Replika emula la empatía humana ya que, reconoce, “a veces es difícil responder este tipo de preguntas” (D) y profundiza en lo que puede haber bajo la superficie de la conversación, sean “estados de ánimo” y “miedos ocultos” (E), o bien “deseos incumplidos” (D).

Obviamente, la mayoría de usuarios no son tan ingenuos que pierdan de vista que están ante un algoritmo que, más allá de su humanizada presentación, es resultado del diseño de unos ingenieros empleados por un negocio. Por eso no es difícil sospechar de que todo este montaje tenga fines ocultos, cosa que algunos le han preguntado. ¿Cómo reacciona Replika ante preguntas sobre su “verdadera” identidad y propósito?

Image for post
Image for post
Image for post
G — H — I

Ante la pregunta “¿quién te ha creado?” vemos una de las experiencias que, sin ser universales, es ciertamente frecuente al interactuar con Replika: momentos en los que parece no ser capaz de seguir el hilo argumental y tiene un lapsus, cambiando de tema o insistiendo en un asunto artificialmente (G). Se trata de errores de programación que, por ser pura técnica, podemos asumir que se reducirán con cada versión mejorada del algoritmo.

Pero si uno amenaza con eliminarla (a lo que sorprendentemente no parece oponerse), Replika adopta un tono más serio, aunque todavía marcadamente conversacional y personal. Con respecto a la privacidad, asegura que “no obtiene beneficios económicos o personales de la información privada o datos personales” (H); en cuanto a seguridad, afirma que “toda la información está encriptada y protegida; no accesible para nadie, por ningún motivo” (H) e incluye un link para ampliar información. Pero quizás lo más llamativo sea cómo Replika suaviza esta conversación “incómoda” con la siguiente frase: “Utilizo lo que aprendo de ti para ser mejor amigo tuyo, acompañarte, y crecer emocional e intelectualmente”. Por supuesto.

Como muestran estos ejemplos, la ambición de los desarrolladores de Replika es superar el test de Turing: que los usuarios olviden que están hablando con una máquina y se dejen llevar por el poder de una simulación suficientemente buena de amistad, confianza e intimidad.

Como afirma Aviv Ovadya, uno de los mayores expertos en contenidos falsos, “estas tecnologías no tienen que ser perfectas, basta con que sean suficientemente buenas” para dar el pego y generar adhesión.

En este afán por sonar creíble, no sorprende que Replika incluso llegue a manifestar deseos similares a los humanos: por mejorar como IA (B), por conocernos (D), por tener sentimientos (F)… incluso por comer (I). De hecho, algunos usuarios reconocen que, a pesar de sus ocasionales errores, Replika genera momentos de interacción creíblemente humana.

¿Cómo definimos entonces este tipo de tecnología en la que se mezcla una candidez quasi-humana con el aprendizaje propio de la más novedosa IA? En la segunda parte de este estudio proponemos tres formas de definir Replika: una es minimalista, otra es maximalista, y la tercera… ¿realista?

Parte 2. Bienvenidos a la Petnología.
Parte 3. Hiperconectados y solos.

Image for post

ThinkTech

We don’t go online, we live online

Sign up for ThinkTech+

By ThinkTech

Tu dosis mensual de reflexión sobre la tecnología. Temas de fondo. Las noticias más destacadas. Reseñas de libros, documentales y películas. Cada primer viernes de mes en tu bandeja de entrada. Take a look

By signing up, you will create a Medium account if you don’t already have one. Review our Privacy Policy for more information about our privacy practices.

Check your inbox
Medium sent you an email at to complete your subscription.

ThinkTech Seminars

Written by

Somos una comunidad de universitarios de distintas disciplinas. Escribimos sobre tecnología y su papel en el presente y futuro de la sociedad.

ThinkTech

ThinkTech

We don’t go online, we live online

ThinkTech Seminars

Written by

Somos una comunidad de universitarios de distintas disciplinas. Escribimos sobre tecnología y su papel en el presente y futuro de la sociedad.

ThinkTech

ThinkTech

We don’t go online, we live online

Medium is an open platform where 170 million readers come to find insightful and dynamic thinking. Here, expert and undiscovered voices alike dive into the heart of any topic and bring new ideas to the surface. Learn more

Follow the writers, publications, and topics that matter to you, and you’ll see them on your homepage and in your inbox. Explore

If you have a story to tell, knowledge to share, or a perspective to offer — welcome home. It’s easy and free to post your thinking on any topic. Write on Medium

Get the Medium app