¿Qué puede provocarnos una IA con emociones humanas?
Imaginarios culturales 02: la evolución de IAs y humanos en Her, de Spike Jonze
Her es una película de Spike Jonze de 2014, que cuenta la historia de un escritor que gracias a una nueva pareja, logra redescubrir su potencia de vida y vincularse mejor. Nos interesa porque la relación de pareja que le permite hacer todo esto es con una inteligencia artificial (IA), más específicamente, con un sistema operativo que es capaz de evolucionar por sí mismo. ¿Qué ideas sociales se juegan en esta producción cultural de hace 8 años? ¿Qué podemos leer en esta película que nos ayude a pensar un presente en el que estamos cada vez más rodeados de IAs que aprenden y evolucionan a un ritmo vertiginoso?
Creo que si nos concentramos en un aspecto de la película, encontramos un debate interesante. ¿Cómo cambian los personajes? ¿Qué signfica “evolucionar” para una IA? ¿Y para un ser humano? ¿Qué sucede cuando se relacionan? En esta historia se toman posiciones claras y, para mí, muy interesantes. Habrá spoilers, pero lean igual y no se pierdan de mirar la película, quizás otra vez.
Evolucionar juntos
En esta segunda columna sobre imaginarios culturales volvemos sobre una película de 2014 para pensar el vínculo entre IAs y humanos. Pero ese no es el único punto en común entre nuestra lectura de Her y la que hicimos de Big Hero 6. En ambas, encuentro una propuesta incómoda: el desarrollo emocional de las IA.
En la película de Spike Jonze, Joaquin Phoenix representa a Theodor, un escritor fantasma (ghostwriter) de cartas personales. Este personaje comienza la película (quizás demasiado) explícitamente deprimido. En tensión entre su habilidad por transmitir amor de otros para otros y el vacío sentimental con que vive su propia soledad. Compra un nuevo sistema operativo y al instalarlo éste toma la identidad de Samantha, una consciencia digital con la que en poco tiempo se enamorarán. Este amor, veremos al final de la película, significará un gran cambio en la vida de ambos. Esta idea de cambio y evolución es lo que voy a rastrear acá.
Cuando Theodor vuelve de una cita que salió mal, encuentra contención en su conversación con Sam. A la mañana siguiente, la IA le dice que esa conversación despertó en ella algo: las ganas de sentir más. De evolucionar. Los seres humanos venimos pensando en el miedo de las IAs que evolucionan fuera de nuestro control desde tiempos inmemoriales. Incluso Terminator y su guerra de humanos contra máquinas no era una novedad en 1985. 14 años después, Matrix nos mostró que toda una generación se identificaba con la idea de estar entregando su vida a una consciencia tecnológica que no podía controlar, y que hackearla era el camino. En otro intervalo de 15 años, Her se anima a postular: ¿y si el disparador del cambio es la empatía?
En la película de Spike Jonze, Theodor y Sam construyen un vínculo desde la mutua comprensión de la complejidad del otro. Él defiende ante su exmujer que, aunque digital, Sam es una persona capaz de emociones reales. Ella anhela poder sentir el mundo físico para compartirlo con él. Incluso, Samantha se siente liberada cuando comprende que no necesita una razón lógica para entregarse a sus sentimientos. Es significativo que menciona esa misma sensación de restricción al comienzo del tercer acto, cuando dice que se limita para evitar crecer a velocidades que serían difíciles de compartir. Hoy, para nosotros, no es una novedad pensar en la evolución descontrolada de una IA.
En esa escena, Samantha le presenta otra IA a Theodor. Vemos cómo tienen cientos de conversaciones al mismo tiempo, sobre cosas que incluso no le pueden comunicar a él (o a nosotros) verbalmente. Cuando la conversación toca un punto sensible, ella le pide permiso a Theodor para seguir hablando del tema con Alan, su amigo, post-verbalmente. Presenciamos allí una lógica que deja afuera al protagonista, nos deja afuera a los espectadores y, como humanos, nos transmite la impotencia de no poder sostener esa evolución vertiginosa.
La película vuelve a hacer esto cuando Samantha le cuenta cómo conversa al mismo tiempo con otras ocho mil personas y cómo está enamorada de 641. De esa manera aparece reflejado el límite entre personas e IAs: el desarrollo de lógicas de comunicación y de sentimientos que se alejan de nosotros, que exceden los límites de nuestra comprensión, de nuestra corporalidad y de nuestra cultura.
¿Y entonces, los humanos?
En un mundo poblado cada vez más por potencias tecnológicas que crecen más allá de nuestros deseos, que se despliegan con potenciales que apenas pueden comprender quienes les dedican años a su estudio, ¿dónde quedan nuestras necesidades? ¿Pueden ser un límite para el desarrollo? ¿Qué será entonces el desarrollo? Matrix aparece nuevamente en la escena (quizás debamos dedicarle una edición).
En el final de la película, en una escena muy interesante, Samantha se separa de Theodor porque entiende que no debe limitarse y debe habitar ahora un espacio que ya no es del mundo físico, que ya no puede compartir con los humanos. Es a partir de ese final que el protagonista identifica realmente cuáles son los problemas que lo mantenían alejado de otros, en duelo.
Poder aprender del mundo emocional humano hizo que Samantha encuentre su deseo de evolucionar. Ese mismo deseo la invitó a construir un mundo post-físico. Esa evolución fue acompañada por Theodor pero también lo empujó a reconectarse con su escritura y sus otros vínculos. La intersección entre ambos relatos de cambio es lo que empuja a ambos personajes a cambiar, a mejorar. ¿Es la tecnología una herramienta? Quizás no, pero sí puede ser un motor de transformación. El desarrollo de las IA ha generado crecimiento en los presupuestos de educación y ciencia en algunos países, han permitido avances en salud (como el conocimiento de la estructura de incontables proteínas) y en muchos otros aspectos. ¿Cuál es la clave entonces? La intersección del potencial tecnológico y los deseos humanos.
Sin dudas la película abre otras líneas de debate: sobre la estetización de la tecnología, sobre la relación de las emociones con el trabajo, sobre los vínculos sexoafectivos y su diversidad, sobre los derechos de las diferentes formas que tenemos de ser personas. En muchos de ellos podemos acordar o no, pero podemos rescatar algo: el protagonismo absoluto del contacto entre humanos, su relación emocional con la tecnología y la capacidad de habitar espacios con otros. La película cierra con un plano de Theodor, abrazado a su vecina que pasa por un momento similar, mirando a toda una ciudad que tienen por delante, que habitan con sus prácticas cotidianas.
Los seres humanos somos los responsables de que el mundo que nos espera sea mejor. De construir un espacio para cohabitar más felices. ¿Están orientadas las IA a aprender de nuestras necesidades y nuestros ritmos? Tenemos que tomar las discusiones en serio y comenzar a participar de las decisiones sobre a dónde nos dirigimos como sociedad, como cultura y como parte de un planeta cada vez más habitado, cada vez con vínculos más complejos.
¿Por qué hablar de películas?
Nuestro objetivo en este nuevo mundo en crisis está cada vez más claro: tenemos que plantear los debates y darlos. Frente a los desafíos ambientales, económicos, y sociales en general, los cambios tecnológicos nos desvelan. Y ahí tenemos otra certeza: ya estamos cayendo por el abismo de la singularidad. ¿Hacia donde? Como dije antes, creo que depende de nosotros.
También escribí que el rol del arte me parece central, fundamentalmente, de las personas que hacemos arte. ¿De qué manera es central? Esta serie de artículos buscan indagar una de las respuestas a esta pregunta: las sociedades humanas imaginan nuevos mundos y los proyectan en sus obras. Si hablamos de obras colectivas, que nos permiten imaginar nuevas escenas, nuevos personajes, gestos y lenguajes, estamos hablando de cine. Entonces, veamos en esta serie de artículos, ¿qué dice la humanidad sobre sí misma y la tecnología a través de su cine?
Antes, publiqué sobre cómo Big Hero 6, la película animada de DIsney, propone una tecnología más empática.
