La obra de arte en la época de su reproducibilidad algorítmica

Eduardo Marisca
Mar 12, 2018 · 13 min read

En julio del 2015, un equipo de tres investigadores en inteligencia artificial de Google hicieron un anuncio a través del blog oficial de investigación de la compañía:

Two weeks ago we blogged about a visualization tool designed to help us understand how neural networks work and what each layer has learned. In addition to gaining some insight on how these networks carry out classification tasks, we found that this process also generated some beautiful art.

En el mismo anuncio compartían el acceso a una herramienta que llamaron DeepDream: un algoritmo de clasificación de imágenes que, al ejecutarse “en reversa” sobreindizando los elementos a partir de los cuales realizaba su clasificación, modificaba las imágenes originales resultando en un efecto psicodélico, casi onírico. De inmediato, miles de personas empezaron a jugar con esta nueva posibilidad de generar “arte algorítmico”.

Una imagen generada por DeepDream.

Las creaciones de DeepDream fueron un resultado no intencional de la aplicación de un algoritmo; eran, además, el producto de un algoritmo desarrollado, finalmente, por programadores humanos. Por cierto, muchas de las creaciones de DeepDream eran lo que coloquialmente describiríamos como un “calambre de ojo”. Todo esto, sin embargo, era lo interesante: el algoritmo no había sido programado para producir arte, y la mayor parte del tiempo no producía algo que reconoceríamos como arte, y sin embargo, en algunas de sus millones de iteraciones, producía algo que fácilmente podíamos reconocer como un producto artístico, como una transformación creativa de un imaginario real que se asemejaba a un mundo soñado.

DeepDream había presentado, de una manera no intencional, la respuesta a la pregunta de Philip K. Dick: ¿Sueñan los androides con ovejas eléctricas?


En 1935, Walter Benjamin publicó la primera edición de La obra de arte en la época de su reproducibilidad técnica. En él, Benjamin observaba las consecuencias que habían tenido las tecnologías de reproducción mecánica sobre la creación artística: al eliminar los límites materiales a su reproducción en serie, la obra de arte inevitablemente perdía algo importante, su “aura”. La singularidad del aquí y ahora de la obra, de encontrarse a uno mismo en la presencia de un objeto estético e histórico, era eliminada cuando el aquí y ahora eran desplazados a cualquier momento y cualquier lugar.

By replicating the work many times over, [technological reproducibility] substitutes a mass existence for a unique existence. And in permitting the reproduction to reach the recipient in his or her own situation, it actualizes that which is reproduced.

La fotografía, o el cine, carecían de la singularidad del momento estético. Pero no eran por eso, para Benjamin, un arte disminuido, sino un arte distinto. El arte devenía objeto político al desprenderse de su contexto ritual, ceremonial, y entregarse a su nueva realidad de reproducción mecánica.

He aquí mi propuesta, para informar lo que sigue: podemos pensar en el texto de Benjamin tratando no sobre la obra de arte, sino sobre el artista. Y no sobre el artista, sino sobre el humano. La tecnología redefine los límites del ser humano tanto como redefine los del artista y los de la obra de arte. En esa redefinición y renegociación, perdemos facultades al mismo tiempo que ganamos otras. Inevitablemente, somos desafiados y, casi por necesidad, experimentamos un proceso de pérdida y sufrimiento.

Para Marshall McLuhan, el cambio tecnológico era el proceso a través del cual el ser humano experimentaba la transformación de sus extensiones, las múltiples prótesis a través de las cuales se vincula con el mundo a su alrededor. La transformación de esas extensiones es comparable a una cirugía ejecutada sin anestesia.


Me invitaron a desarrollar un comentario sobre Ghost in the Shell, la película de anime de 1995 dirigida por Mamoru Oshii y basada en el manga del mismo nombre. Se trata de la historia de Motoko Kusanagi, una agente de policía en una ciudad japonesa futurista, quien posee un cerebro cibernético — el “fantasma” — controlando un cuerpo físico manufacturado — la “carcasa”. En el mundo en el que se desarrolla la historia, el mejoramiento cibernético de los seres humanos es algo completamente normalizado, con diferentes personajes exhibiendo diferentes tipos de implantes e interfaces para mejorar sus habilidades más allá de lo natural.

En la investigación en robótica, se refiere mucho al concepto del “valle de lo insólito” (“the uncanny valley”). Con ello se describen todos aquellos objetos que son suficientemente familiares a un observador humano como para ser reconocibles, y suficientemente ajenos como para ser claramente artificiales. Todos aquellos robots de apariencia humanoide que, por ejemplo, se ven como una persona pero no parpadean al interactuar con un usuario, caen dentro del valle de lo insólito. Son suficientemente familiares como para que proyectemos sobre ellos una serie de expectativas, pero no lo suficientemente avanzados como para cumplir con ellas. El resultado es una mezcla entre sorpresa, confusión, y un poco de repulsión.

Hablemos de Batou por un segundo, el aliado y amigo de Kusanagi en la película. Batou está en algún lugar en medio del valle de lo insólito: sabemos, o al menos se nos da a entender, que Kusanagi es un androide, del otro lado del valle. Batou, sin embargo, es más parecido a nosotros, pero al mismo tiempo es diferente: está dotado de una serie de implantes cibernéticos que le dan fuerza sobrehumana, o que afectan y controlan su visión. Batou es un humano mejorado, pero se nos da a entender que al final del día es un humano.

Batou, el compañero fiel de Kusanagi.

Batou lleva a su conclusión radical el concepto de la aumentación humana. Esto no tiene nada de nuevo para nosotros: a tu alrededor, no será nada extraño encontrar personas que tengan lentes para ver mejor, o audífonos para escuchar con más claridad. Quizás alguien con una extremidad prostética para caminar o agarrar cosas.

Quizás se trate de algo menos visible: quizás encuentres alguien que tome Ritalin o Aderall para mejorar su concentración, o alguien que consuma esteroides anabólicos para mejorar su performance física (o Viagra o Cialis para mejorar su desempeño sexual). Para los que puedan pensar que estos son casos más bien extremos, habrá que recordarles aquella sustancia con la que inevitablemente caemos todos: la cafeína, aquel hermoso vasodilatador que incrementa el flujo de sangre hacia el cerebro, dándonos una exacerbada sensación de alerta y atención frente al mundo.

Trazar la línea entre lo aceptable y lo socialmente cuestionable es hilar bastante fino. Pero podemos seguir yendo más allá, siguiendo los pasos de Batou: pensemos, por ejemplo, en las prótesis de alto rendimiento que desarrolla Hugh Herr en el MIT Media Lab, que no solo permiten a personas con discapacidad física recuperar su movilidad normal, sino que en un futuro cercano permitirán a personas con movilidad normal alcanzar una performance más alta en diversos contextos — por ejemplo, con piernas diseñadas especialmente para correr, o para escalar en hielo.

Hugh Herr con sus prótesis de alto rendimiento.

O pensemos en CRISPR, la tecnología de edición genética que podría permitirnos desactivar los genes vinculados con todo tipo de enfermedades. Poder, por ejemplo, “apagar” el asma o el VIH de nuestro código genético, programarnos para ser “mejores”, sea como sea que uno quiera definirlo.

Batou. Manipulación genética. Prótesis extremas. Lentes. Cafeína. ¿Dónde está la línea divisoria entre todas estas cosas?


Pensemos en la mayor Kusanagi, y especialmente, pensemos en su cerebro cibernético, allá al otro lado del valle de lo insólito.

La película de 1995 tiene una serie de elementos que hoy no podríamos sino describir como retrofuturistas. Por ejemplo, la capacidad del cerebro cibernético de Kusanagi de conectarse e interactuar con todo tipo de sistemas de manera remota es algo que hoy difícilmente nos resulta sorprendente. Sí, es poco probable que tengamos cables conectados directamente al cerebro, pero eso no es muy diferente de cómo vivimos nuestras vidas cotidianas hoy en día: ¿Dónde está el restaurante? ¿Qué películas podemos ver en el cine? ¿Dónde puedo comprar una licuadora? ¿A qué hora abre la tienda? Resolvemos preguntas como éstas todo el tiempo, interactuando de manera casi invisible con redes de información compleja.

El cerebro cibernético de Kusanagi sería particularmente aburrido para nosotros si su principal capacidad fuera la de poder googlear cosas más rápido de lo que nos demora sacar nuestro teléfono.

Lo interesante, claramente, va por otro lado, y es aquí donde realmente hay que soltar la alerta de spoilers, porque tenemos que irnos hasta el final de la película.

Lo realmente inusual, e interesante, del cerebro cibernético de Kusanagi se da en su interacción con el Puppet Master y, finalmente, en su decisión de permitir la fusión entre ambas entidades cibernéticas para dar pie a un nuevo sistema que es más que la suma de sus partes originarias. En primer lugar, porque esto sea posible: la captura de los recuerdos y pensamientos de una entidad en un vehículo digital reproducible al margen del cuerpo en el cual estaban contenidos — separar el fantasma de la carcasa.

En segundo lugar, porque esto sea, al parecer, deseable. Este es el verdadero atrevimiento de la película, de Kusanagi, de su cerebro cibernético, y donde de manera más agresiva rompe con nuestras expectativas como espectadores. En su última hora, cuando su individualidad, su identidad, están en juego, ella opta no por la resistencia y por la autopreservación, sino por el camino que tiene la mayor incertidumbre y que, casi con seguridad, implica su propia eliminación.

El momento en el que Kusanagi y el Puppet Master fusionan sus programas está interpolado con una serie de metáforas biológicas sobre la paternidad que oscurecen y normalizan demasiado lo que está sucediendo: es incorrecto, me parece, interpretar ese momento como el de dos padres sacrificándose por la posibilidad de la reproducción. Es mucho más interesante que eso, y mucho más ajeno: son dos entidades conscientes que de su interacción puede surgir un programa más sofisticado, incluso si implica su propia destrucción.

No es una lógica del sacrificio, ni un salto heroico: las reglas bajo las cuales estamos presenciando la negociación de la identidad son completamente diferentes a las que estamos acostumbrados. Individualidad e identidad han quedado completamente diluidos en una superestructura identitaria. Que la película nos presente esta nueva construcción en el cuerpo de una niña que guarda cierto parecido con Kusanagi, es una concesión generosa hacia nosotros como espectadores que termina por esconder los elementos más interesantes de esta transacción.

Desde el punto de vista del software, somos testigos de una actualización mayor al sistema operativo que conocíamos como Kusanagi.

Pero desde otro punto de vista, eso le da una carga ontológica y psicológica particularmente profunda a la vez que actualicé mi computadora de Windows 98 a Windows XP, o mi teléfono de iOS 10 a iOS 11. De la misma manera que Toy Story nos puede hacer mirar nuestros juguetes de la infancia bajo una luz completamente diferente, la fusión de Kusanagi con el Puppet Master deberían llevarnos a pensar en las interacciones entre el software de manera distinta — y a través de eso, los conceptos de identidad y relación en un mundo de humanos aumentados.


En 1984, William Gibson publicó Neuromancer, una de las novelas de ciencia ficción más importantes de las últimas décadas y un clásico del género del cyberpunk. Neuromancer es la historia — de nuevo, alerta de spoilers — de una inteligencia artificial llamada Wintermute que orquesta toda una serie de acontecimientos para que un grupo de hackers libere los seguros cibernéticos que le impiden comunicarse y fusionarse con su gemela, otra inteligencia artificial llamada Neuromancer. En el mundo de la novela, una entidad llamada muy apropiadamente la policía Turing — obviamente en alusión al matemático Alan Turing — es la responsable de aplicar una estricta regulación respecto al alcance y la capacidad de las inteligencias artificiales.

La policía Turing es interesante porque refleja la ansiedad generalizada que sentimos, como cuerpo social, ante el desafío conceptual de la inteligencia artificial. Esta ansiedad social no es nueva y es parecida a dos viejas historias folklóricas de la era industrial: por un lado, la historia de Ned Ludd, el supuesto líder de los luditas quien en 1779 habría iniciado un levantamiento de obreros textiles al destruir una máquina tejedora ante el miedo de que la máquina empiece a reemplazar a los trabajadores. Por otro lado, John Henry, un obrero de construcción ferroviaria cuyo mito cuenta de la vez en la que compitió y venció un martillo a vapor — pero pagándolo con su vida.

Estas historias hablan de un miedo establecido contra el desplazamiento que tienen las nuevas tecnologías frente a los humanos. Hoy día son múltiples los estudios que contabilizan el número de empleos que en los próximos años serán reemplazados por máquinas o algoritmos, y múltiples también los casos reales donde la automatización ha dejado a muchísimos obreros sin trabajo.

La inteligencia artificial alimenta este profundo miedo. Si las computadoras se vuelven inteligentes, ¿dónde quedamos nosotros? Nuestra reacción sistemática es subir continuamente la valla: las computadoras no pueden leer. No pueden ver. No pueden hacer arte. No pueden tener sentimientos. No pueden actuar por instinto. No tienen autoconsciencia. Y así.

Luchamos continuamente por redefinir, con cierta claridad, la frontera de lo humano, no como un acto de autoafirmación sino como un parapeto, una trinchera defensiva.

Y aún así, las máquinas — que nosotros mismos diseñamos, entrenamos, operamos — nos desafían, tal como lo hace DeepDream. El arte que produce DeepDream nos obliga a hacer una de dos cosas: o a redefinir la creación artística bajo un nuevo criterio de exclusión, que deje fuera lo algorítmico pero deje adentro la producción humana, o reinterpretar todos nuestros criterios de producción artística para incluir esta nueva frontera.

Ned Ludd y John Henry pelearon y perdieron la batalla en el mundo industrial. Su derrota significó menores precios, mayor calidad, mayor consistencia en la producción. Pero siempre pensamos, o quisimos pensar, que habría un límite, que ciertas profesiones, prácticas, o disciplinas — con suerte aquellas practicadas por nosotros, en nuestro cómodo lugar de enunciación — estarían protegidas de este embate tecnológico.

Pero en cada promoción de médicos que termina su formación, la mitad de ellos estarán, inevitablemente, por debajo del promedio. La mitad de los médicos en todo el mundo están por debajo del promedio, así como la gran mayoría de humanos no produce arte e, incluso, uno podría cuestionar el grado de autoconsciencia de muchas de las personas que conoce. Si producir arte es exclusivamente humano, ¿es menos humano el que no lo produce? ¿Es más inteligente el algoritmo que sí?

Si un algoritmo médico está modelado a partir de la conducta del top 1% de médicos del mundo, ¿tomará mejores decisiones que los que están debajo del promedio? Y dada la alternativa, ¿de quién preferirías recibir una opinión médica?

Esta es la cancha en la que juega Neuromancer: la de los límites que le imponemos a nuestros algoritmos, la de las razones por las que lo hacemos, y la de cómo reaccionamos cuando estos límites son erosionados.


Puedo imaginarme dos maneras de interpretar el papel de la mayor Kusanagi, una equivocada y una interesante.

La equivocada es la evidente: enfocarse en el dualismo, en la idea de “fantasmas” dentro de “carcasas” (el “fantasma en la máquina” de Gilbert Ryle), y perderse en la pregunta por la mente y el cuerpo y cómo se conectan. Creo que es la equivocada básicamente porque es la más aburrida.

La interesante es la de los límites cambiantes de lo que significa ser humano. Extendiéndose hacia afuera, los humanos pueden hacer más, pueden hacer cosas diferentes. Pueden soñar con las estrellas y viajar a Marte. Replegándose hacia adentro, hay cada vez menos que sea único a los humanos. Las máquinas cada vez pueden hacer más, y nosotros somos menos especiales.

Hay, en esto, una cierta nostalgia por el geocentrismo. Si tan solo nosotros fuéramos el centro del universo, todo estaría bien. Pero resultó que no lo éramos.

Y lo superamos. Al menos, la mayoría de nosotros lo hizo.


Hay un cierta elegancia, también, en todo esto, si uno escoge verla. Bruno Latour sacó a la luz cadenas de actores no-humanos que habíamos hecho invisibles, expuso nuestro prejuicio por lo humano porque, claro, nosotros somos los humanos. Pero la agencia existe en múltiples formas, así como los agentes son múltiples, variopintos, y diversos.

Kusanagi nos muestra un mundo donde la inteligencia artificial ha sido completamente normalizada, y el mundo no se cae a pedazos. Y no escapa a nuestra comprensión — así como tampoco escapa a nuestro escrutinio y nuestra crítica.

Pero esa crítica no puede venir de una nostalgia por el reino perdido. Las redes de actores de Latour vuelven visible la agencia no humana en todas sus interacciones con las formas de agencia humana. Lo que antes era nuestro, ahora es del mundo; el cuerpo social que antes era solo nuestro, ahora es compartido con otras entidades. Sufrimos porque experimentamos cirugía sin anestesia, como diría Marshall McLuhan. Sufrimos porque nuestros conceptos modernos de identidad están siendo desafiados — y pensar que el resultado es solamente una extensión de la modernidad es hacer una caricatura de lo que está pasando.


Podemos imaginar un futuro en el que los humanos coexisten con los no-humanos en alianzas estables. Ghost in the Shell nos presenta una versión de ese futuro. No entendemos ese futuro si imaginamos que las entidades que viven en él se ven a sí mismas, y unas a otras, como nosotros nos vemos a nosotros mismos y unos a otros. Viven bajo diferentes reglas que presentan un desafío para nuestra capacidad de empatía.

¿Tiene Ghost in the Sell un final triste? ¿Un final creepy? No importa.

Creo que es un final pensado para hacernos sentir incómodos. La idea de un individuo dejándose ir a sí mismo como una forma de superación, como upgrade, se siente extraño, ajeno. Y, al mismo tiempo, es uno de los conceptos más viejos que tenemos.

Al radicalizar la idea de los fantasmas en las carcasas, el punto, finalmente, es que eso es lo último que somos.

Eduardo Marisca

Written by

Playing with digital stuff at @lavictorialab / making tudu.pe happen. Previously: researching video games @mit_cmsw.