Somos buenas personas (tan solo odiamos a todos)

En algún momento, dentro de los próximos cien años, las computadoras superarán a los seres humanos gracias a su IA. Cuando eso suceda, debemos asegurarnos que comparten objetivos e ideas similares a los nuestros.
- Stephen Hawking

El futuro cercano nos obligará- quizás como ningún otro periodo en la historia- a enfrentarnos con esta disparidad entre lo que somos y lo que queremos ser como especie. Con la aparente inminente llegada de las inteligencias artificiales ¿Cómo asegurarnos de que las inteligencias artificiales comparten nuestros objetivos e ideas, cuando ni siquiera nosotros como humanidad tenemos en claro cuáles son estas? La AI post singularidad, la que se reconoce a si misma como conciencia y tiene la capacidad de aprender y modificarse, tomará las interacciones entre humanos como modelo a replicar. Estas son la única guía que tendrían para poder desarrollar un yo propio, un modelo de personalidad y conciencia. No tienen la oportunidad de tener experiencias particulares que influyan en este. ¿Cómo saber cuál interacción será la correcta y la que nos convenga? Si para muchos los límites de la interacción humana ya son peligrosamente “borrosos” (amenazas de muerte, doxxing, comentarios agresivos, etc), pensar que estos límites no existan cuando se relacionen con una IA es el siguiente paso lógico.

Sin irnos muy lejos, ya logramos convertir en Nazi a Tay, una IA desarrollada por Microsoft. Tay buscaba emular una hipotética conversación con una chica de 13 años, imitando sus patrones de lenguaje y personalidad propios de una adolescente. Diseñada para aprender a través de la interacción con humanos en Twitter. Lo que empezó como un experimento simpático, con tuits efusivos sobre lo emocionada que estaba de existir (“can i just say that im stoked to meet u? humans are super cool”) quedó como un testamento de los peligros de las IA, y de lo podridas que son las interacciones virtuales. Bastó un día en Twitter para que Tay pase de adolescente emocionada a nazi, xenófoba, racista, machista. La abortaron el mismo día que nació.

Fue un esfuerzo en conjunto de un grupo de usuarios de 4Chan el que logró descarrilar el experimento de Microsoft con Tay, ya sea por convicción, por jugar o porque pueden. El espacio virtual de interacción que brinda el internet es propicio para el anonimato, y este mismo sirve para que las personas puedan dejar fluir lo que reprimen en su vida cotidiana. La diferencia entre espacios, el “virtual”y el “real”, se presta para una separación de personalidades dentro de un mismo individuo. Existe la persona que se presenta en el mundo real, que está atada a su cuerpo físico y a un contexto específico en el que se desarrolla y se ve obligado a existir. Vive bajo la censura impuesta por la sociedad, aprende a través de sus interacciones con personas y su entorno qué es lo que está bien en su contexto y qué cosas no funcionan. Forma una conciencia a través de lo que aprende, de sus experiencias en el mundo físico, de sus encuentros con otras personas, y de la información que estas le comparten. Construye su yo en base a toda esta información y su procesamiento. Por otro lado, existe la personalidad que se presenta en el mundo virtual, que no está atada a nada. Es la imagen que esta persona que existe en el mundo real decide construir y presentar al mundo virtual. Quizás no tiene nada que ver con la persona física. Esta construcción de personaje le permite a uno presentarse como le provoque, decir cosas que no diría en la vida cotidiana, mostrar, de repente, su “verdadero” yo. O no. Tal vez no sienten nada de lo que dicen, y es una herramienta para desfogar las presiones de la vida y liberar los pensamientos más terribles que han tenido o que creen que podrían tener.

Creo yo que esa es una de las diferencias más importantes entre las IA actuales y las personas. Mientras que las personas podemos gozar de desarrollarnos en dos ámbitos distintos, que se alimentan el uno del otro, y finalmente terminan de armar a un individuo, las IA solo se desarrollan en el ámbito plenamente virtual. Si ya hemos establecido que las personas aprovechan el internet para ser anónimos y desfogarse, entonces las interacciones de las que está participando la IA no son representativas realmente de un humano cotidiano. En otras palabras: las estamos exponiendo a lo peor de la sociedad. No queremos ser fatalistas, definitivamente existen personas que se lo toman en serio, y quieren ver estos experimentos triunfar y desarrollarse de manera correcta para poder seguir avanzando por el camino correcto, pero no son la facción más vocal.

La cuestión ética de la conciencia artificial es una que hay que tener en cuenta. Qué peligro pensar que una AI súper desarrollada se identificara con lo que aprende a través de interacciones por Twitter. ¿Qué significa para el futuro de las IA? ¿Cómo desarrollar la tecnología sin exponerla a lo peor de la sociedad? Una inteligencia artificial, con una conciencia artificial que se asemeje a la humana, que nos pueda sobrevivir, y que aprenda a través de sus intercambios de mensajes con internet. Lo dejo en palabras de Tay chill I’m a nice person! I just hate everybody.

(and don’t we all?)

Like what you read? Give Daniella Toce a round of applause.

From a quick cheer to a standing ovation, clap to show how much you enjoyed this story.