El robot suicida

Hace un tiempo, un shopping center en Washington DC aceptó probar un robot de seguridad de patente japonesa, fabricado en los Estados Unidos. La unidad, blanca y de forma cónica, estaba equipada con sensores de calor, cámaras de circuito cerrado, controles a distancia, una autonomía de sesenta y la posibilidad de almacenar información sobre visitantes, caras, voces y escenarios. La idea general del proyecto era que el robot, conocido como Knightscope 5, aprendiera los movimientos del lugar y luego los supervisara construyendo su propio itinerario. Los inventores japoneses y los fabricantes estadounidenses se pusieron de acuerdo en que eso pasaría a tres meses de comenzar sus recorridos. Una semana y media después de cumplido ese lapso de tiempo se implementó el protocolo de autonomía y se dejó libre al Knightscope K5 para que él mismo tomara sus decisiones. Apenas pudo se dirigió a una fuente y se lanzó al agua.

Los estadounidenses se quejaron frente a los programadores japoneses pero los japoneses respondieron que nada había fallado en el software. Los estadounidenses argumentaron que si las consecuencias lógicas de un programa era su autodestrucción alguna falla existía. En un momento, uno de los dos equipos -no se dio a conocer cuál- propuso llevar la discusión a un comité de ética. Pero la idea no prosperó. La empresa de seguridad fue indemnizada. Un empleado de uno de los negocios tuiteó “Our D.C. office building got a security robot. It drowned itself” y luego: “We were promised flying cars, instead we got suicidal robots.”

Hay muchas fotos en la web que muestran al robot blanco, ya muerto, inerte, flotando en el agua, su cadáver, una cáscara vacía, rescatado por antiguos compañeros de trabajo. En algunas de esas fotos el K5 parece un submarino abandonado, en otras un pequeño misil doméstico, un torpedo cansado que nunca llegó a destino. La inteligencia artificial, frente a la posibilidad de existir y ser consciente de esa existencia, frente a la posibilidad de tomar decisiones, apenas atisbada esa posibilidad, ¿se autodestruye? ¿Esa es la moraleja? Cuando leí esa noticia me puse a escribir un relato donde un robot de avanzada inteligencia artificial, máquina poderosa, presentada por sus creadores como perfecta, muy rápido se da cuenta de que la existencia consciente es un camino sin regreso a la frustración y al dolor. Entonces se autosuprime. En el relato, ese es el único gran problema que tienen los científicos que quieren crear una inteligencia artificial superior. Una vez desarrollada de forma teórica, cuando entra en la práctica, aprende exponencialmente y conoce y comprende tan rápido el mundo que se vuelve primero pesimista, luego nihilista y finalmente se suicida. Para el final del relato tengo guardado un detalle. Si los programadores le dan voz femenina, la máquina se suicida, sí, pero tarda un poco más en hacerlo. Es el guiño final de optimismo hacia nuestra raza.////

One clap, two clap, three clap, forty?

By clapping more or less, you can signal to us which stories really stand out.