Inteligencia Artificial ¿Gobernarla o ser gobernados?

Ricardo Bobadilla
Sep 5, 2018 · 7 min read

“The question of whether Machines Can Think… is about as relevant as the question of whether Submarines Can Swim.” — Edsger W. Dijkstra

¿Que es “inteligencia”?

De todas las definiciones que he buscado la que más me ha convencido es esta: “La inteligencia es un proceso físico que intenta maximizar la futura libertad de acción y evitar las restricciones en su propio futuro…, incluso existe una ecuación para describirla, la cual va en función de la entropía de un sistema, para mayor referencia pueden consultar este video.

Sin ir demasiado lejos en tratar de analizar sistemas como Watson de IBM, o Alexa de Amazon, reflexionemos un poco sobre los teléfonos inteligentes, de primera instancia pareciera que el término “inteligente” no encaja del todo en el dispositivo propio, sin embargo, cuando comenzamos a tomar en cuenta su integración con diversas aplicaciones y su conexión a Internet, queda claro que a lo largo de los años estos sistemas han evolucionado de tal forma que hoy en día tienen cierto albedrío y capacidad de toma de decisiones, que muchas veces pasan por alto el consentimiento del usuario humano, de hecho recientemente el comportamiento humado ha sido condicionado y de cierta forma manipulado por y a través de estos dispositivos.

Niños leyendo publicaciones de Medium

Ficción como advertencia y hechos consumados

En 1949 Jeorge Orwell publicó Nineteen Eighty-Four (1984), donde combinó una novela política con una ficción distópica, en la cual la vigilancia masiva y omnipresente funge como elemento clave para ejercer una represión política y social, hecho del cual no estamos muy lejos hoy en día, donde grandes corporativos disponen de un monitoreo constante de los humanos y su banal actividad como sociedad en su día a día. Esto ha permitido que empresas como Cambridge Analytica, puedan generar estrategias en campañas políticas que tengan influencia en la toma de decisiones tan importantes como la elección de ciertos presidentes, o la separación de cierto país de cierta unión, por citar algunos ejemplos.

“Big Brother is watching you”

Unos años después, en 1955 Isaac Asimov publicó un breve relato sobre un experimento de democracia electrónica, el cual consistía en que un ciudadano seleccionado para representar a toda una población, respondía a las preguntas generadas por sistema llamado Multivac, el cual procesaba las respuestas para calcular los resultados de unas elecciones que nunca tendrían lugar… poco más de medio siglo más tarde, China pretende llevar a la realidad ideas similares, donde la tecnología y en particular la Inteligencia Artificial sean herramientas de gobierno y toma de decisiones tanto políticas como socio-económicas, dichas iniciativas han desembocado en lo que podría llamarse un sistema de confianza o de reputación, donde muy a la Black Mirror, las personas tendrán que “ganarse” el derecho a ciertos servicios en función de su puntuación de acuerdo con su comportamiento histórico y en caso de no ser lo suficientemente populares o “buenos” (con alta reputación), estos pasan a formar parte de una lista negra, y en consecuencia a perder acceso a ciertas prestaciones como créditos, hipotecas, acceso a hoteles de lujo, acceso a lineas de transporte, entre otros…, una verdadera locura, o no.

Black Mirror: Nosedive

Internet, ¿Aliado o enemigo?

Desde el nacimiento de ARPANET, hasta lo que conocemos hoy día como Internet, nuestra vida como especie ha cambiado radicalmente, debido al acceso a la información y las capacidades de comunicación global, sin embargo, aunque pareciera que Internet es nuestro mejor aliado en cuanto a libertad de expresión, acceso a información y globalización, también ha sido, junto con la televisión, la mejor arma de manipulación masiva jamás creada, y hasta hace poco ese poder solo había sido vislumbrado por pocos jugadores tecnológicos, y aunque varios de ellos presumen de tener una mesura adecuada en la aplicación de la Inteligencia Artificial, como herramienta generadora de bienestar para el usuario final y de mayores oportunidades de negocio para la industria, no hemos estado exentos de situaciones en la que el uso de nuestros datos e identidad digital son usados con otro tipo de fines, un tanto alarmantes…

Dado que en escasas ocasiones (entiéndase nulas) leemos los términos y condiciones al momento de utilizar un servicio de Internet, o una nueva aplicación para subir fotos de lo que comemos y videos de bailes afuera de un automóvil mientras éste está avanzando, están surgiendo alternativas y proyectos cuya principal consternación reside en la propiedad de los datos y los bienes digitales, algunos ejemplos son:

Metamask: Un puente entre la web actual tradicional y la web del futuro basada en blockchain y aplicaciones distribuidas (dApps), con prioridades en cuanto a la privacidad y el manejo de identidades.

Solid: Del creador de la World Wide Web (el buen Tim Berners-Lee), surge este proyecto en colaboración con el MIT, el cual pretende cambiar radicalmente la manera en que trabajan hoy los protocolos de comunicación a través de Internet, con la finalidad de proporcionar una verdadera posesión de los datos privados.

Independientemente de que rumbo tome la evolución de Internet, es un hecho que, por si mismo no es ni nuestro aliado ni nuestro enemigo, simplemente nuestra naturaleza humana a forzado a que el uso de la tecnología siempre este dividida entre los buenos y los malos, lo que sería realmente interesante saber o cuestionarse es; ¿Qué pasará cuando la evolución de la Inteligencia Artificial alcance el punto de inflexión en el cual tiene libre albedrío? ¿Será buena o será mala? ¿Buena para quién? ¿Mala para quien?

¿Quien es más confiable, un ser humano o una máquina?

Primero analicemos al ser humano… Desde tiempos inmemoriales el más grande problema del humano como sociedad ha sido el problema de la confianza y la credibilidad, aunque tampoco estoy seguro si llamarlo un “problema”, aquí un artículo de National Geographic “Why We Lie” sobre la mentira y por que mentimos. Pero independientemente de que la mentira sea parte de nuestra naturaleza tanto evolutiva como de supervivencia, en un nivel tanto político como socio-económico, resulta de muy mal gusto, tanto así que en todo proceso que involucre la toma de decisiones, o la transacción de bienes dentro de una sociedad, siempre tiene que haber un tercero, y aún así, siempre queda la duda de la legitimidad o de la transparencia de dicho proceso, sin mencionar la certeza de la implicaciones supuestas para tales decisiones.

Ahora las máquinas… Si en casa accionamos un interruptor de energía para un foco este prenderá o apagará según sea el caso, sin cuestionar tal decisión nuestra, si este foco pertenece a un sistema inteligente de domótica, este se apagará en el caso que dicho sistema no note presencia alguna, en consecuencia confiaríamos en que éste sistema ahorre energía en caso de que olvidemos apagar la luz. Hasta aquí parece que la tecnología es confiable, sin embargo, cuando las decisiones se complican y la tolerancia a fallos se vuelve nula, el resultado es un tanto distinto, a demás, detrás de cada decisión de un sistema tecnológico, esta implícito, solo hasta cierto punto, el pensamiento de algún grupo de humanos, después de este punto y conforme el problema o la toma de decisión se torné más compleja, entran en escena algoritmos de aprendizaje muy elaborados, de los cuales en algunas ocasiones el ser humano ya no puede tener completa certeza del por que se eligió determinada acción o se generó determinado resultado, solo queda el confiar en las matemáticas, la lógica, y las buenas prácticas de la programación inicial de los algoritmos… en lo particular solo confiaría en las primeras dos.

Dadas estas premisas, ¿Qué tan viable?, o mejor dicho, ¿Qué tan razonable sería el delegar funciones de gobierno a sistemas informáticos inteligentes?, por un lado considero poco probable que a un programa informático le sea de interés un jugoso soborno económico, y por otro lado temo por la gran responsabilidad y el gran poder que conlleva el que una nación pueda disponer de estas herramientas para un beneficio jerárquico.

Un uso moderado y paulatino de la tecnología y en particular de la Inteligencia Artificial como herramientas de gobierno sería lo adecuado, un ejemplo no muy lejano de esto sería comenzar ha hacer el proceso electoral sobre una cadena de bloques u ocupar algoritmos similares a los que se ocupan en trading, para decidir si continuar o no con un tratado comercial, entre otros, pero principalmente, hacer consciente a la sociedad, de que la Inteligencia Artificial llegó para quedarse, y que en determinado momento dada la creciente convivencia con ella, tomará un lugar de alta importancia en nuestras formas de control y organización como sociedad, así como dentro de la misma, con sus respectivos derechos y obligaciones…

Y no es ficción, esto ha comenzado…

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade