Ciberseguridad y ciberdefensa

Armas, justicia e inteligencia artificial

Las nuevas tecnologías irrumpen cada vez más en distintas dimensiones de nuestra vida. Esto incluye a los entornos militar y legal, ya que su implementación puede contribuir a combatir el crimen o impartir justicia. Ante la adopción de estas nuevas tecnologías, parece como si la responsabilidad humana disminuyera. Pero, ¿sabemos a ciencia cierta cómo toman decisiones estos programas? ¿Podemos dejar en sus manos elecciones como una sentencia o la vida de una persona?

Inteligencia (Artificial) Militar

“Quien lidere la inteligencia artificial gobernará el mundo”. O al menos así lo afirmó Vladimir Putin hace unos años. El alcance, la precisión y el poder de la tecnología ofrece tantas posibilidades como peligros.

La tecnología ha estado siempre presente en la historia de la armamentística. Este detalle se puede apreciar en las armas blancas y de largo alcance, como son las espadas, o el arco y la flecha. A su vez, durante el Renacimiento se introdujeron las armas de fuego. A partir de entonces, se pudo causar daño de manera más sistemática (y a mayor distancia). Después, llegamos a las armas nucleares, las cuales generaron momentos de gran tensión durante la Guerra Fría entre EEUU y la URSS. Actualmente, se afirma que las armas nucleares se conservan sólo como “último recurso”. Pero ¿quién decide cuando se llega a este punto? También hay que tener en cuenta que detrás de todo este desarrollo armamentístico existen diversos intereses políticos y mucha opacidad institucional. Esto sin olvidar que no es nada fácil prevenir o regular este tipo de armas.

Terrorismo y ataques cibernéticos

Un ciberataque es cualquier intento de exponer, alterar, inutilizar, destruir, robar u obtener información a través de un acceso no autorizado a un sistema informático. Asimismo, se considera ciberataque al uso no autorizado de medios y redes informáticas ajenos al propio. Este tipo de ofensivas tienen como objetivo sistemas informáticos, infraestructuras, redes o dispositivos personales. Pueden ser empleados por estados soberanos, individuos, grupos, sociedades u organizaciones; y puede originarse desde una fuente anónima. A su vez, sus ámbitos de acción pueden ir desde la instalación de un programa espía en un ordenador personal hasta el intento de destruir la infraestructura de naciones enteras. Hasta ahora los estados que reciben más ciberataques son Alemania, China, Estados Unidos y Rusia.

La forma más común de ciberataque se llama Phishing, que consiste en el envío de comunicaciones fraudulentas a otros sistemas bajo la apariencia de una fuente de confianza, usualmente a través del correo electrónico. El objetivo es robar datos confidenciales, como la información de las tarjetas de crédito y los datos de acceso a dispositivos personales, o instalar un malware en la máquina de la víctima.

El ciberterrorismo, por el contrario, es una ofensiva que implica razones ideológicas, religiosas o políticas. Busca interferir con grandes infraestructuras, así como generar terror. A diferencia de un virus molesto o de un ataque informático que provoca una denegación de servicio, el ataque ciberterrorista está explícitamente diseñado para causar daños físicos o de largo alcance a las personas. Entre los posibles objetivos terroristas se encuentran el sector bancario, las instalaciones militares, las centrales eléctricas, los centros de control del tráfico aéreo y los sistemas de agua.

Por el momento, hay algunas soluciones antes los ataques masivos, como los antivirus. Pero probablemente tengamos que desarrollar una mayor protección ante estas amenazas.

Crimen y Justicia

El uso de algoritmos para combatir el crimen puede ayudar a concretar planes de acción más eficientes, como focalizar las fuerzas policiales en los lugares donde su refuerzo sea más necesario. De igual modo, la tecnología puede servir para reducir o aumentar sentencias según la probabilidad del convicto de volver a cometer un ofensa. Es decir, puede servir como mecanismo estimador de riesgos. Pero en términos de justicia, ¿qué preferirías: estar en manos de un juez o de un ordenador?

Es cierto que las máquinas prometen decisiones no arbitrarias y precisas. Pero las decisiones que toman están basadas en realidades humanas. Y la pregunta es si una máquina es capaz de hacer juicios de este tipo. O si los datos con los que cuenta para tomar decisiones no están ya de entrada marcados por cierta arbitrariedad. Por lo tanto, las máquinas no suelen estar libres de sesgos o prejuicios. Los seres humanos no somos neutrales. El confiar ciegamente en estos programas nos puede llevar a automatizar desigualdades e injusticias.

En un terreno donde se trata con la vida y libertad humana no podemos dejarlo todo en manos de operaciones matemáticas opacas. La mejor tecnología es la que involucra al ser humano en todos los pasos del proceso de toma de decisiones: ya sea para defender, atacar, vigilar o juzgar.

Este seminario estuvo moderado por:

• Manuel Cabral estudia Economics, Leadership & Governance, Universidad de Navarra
• Victor Estrada estudia Economics, Leadership & Governance, Universidad de Navarra | LinkedIn
• Pablo García Naveira estudia Economics, Leadership & Governance, Universidad de Navarra|LinkedIn
• Gonzalo Rodríguez Hermida estudia Economics, Leadership & Governance, Universidad de Navarra
• Jimena Villacorta estudia Relaciones Internacionales, Universidad de Navarra | LinkedIn