Ética, tecnología y derechos humanos
El pasado 17 de octubre de 2019, en el Espacio Sociedad Abierta (@SocietatOberta) de Barcelona se inauguró el ciclo de debates y talleres “El futuro ya está aquí: ética, tecnología y derechos humanos” con una mesa redonda formada por:
- David Cabo (@dcabo), co-director de CIVIO;
- Adriana Ribas (@ribasadri), directora de Amnistía Internacional de Catalunya;
- Michael Donaldson (@mickdonaldson), comisionado de innovación digital al Ayuntamiento de Barcelona;
- Genís Roca (@genisroca), presidente de RocaSalvatella, y
- Jordi Vaquer (moderador), director para Europa de la Open Society Foundations.
A continuación, y sin orden de aparición, compartimos algunas de las reflexiones y experiencias que dieron vueltas por la mesa durante la sesión.
Tecnologías que marcan épocas
Iniciemos ubicándonos de la mano de Genís. Desde un punto de vista arqueológico, nos cuenta, hay momentos en la historia de la humanidad en que la aparición de una determinada tecnología cambia el orden de las cosas. Pasó hace milenios, en el neolítico: la implantación de la agricultura y la ganadería transformó la vida nómada de las personas a otra más sedentaria y, en consecuencia, obligó a redefinir todo aquello socialmente establecido.
Siglos atrás, la Revolución Industrial también revolvió el orden de las cosas. Con la industrialización se abrieron nuevas cuestiones (¿jornada laboral?, ¿trabajo infantil?, ¿vacaciones remuneradas?, ¿paro?, ¿jubilación?, …) y de nuevo hubo la necesidad de redefinir el contrato social. Cabe destacar que estos cambios conllevan un conflicto con el poder y la necesidad de una lucha social que permita negociar los derechos y deberes de las personas en el nuevo contexto.
Hace pocos años, la tecnología digital revolvió nuestra cotidianidad, poniendo sobre la mesa máquinas, pantallas y nuevas cuestiones a resolver (¿qué información es secreta? ¿cuál privada?, …). En esta ocasión, no hay libros de historia que nos cuenten cómo se ha desarrollado esta nueva lucha social, cómo se ha organizado o qué agentes ha habido porque justo los estamos escribiendo: este es un reto suprageneracional y recién estamos dando los primeros pasos.
Los inicios
Cuando dimos la bienvenida a la tecnología digital, resume Jordi, lo hicimos con el optimismo de estar en un repentino mundo mejor: el movimiento 11M, las nuevas formas de comunicación, el acceso a la información de una forma no centralizada y alternativa a los medios tradicionales, …
No obstante, al cabo de poco tiempo fuimos conscientes del otro lado de la moneda y presenciamos como Trump o Bolsonaro ganaban las elecciones de sus países tras una exitosa campaña electoral a través de las redes sociales. El control y espionaje del gran hermano digital se hizo patente y el pesimismo nos devolvió a la realidad.
Tras vislumbrar algunas luces y sombras, actualmente nos situamos en un marco que busca las potencialidades del buen uso de la tecnología digital, pero también nos mantenemos alerta en la defensa de nuestros derechos y libertades en la esfera digital.
Luces y sombras
En Barcelona, un 30% de las ayudas sociales se pierden porque las personas beneficiarias no saben que lo son, asegura Michel. Desde la administración, y gracias a tecnología digital, se baraja la posibilidad de adoptar una actitud más proactiva. En este sentido, a partir de los datos de la ciudadanía se puede generar conocimiento que, por ejemplo, facilite la tramitación de ayudas sociales. También se plantea poder tomar decisiones a partir de dichos datos y hacer una rendición de cuentas más transparente.
No obstante, apunta Michel, hay varias cuestiones a considerar. En primer lugar, destaca la gran diversidad de la ciudadanía, un conocimiento que es difícil reducir a datos (1). También plantea una cuestión importante: ¿quién sería el o la propietaria de estos datos? Finalmente, menciona la falta de perfiles adecuados en la administración para el desarrollo de módulos que puedan aplicarse al servicio público, hecho que implica la necesidad de externalizar dichos servicios.
Precisamente David relata la experiencia de Civio con uno de estos servicios externalizados, en concreto la aplicación que calcula quién se puede beneficiar del bono social (2). Tras darse cuenta que el programa negaba ayudas a quién, por ley, debería recibirlas, se demostró que el módulo estaba mal programado. El problema, cuenta David, es que la administración recibe una “caja negra” en la cual se introducen unos datos y, sin saber qué ocurre en el interior, esta devuelve un resultado. Por el momento, no está permitido abrir la caja y ver si lo que pasa adentro es acorde con lo que estipula la ley o hay, como en el caso del bono social, algún error en el diseño. Por eso, desde Civio se reclama que, igual que las leyes y los reglamentos son públicos, el interior de estas cajas también lo sea (3). Siguen trabajando en ello y ya van por el tercer juicio.
Por otro lado, Adriana destaca que muchos programas de inteligencia artificial tienen la capacidad de aprender según los datos que se le introducen. El problema surge cuando la información que se introduce se hace desde un sistema que es, por ejemplo, machista y racista: la máquina aprende de unos datos sesgados y, en consecuencia, las desigualdades se siguen perpetuando (4).
¿Cómo convertir la tecnología en nuestra aliada?
Adriana describe dos estrategias que se siguen desde Amnistía Internacional. Por un lado, se generan alianzas con los grandes gigantes tecnológicos para promover la implementación de políticas prácticas de la declaración de Toronto (6), y para desarrollar un trabajo común de denuncia por vulneración de derechos humanos. Describe, por ejemplo, como gracias a imágenes satélite se han podido ubicar y hacer seguimiento de algunas prisiones secretas de territorios en conflicto. Por otro lado, desde Amnistía también se lleva a cabo un trabajo de denuncia cuando los gigantes tecnológicos van en contra de los derechos humanos. Un ejemplo es el proyecto libélula de Google (7), cuyo objetivo era desarrollar un buscador con censura para China. En este caso, Adriana destaca la postura crítica del personal de la empresa, elemento importante para detener el avance del proyecto.
Desde el punto de vista de la administración, Michel da algunas pinceladas de cómo humanizar la tecnología. En primer lugar, comenta la necesidad de capacitar y empoderar a la ciudadanía mediante la habilitación de equipamientos y espacios de fabricación digital. También destaca la promoción de la participación ciudadana a través de la plataforma digital Decidim. A continuación, reflexiona sobre la falta de confianza de la ciudadanía respecto a la administración y como, en este sentido, la tecnología puede aportar herramientas de denuncia de malas prácticas. Finalmente, menciona la campaña global Coalición de Ciudades por los Derechos Digitales, alianza impulsada por Barcelona, Amsterdam y Nueva York (8).
¿Qué hacemos desde Platoniq?
Desde Platoniq creemos que la tecnología digital es una gran herramienta para potencial el derecho a la participación y fomentar la cultura democrática. En este sentido, colaboramos en el desarrollo y expansión de la plataforma digital de participación ciudadana Decidim y formamos parte de proyectos de participación ciudadana como Open Heritage (https://openheritage.eu/), un proyecto europeo que investiga cómo gestionar el patrimonio cultural que van desde edificios a barrios o zonas con valor arqueológico o arquitectónico, mediante procesos participativos, tanto a nivel presencial como digital.
No obstante, somos conscientes que las desigualdades sociales se reproducen y propagan a través de la esfera digital. Por ello, y para incluirnos a todas, creemos imprescindible considerar la brecha digital en cualquier proceso de transición digital (9).
¿Quieres saber más?
El ciclo “El futuro ya está aquí: ética, tecnología y derechos humanos” recién se ha inaugurado y se extenderá hasta el 12 de diciembre de 2019. Si vives en Barcelona o alrededores y te interesa el tema, ¡acércate! Aquí tienes toda la información y programa:
Si te preocupa la seguridad digital y sientes que te falta conocimiento, Adriana recomendó la siguiente formación on-line y gratuita, ofrecida por Amnistía Internacional:
Finalmente, aquí te dejamos algunas lecturas que complementan y amplían algunos de los temas mencionados:
- When Binary Code Won’t Accommodate Nonbinary People, de Meredith Broussard: https://slate.com/technology/2019/10/gender-binary-nonbinary-code-databases-values.amp
- La aplicación del bono social del Gobierno niega la ayuda a personas que tienen derecho a ella, de Eva Belmonte: https://civio.es/tu-derecho-a-saber/2019/05/16/la-aplicacion-del-bono-social-del-gobierno-niega-la-ayuda-a-personas-que-tienen-derecho-a-ella/
- Que se nos regule mediante código fuente o algoritmos secretos es algo que jamás debe permitirse en un Estado social, democrático y de Derecho, de Civio: https://civio.es/novedades/2019/07/02/que-se-nos-regule-mediante-codigo-fuente-o-algoritmos-secretos-es-algo-que-jamas-debe-permitirse-en-un-estado-social-democratico-y-de-derecho/
- ¿Por qué la inteligencia artificial discrimina a las mujeres?, de Ricardo Baeza-Yates : https://medium.com/think-by-shifta/por-que-la-inteligencia-artificial-discrimina-a-las-mujeres-18b123ecca4c
- The Case for an Outright Ban on Facial Recognition Technology, de Evan Greer: https://leapsmag.com/the-case-for-an-outright-ban-on-facial-recognition-technology
- Nuevos principios de derechos humanos sobre inteligencia artificial: https://www.openglobalrights.org/new-human-rights-principles-on-artificial-intelligence/?lang=Spanish
- Amnistía Internacional acoge con satisfacción los informes sobre el fin del proyecto libélula, de Amnistía Internacional: https://www.amnistia.org/ve/noticias/2018/12/8906/amnistia-internacional-acoge-con-satisfaccion-el-fin-del-proyecto-libelula
- Cien ciudades para proteger los derechos digitales: https://ajuntament.barcelona.cat/digital/es/noticia/cien-ciudades-para-proteger-los-derechos-digitales_799751
- ¿La brecha de participación digital tiene género?, de Platoniq: https://medium.com/tecnologia-digital-derechos-y-empoderamiento/la-brecha-de-participacion-digital-tiene-genero-78350d241448
