Datos + cuerpos + territorios — Un evento de Datos y Feminismo y Tierra Comun

El 22 de septiembre de 2023, el Laboratorio de Datos + Feminismo del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés) y la red Tierra Común tuvieron el honor de contar con la presencia de la Profa. Paola Ricaurte (Tecnológico de Monterrey, México, y Berkman Klein Center) y del Prof. Julián Posada (Universidad de Yale) para una conversación sobre el colonialismo de datos en la Mayoría global. Les acompañaron la Profa. Catherine D’Ignazio (directora del Laboratorio de Datos + Feminismo en MIT) y Mariel García Montes (candidata doctoral en el programa de Historia, Antropología, y Ciencia, Tecnología y Sociedad en MIT).

Nos complace compartirles algunos de los puntos principales de esta conversación, con un agradecimiento especial a la Profa. Crystal Lee por sus contribuciones a las notas.

Datos + cuerpos + territorios
Laboratorio de Datos + Feminismo en MIT + Red Tierra Común
22 de septiembre de 2023

Mariel García-Montes — palabras de apertura y Datos, cuerpos y territorios bajo vigilancia

• Las conversaciones sobre datos, cuerpos y territorios tienen importancia académica y social porque están al centro de la distribución de recursos, de debates de salud pública, del desarrollo tecnológico que abarca desde logística y tecnologías digitales hasta decisiones de planeación urbana en lo que concierne a transporte y vivienda.
• Este evento explora esta intersección tan crucial, y especialmente las maneras de las que fuerzas como el colonialismo de datos explotan datos, cuerpos y territorios para la acumulación del capital y del poder, así como las maneras en que personas en la academia y en el activismo en la Mayoría global están desafiando a esta forma de opresión.
• Quisiera agregar algunos insumos de mi propia investigación. Uno de los contextos en los que se explota a los datos, cuerpos y territorios es la vigilancia, que es la observación que las autoridades en turno realizan aparentemente en aras del interés común, como puede ser la seguridad en el espacio público, la seguridad de la propiedad privada, etc.
• Debemos siempre tener en mente a los distintos cuerpos que perpetran la vigilancia: padres, compañeros violentos, el Estado, un jefe — así como a los cuerpos sujetos a esta observación: disidentes, trabajadores con salarios bajos.
• Dada la naturaleza de la vigilancia que lo abarca todo, a veces utilizamos expresiones y marcos de referencia totalizantes (por ejemplo, “dejen de vigilarnos a todxs”). El propósito de estos llamados universales es movilizar a grupos grandes para promover el cambio, pero también soslayan las maneras en que las tecnologías de control sí distinguen entre cuerpos distintos. Esto es porque no todos los daños son perpetrados o experimentados de la misma manera.

Diapositiva de la presentación de Mariel. Incluye la fotografía de una persona en una protesta callejera con un signo que dice: “Dejen de observarnos a todos.”

• No todas las personas son vigiladas de la misma manera, y el activismo y la investigación académica de esta década lo ha demostrado. Algunos ejemplos son el libro “Dark Matters” de Simone Browne, sobre la vigilancia contra las personas negras; “Borderland Circuitry” de Ana Muñiz, sobre la vigilancia contra migrantes; “Going Stealth” de Toby Beauchamp, sobre la vigilancia contra personas trans; la investigación y activismo de Hacking // Hustling contra la vigilancia que tiene como objetivo a quienes hacen trabajo sexual; y el proyecto del Laboratorio de Datos + Feminismo “Ciudades inteligentes feministas: centrando los márgenes co-diseñando para la seguridad en India.”
• Tecnologías diseñadas en el Norte global son después financiadas y utilizadas en países de la Mayoría global tales como México, donde se les usa para amenazar a periodistas y activistas. Algunos ejemplos son el malware Pegasus, desarrollado por la compañía israelí NSO Group; las cámaras de seguridad pública con capacidades de reconocimiento facial adquiridas de China, y las paqueterías de productividad con capacidades de vigilancia para el entorno laboral que empresas españolas venden en México.
• Las prácticas de vigilancia en la Mayoría global forman parte de trayectorias más largas de vigilancia política con hitos de cooperación con países del Norte global. Por ejemplo, sabemos que la policía secreta de México colaboró de manera cercana con la CIA en los 50 y 60, cuando construyeron capacidad técnica conjunta para vigilar a grupos disidentes tales como el Partido Comunista, los Black Panthers, activistas estudiantiles, y figuras políticas en ambos lados de la frontera.
• Finalmente, argumento que estas historias no se han terminado y no son de desesperanza. Ante las tecnologías de la vigilancia hay historias de activismo y organización de la sociedad civil para transformar, resistir y dar un nuevo sentido a la manera en que concebimos estas tecnologías a nivel mundial.

Descripción de la imagen: La diapositiva incluye una fotografía del grupo de activismo juvenil mexicano “Formemos un cambio” exigiendo rendición de cuentas después de que el gobernador de Coahuila anunciara la compra de cámaras de seguridad con reconocimiento facial de la compañía china Dahua.

• Si hoy nos acompañas por tu trabajo y tu interés en datos, computación, ciudades y diseño, te propongo que lleves en tu mente estas preguntas a lo largo del evento y tu trabajo futuro: ¿Cuáles son los cuerpos que estas tecnologías apoyan, y cuáles son los cuerpos que reciben los perjuicios? ¿Qué territorios pagan el costo, y qué territorios cosechan los beneficios?
• Nuestrxs tres panelistas estarán analizando este tema. Paola Ricaurte, profesora en el Tecnológico de Monterrey en el Departamento de Medios y Cultura Digital, fundadora de la red Tierra Común, y cuyo trabajo en el estudio crítico de las tecnologías digitales ha abarcado durante varios años desde temas de movimientos de apertura tecnológica hasta el colonialismo de datos y epistemológico. También nos acompaña Julián Posada, que nos visita de New Haven donde es profesor de Estudios Americanos en la Universidad de Yale. Su trabajo investiga las dinámicas entre el trabajo humano y la producción de datos en la industria de la inteligencia artificial en América Latina. Y tenemos a Catherine D’Ignazio, que como el resto de nosotras está basado en territorio no cedido de la Nación Wampanoag y el pueblo Massachusett, donde honramos a los distintos pueblos indígenas conectados con este territorio desde tiempos inmemorables. Catherine es profesora en el departamento de Estudio y Planeación Urbanas y Directora del Laboratorio de Datos y Feminismo. Su trabajo usa datos y métodos computacionales para trabajar hacia la justicia de género y racial, especialmente en lo que concierne al espacio y el lugar.

Catherine D’Ignazio — Contando el feminicidio

• A lo largo de la década pasada, se incorporó como un campo de investigación los Estudios Críticos de los Datos (Critical Data Studies), y lo encontramos en contribuciones como el libro de Virginia Eubanks “Automating Inequality” (Automatizando la desigualdad), “Algorithms of Oppression” (Algoritmos de la opresión) de Safiya Noble, “Race after Technology” de Ruha Benjamin (La raza después de la tecnología), “The Age of Surveillance Capitalism” (La era del capitalismo de la vigilancia) de Shoshana Zuboff, “Data Justice” (Justicia de datos) de Emiliano Treré y Lina Dencik, “The Costs of Connection” (Los costos de la conexión) de Nick Couldry y Ulises Mejias, y en el artículo “Data Epistemologies, the Coloniality of Power, and Resistance” (Epistemologías de datos, el colonialismo del poder y resistencia) de Paola Ricaurte, entre otras obras emergentes.
• Mucho trabajo ha hecho avances en nombrar los efectos dañinos y discriminatorios de los datos y de la inteligencia artificial: extractivismo de datos, colonialismo, el nuevo Jim Code. Estos trabajos muestran de manera terminante cómo los conjuntos de datos, sistemas e inteligencia artificial están acelerando y exacerbando las desigualdades sociales — el sexismo, racismo, colonialismo.
• Los datos y la inteligencia artificial no yacen fuera del poder. El poder político se concentra a través de datos, particularmente ahora que hay sistemas de inteligencia artificial permeando todos los sectores, tales como el de servicios médicos, acceso a la educación y vivienda (convirtiéndolo en un campo de interés para el programa de Estudios y Planeación Urbanas).
• Al mismo tiempo, la ciencia de datos tradicional está llena de lógicas coloniales y extractivistas, y propone puntos de vista que muchxs investigadorxs hoy rechazarían.

La epistemología de datos “hegemónica”: Los datos son una “representación inerte”, tienen una relación 1:1 con los hechos del mundo que representan. Los datos no tienen política / son neutrales. Entre más datos haya, es mejor / tenemos conocimiento más completo. Si hay datos existentes, está bien usarlos. Los datos cuantitativos son superiores a los cualitativos, contextuales, y/o de la experiencia. La recolección, limpieza y anotación de datos es trabajo no cualificado. En análisis de datos y la creación de modelos de inteligencia artificial son el trabajo cualificado.

• El trabajo de Paola Ricaurte en epistemologías de datos abre la puerta a otras epistemologías que podemos incorporar en la ciencia de datos. “Hay ‘marcos de referencia para datos, alternativos y posibles, que respetan a poblaciones, a la diversidad cultural y a los distintos ambientes.”
• Mi próximo libro, “Counting Feminicide: Data Feminism in Action” (Contando el feminicidio: Feminismo de datos en acción, MIT Press, 2024) se refiere a estos marcos de referencia alternativos. Es una continuación de la investigación que inició con el libro de Feminismo de datos, cuando encontré el trabajo de María Salguero, autora de “Te nombro: mapa de feminicidios en México”, 2016-actualmente. El feminicidio es el asesinato de mujeres y niñas por motivos de género, afecta a mujeres cis y trans, y se ha criminalizado en América Latina — llevando al enojo de distintas comunidades a lo largo del continente porque el Estado no ha monitoreado el problema. María decidió que ella llevaría a cabo este monitoreo por sí misma, y desde entonces ha pasado de 2 a 4 horas por día monitoreando casos y registrándolos en su mapa y base de datos. A través de su trabajo, ha estado en contacto con familias y seres queridos de las víctimas, ha hablado ante el Congreso, y ha generado datos esenciales para el periodismo.
• El trabajo de María es un ejemplo de una larga lista de activistas, organizaciones y colectivas alrededor del mundo, y especialmente en América Latina, llevando a cabo una labor similar de monitoreo de datos de feminicidio.

Texto de la imagen: El proyecto de investigación de Feminicidio, Datos y Políticas ha localizado a más de 180 proyectos de activismo de datos contra el feminicidio alrededor del mundo; muchos han surgido en la década pasada. La diapositiva muestra una línea de tiempo creada por Melissa Q. Teng que muestra los puntos de inicio para distintos proyectos de datos del feminicidio

• Este proyecto ha hecho investigación cualitativa y de co-diseño: 41 grupos activistas, más de 75 personas entrevistadas, 18 países. Les hemos hecho preguntas sobre su trabajo, el software que usan, y otras preguntas sobre sus métodos y usos de los datos.
• Ultimadamente, el activismo de datos contra el feminicidio nos dirige hacia una ciencia de datos transformadora y restaurativa. Cambian las reglas del juego en los debates. Las teorías de la cuantificación como la de Ted Porter que propone a la dataficación como una “tecnología de la distancia” describen lo opuesto de lo que hacen las activistas de datos contra el feminicidio. Para ellas, los datos son una forma de intimidad y cuidado.
• Mi libro resalta las diferencias de las maneras en que estos grupos llevan a cabo la ciencia de datos transformadora y restaurativa. Al centrar el cuidado, la memoria y la justicia; al ser trabajo de mujeres, parientes y co-ciudadanas afectadas en las comunidades que estudian; al usar datos no para resolver un problema sino para reformularlo; al tener siempre presente el contexto en juego.
• ¿Qué lecciones podemos traer de esta forma de activismo de datos a las discusiones sobre ética e inteligencia artificial?
  La ciencia de datos transformadora y restaurativa
  El uso de los datos para la restauración de derechos, de la dignidad, de la vida y de la vitalidad.
  El uso de los datos para transformar las condiciones estructurales y sistémicas de la desigualdad.

Julian Posada — Una cuenta, un territorio: Distribuyendo los riesgos del trabajo independiente

• Mi trabajo es sobre la labor de datos: su generación, anotación y verificación para el aprendizaje automático. ¿Qué datos se usa para validar sistemas algorítmicos? Hacer el diseño de modelos de aprendizaje automático es emocionante pero la anotación de datos no lo es, y por eso estos procesos que requieren tanto trabajo reclutan trabajadores a través de compañías como Appen, Hive, Remotasks, microWorkers, Clickworker, Telus.
• Las preguntas que guían mi investigación son las siguientes: ¿Por qué se considera que los datos son “baratos”? ¿Dónde se lleva a cabo las subcontrataciones del trabajo de datos? ¿Dónde están los clientes? Para comenzar a responder estas preguntas, analicé el tráfico web de las plataformas principales para entender dónde están los clientes y dónde los trabajadores. Encontré que los clientes están principalmente en el Norte global, donde Estados Unidos es el cliente principal, mientras que los trabajadores están distribuidos en la Mayoría global, como se muestra en el gráfico a continuación.

Texto de la imagen: Países organizados por porcentaje de tráfico promedio (trabajadores), mostrando a Estados Unidos hasta arriba, pero también a trabajadores en India, Brasil, Filipinas, Venezuela, Kenia.

• Venezuela es una fuente importante de datos para el aprendizaje automático, lo cual nos hace preguntar por el porqué. Podríamos argumentar que fue por la crisis económica, pero otros países en crisis durante ese periodo no están reflejados en el tráfico web de algunas de las plataformas de subcontratación principales.
• Yo argumento que hubo otros factores que contribuyeron: Venezuela también tuvo infraestructura de computación que fue clave en este modelo de trabajo, y que se construyó durante el gobierno de Chávez. Algunos de los trabajadores que entrevisté mencionaron que hacen su trabajo a través de las Canaimas, el dispositivo local de One Laptop Per Child, un legado del gobierno de Chávez. Esto significa que las condiciones socioeconómicas en conjunto con la infraestructura existente crearon una oportunidad de enfrentar las altas tasas de desempleo buscando trabajo en el extranjero.

Los datos no son considerados “baratos” sólo por condiciones de infraestructura y macroeconómicas. Tampoco es “barata” sólo por el estatus de los trabajadores y sus condiciones de trabajo. Más bien, los datos se tornan “baratos” porque el extractivismo se despliega hasta los territorios de los trabajadores.

• Se captura datos del cuerpo, que es el primer territorio. En mi investigación, encontré trabajos en las plataformas de subcontratación que buscaban capturar datos corporales de los trabajadores. En un ejemplo notable, se ofreció a los trabajadores 7.5€ por capturar tres videos de sus hijos sentados o gateando.
• No hay datos sin la labor de reproducción social de las mujeres. Aunque encontré paridad de género en la distribución de trabajadores en las plataformas de subcontratación, es la labor de reproducción social que llevan a cabo principalmente mujeres en los contextos domésticos y sociales la que permite este tipo de trabajo. Siempre tenemos que preguntarnos quiénes hicieron la comida y quiénes limpiaron el espacio de trabajo en el hogar donde se creó datos para la inteligencia artificial y aprendizaje automático.
• No hay datos sin el manejo de recursos comunes. Los cortes de electricidad en Venezuela nos recuerdan los recursos comunes e infraestructuras que subyacen a la labor de anotación de datos y otros trabajos cruciales para el proyecto de la inteligencia artificial y el aprendizaje automático.
• Por lo tanto no hay datos sin el ambiente porque no hay datos sin el trabajador, y no hay trabajador sin el ambiente.

Paola Ricaurte — Datos, cuerpos y territorios

• Tierra Común es una red de activistas, investigadorxs y artistas que trabajan en pos de la colonización de los datos. Vemos a los datos de manera holística: no como algo sujeto a monetización, sino como algo conectado a nuestro ecosistema viviente.
• El proyecto de la colonización de datos debe desafiar a las principales presuposiciones sobre los datos:
  Existen datos sin procesar
  Existen datos veraces
  Existen datos neutrales
  Los datos son abstracción o reflejo del mundo
  La dataficación media cómo nos relacionamos entre nosotrxs mismxs, a les otres, y al mundo
• El trabajo de Catherine D’Ignazio nos recuerda que los datos nunca existen sin procesar, con veracidad — y que nunca son neutrales. Debemos recordar que los datos construyen categorías alrededor del mundo, y dada su naturaleza sólo pueden ser veraces sobre nuestra experiencia. Sus aspiraciones de neutralidad son desafiadas por el hecho de que nuestra condición humana le dan forma a los datos que creamos.
• La dataficación se parece a los procesos de extracción y desposesión — y amplifica las dinámicas que subyacen a estas fuerzas.

Texto de la diapositiva: “La violencia extractivista y la desposesión que plagan a los pueblos indígenas y a las comunidades comienzan cuando se toma sus cuerpos como propiedad de otros, controlados, mutilados, maldichos y asesinados.” Asamblea de los Pueblos Indígenas del Istmo en Defensa de la Tierra y el Territorio (APIIDTT)

• La extracción y la desposesión como modelos dominantes de la economía de datos.
• No es sólo un proceso físico, aunque conlleve mucha violencia física (racial, de género, etc.)
• La dataficación como régimen y violencia epistémicas — esta violencia permite otros formas de violencia. Legitimiza la extracción y la desposesión al crear modos de producción del conocimiento que justificarán el uso de estos datos como argumentos para la extracción y la desposesión. Si creamos órdenes globales de producción del conocimiento, volvemos imposibles los desafíos a estas formas de producir realidad. Los ensemblajes de conocimiento y datos son sistemas articulados para extraer y desposeer.
• La dataficación nos afecta a todxs, pero no de las mismas maneras: vigilancia, cuantificación, desposesión de cuerpos y territorios.
• Estas maneras de entender los datos (como cantidad, abstracción) crean una narrativa donde los datos están desconectados de los impactos en cuerpos y territorios específicos. Los datos son personas reales con cuerpos y destinos, y son territorios afectados por la dataficación.
• Aníbal Quijano habla de la colonialidad como matriz de poder que controla el ser, conocer y sentir. Controla nuestras formas de comunicación, nuestras relaciones, instituciones, normas, prácticas; los recursos naturales y cuerpos.
• Es importante pensar a los datos como siempre encarnados, situados, como espacio relacional, como espacio habitado.

Descripción: Este diagrama pone al llamado data pipeline, “tubería de datos”, dentro de un ecosistema más amplio que incluye la producción (recursos, trabajo, cadenas de suministro); políticas del cuerpo (ser, conocer, sentir); territorio (extractivismo, huella de carbono, agua, energía, desplazamiento de comunidades) dentro de un sistema social (relaciones, normas, valores, instituciones, prácticas) y ultimadamente dentro de un sistema mundial.

• Es importante hablar de los datos más allá de la tubería de datos (data pipeline), considerándolos como parte de un paisaje más amplio con relaciones geopolíticas, sistemas sociales que lo configuran, y cuerpos y territorios afectados en cada fase de la tubería. Los datos siempre están conectados.
• ¿Qué papel juegan nuestros cuerpos y territorios en ecosistemas de datos? Podemos jugar distintos roles en la dataficación, ¿pero cuáles son los cuerpos y territorios que pagan los costos de la dataficación? Responder esta spreguntas nos puede ayudar a usar los datos no para predecir, sino para crear el futuro que queremos.

Preguntas y conversación

• Le pedimos a la Profa. Saiph Savage, directora del Laboratorio de Inteligencia Cívica en la Universidad Northeastern, que compartiera sobre el trabajo de su grupo en crowdworking e investigación participativa, así como en el colonialismo de datos en la ciencia de la computación. Su grupo tiene distintos proyectos con trabajadores independientes, trabajando temas como la fragmentación de plataformas que dificultan la acción colectiva.
• Tuvimos una pregunta sobre el manejo de situaciones difíciles relacionadas con errores en conteos de interés social que a veces suceden en la política y en el gobierno. Catherine resaltó el activismo de datos que se organizó alrededor de la preservación de los conjuntos de datos ambientales cuando estuvieron bajo amenaza presidencial en Estados Unidos, preguntando sobre infraestructuras alternativas para el cuidado de datos importantes y políticamente frágiles.
• Tuvimos una reflexión sobre el uso de términos conceptuales como “extractivismo” y “restauración” en la ciencia de datos. Catherine dice que la restauración es sobre la reparación y la sanación — no es el regreso a un estado previo de perfección, sino de mitigación de daños. El primer borrador de su próximo libro usó el término “contradatos” pero este término no le gustó a los grupos con los que trabaja — no se trata de que el Estado tenga una base de datos y las activistas tengan otro. No se trata de desafiar al Estado. Se trata de la construcción de una comunidad.
• Gracias a las palabras de la estudiante de Ciencias de la Computación en Harvard, Hongjin Lin, reflexionamos colectivamente sobre la tensión entre contar lo que hace falta y contar demasiado (por ejemplo, la vigilancia). Catherine menciona la asimetría de poder reflejada por los datos que hacen falta. En el caso del feminicidio, es claro que el Estado no quiere que sepamos los números, así que hay comunidades que buscan hacerlos visibles. Las decisiones comunitarias que son clave para trazar una línea entre ambos tipos de proyectos de conteo. Julián Posada menciona que el origen del término en francés, ‘surveillance,’ significa ‘ver desde arriba’ y tiene una contraparte que significa ‘ver desde abajo’: ‘sousveiller’.
• Radhika Radakrishnan, estudiante de doctorado en HASTS MIT, reflexionó sobre la ambivalencia que emergió en el contexto de su trabajo de campo en India para el proyecto del Laboratorio de Datos y Feminismo sobre ciudades inteligentes feministas. Agregó que aunque esperaba encontrar narrativas de la vigilancia como control, también encontró narrativas más ambiguas de la vigilancia como potencialmente empoderante de comunidades marginadas por cuestiones de género. Ahora ella teoriza un marco de referencia contextual para el Sur global que centra una ética feminista del cuidado que reconoce los daños de la vigilancia mientras reconoce su potencial para empoderar a las comunidades
• Tuvimos una discusión sobre el Quipu, una tecnología quechua para la cuantificación y el almacén de datos que muestra maneras en las que la visibilidad puede ser algo bueno. Paola habló sobre su artículo acerca del quipu, que no es sólo un instrumento de conteo sino también para codificar a una sociedad, una gran manera de imaginar alternativas para el trabajo de datos en el mundo. Otrxs participaron hablando del quipu como un sistema de reciprocidad y convivencia que junta a las comunidades, así como un instrumento de rendición de cuentas que asegura la distribución de los recursos.
• Gracias a Beatrys, candidata de doctorado en el Departamento de Comunicación en la Universidad de Cornell, reflexionamos sobre el trabajar con la alegría y no sólo con el dolor, reconociendo las ambivalencias que permean las estructuras de datos opresoras. Aspen Omapang, candidata a doctorado en Ciencias de la Información también en Cornell, reflexionó sobre el papel de datos comunitarios para cambiar el marco de involucramiento con gobiernos para tener impacto social. Pedro Reynolds Cuéllar, estudiante de doctorado en Medios, Artes y Ciencias en MIT, pregunta si es posible operacionalizar la oposición al colonialismo del extractivismo de datos pensando, por ejemplo, en los movimientos que han culminado en la repatriación de arte y objetos históricos.

Gracias a todas, todes y todos quienes nos acompañaron en persona y a quienes expresaron interés desde lejos. Aquí se puede leer más sobre el Laboratorio de Datos y Feminismo en MIT. Aquí se puede leer más sobre la red Tierra Común, y también puedes leer más sobre Prof. Julian Posada y Prof. Paola Ricaurte.

Paola Ricaurte hablando durante el evento. La diapositiva en el fondo dice “dataficación como régimen epistémico”. Foto cortesía de Crystal Lee.

Julián Posada hablando en el evento. Foto cortesía de Dasha Pruss.

Panel con Catherine D’Ignazio, Paola Ricaurte, Mariel García Montes y Julián Posada. La diapositiva en el fondo dice “datos para predecir crear el futuro que queremos”. Fotografía cortesía de Eduard Fosch-Villaronga.