La verdad sobre los algoritmos, según Cathy O’Neil
“Un algoritmo es una opinión incrustada en matemáticas”
Cathy O’Neil, una matemática autora del libro Armas de destrucción matemática: cómo los datos masivos aumentan la desigualdad y amenazan la democracia, desvela en esta animación “la verdad sobre los algoritmos”. El vídeo tiene subtítulos automáticos y precisamente sirviéndome de ellos he destacado lo más relevante, por lo que pido disculpas si meto la pata con algún giro o mala traducción. Si es así, agradeceré que alguien me lo diga para rectificar.
Estos son los principales mensajes de O’Neil sobre los algoritmos:
- “Me sorprendió que los algoritmos fueran presentados y comercializados como un hecho objetivo. Una descripción mucho más precisa de un algoritmo es que es una opinión incrustada en matemáticas”.
- “Un algoritmo es un concepto muy general, es algo que hacemos realmente en nuestras cabezas todos los días. Para construir un algoritmo básicamente solo necesitamos dos cosas: un conjunto de datos históricos y una definición de éxito. Así que construyo un algoritmo para cocinar la cena con mi familia. Los datos que utilizo a diario son los ingredientes de mi cocinado –a veces el tiempo que tengo, la ambición con que hago esa cena- y después evalúo la comida ¿Fue un éxito? Lo defino yo porque soy quien está preparando las comidas: tengo el poder (siempre hay aquí un elemento de poder). Puedo decidir que una comida tiene éxito si los niños comieron verduras, pero si mis hijos estuvieran a cargo lo habrían definido de otra manera. El repertorio de comidas que cocino mes a mes es muy diferente a las comidas que se harían mis hijos si se encargaran de ello”.
- “Así que hacemos eso cada vez que construimos algoritmos: seleccionamos nuestros datos, definimos el éxito, incorporamos nuestros valores en los algoritmos. Cuando la gente te dice que los algoritmos hacen que las cosas sean objetivas dices no, los algoritmos hacen que las cosas funcionen para los constructores de algoritmos”.
- “Por su parte, los constructores de algoritmos están sujetos a incentivos de tipo económico, en entornos corporativos, y generalmente no están tan comprometidos con las personas afectadas por sus algoritmos. Por eso siempre tenemos que ser capaces de cuestionar los algoritmos. Tenemos que inyectar ética en el proceso de construcción de los algoritmos y eso comienza por que los científicos de datos estén de acuerdo y firmen un juramento hipocrático”.
Originally published at anselmolucio.wordpress.com on October 21, 2018.
