La moral del algoritmo

Diego Díaz Córdova
Jan 20 · 3 min read
Image for post
Image for post

O deberíamos decir mejor la moral del programador del algoritmo o más preciso la holgazanería del programador del algoritmo. Porque ni siquiera creo que lo que estamos viviendo sea la consecuencia de una moral plana, sino de una moral mal entendida, donde la empresa tiene que cumplir con un parámetro de “responsabilidad social” y contrata a un programador por la menor cantidad de plata posible… y así sale la cosa….

Y esa pereza que se contagia del programador al algoritmo, luego se transmite otra vez a las personas. En definitiva eso fue lo que sucedió con el affair Cavani. El oriental le agradece a un amigo llamándolo “negrito” y la FA decide imponerle una multa y un par de fechas de suspensión por el comentario “racista”. Ya no importa el contexto, lo cual es absurdo desde una perspectiva de los lenguajes naturales; si aparece la n-word, listo sos racista.

La corrección política llevada al extremo, suele prescindir del contexto; en muchos casos quien sostiene las posturas más radicales frente al uso del lenguaje suele caer en posturas racistas, clasistas y de género discriminatorias (probablemente en forma involuntaria). Como el caso de la chica británica de Jersey que a raíz del asunto Cavani, terminó afirmando en Twitter que los uruguayos son el pueblo más racista del mundo (?). Una poco probable uruguayofobia para alguien nacida tan lejos.

En esta misma red Medium me pasó hace poco algo similar. Escribí una crónica sobre una performance “Hipertrofia del Yo” de Anomalía Project y en la ficha técnica coloqué un vínculo al video (estamos en pandemia y el espectáculo, obviamente, era online, se hacía en vivo, pero después quedaba el video para quien quiera verlo más tarde). Bueno al parecer el algoritmo perezoso detectó algo y quedó la cuenta en suspenso.

Desconcertado, mandé un correo al “amigo” de Medium y me respondió que “accidentalmente” mi cuenta había caído en un spam. También me decía que habían liberado la cuenta, pero que el texto de marras seguía “bajo investigación” debido a un vínculo de stream sospechoso. La potencia algorítmica de la necedad en su máxima expresión.

El culpable era el vínculo. Un simple video de la obra. ¿Cómo puede ser que a alguien se le ocurra programar una prohibición por un vínculo en un medio como Internet?, pues bien los programadores perezosos abundan (¿abundamos debería decir?). La parsimonia puede ser una virtud, pero en el caso que estamos desarrollando, evidentemente es un gran defecto no tomar en cuenta el contexto en el que ocurre.

Internet se nutre de vínculos y si bien es cierto que algunos son peligrosos, pueden ser malwares o contener información desagradable o sensible, lo cierto es que, si vas a ejercer el papel de policía, lo mejor entonces es que tu algoritmo pueda discriminar adecuadamente entre lo que está bien y lo que no. Porque sino, va a ocurrir lo que sucede con la policía real, que siempre termina aplicando toda su potencia contra los que menos tienen.

La potencia del algoritmo no se discute, es una herramienta sumamente poderosa que en verdad puede hacer diferencias. Pero el problema no radica allí, sino en El Programador que lo construye. Un algoritmo es algo inerte, un concepto vacío que debe ser completado con reglas de comportamiento. Esas reglas pueden tener el grado de complejidad que El Programador quiera/pueda.

Los algoritmos pueden decidir, de hecho uno de los comandos más habituales es la sentencia “if then” (si entonces); pero esa decisión tiene que estar programada de antemano. No hay un límite al grado de complejidad que se le puede asignar a un algoritmo; lo que tenemos es simplemente un programador perezoso, que sin querer, probablemente se convierta en el árbitro del mundo.

La moral se ejerce a cada momento y las carencias que observamos en los algoritmos o en las mentalidades algorítmicas (es decir que no piensan por sí mismas) dicen más de quienes los ejecutan que de lo que dicen. El asunto “Cavani” es más que claro al respecto. Son las empresas y las instituciones las que carecen de moral; el afán por la ganancia o por el propio poder no admite mucha profundidad ni mucha reflexión, la suerte se juega a cada instante y lo que aparenta ser un logro, puede tornarse en una pesadilla.

Leedor

El portal de arte y cultura de habla hispana hecho en Buenos Aires

Medium is an open platform where 170 million readers come to find insightful and dynamic thinking. Here, expert and undiscovered voices alike dive into the heart of any topic and bring new ideas to the surface. Learn more

Follow the writers, publications, and topics that matter to you, and you’ll see them on your homepage and in your inbox. Explore

If you have a story to tell, knowledge to share, or a perspective to offer — welcome home. It’s easy and free to post your thinking on any topic. Write on Medium

Get the Medium app

A button that says 'Download on the App Store', and if clicked it will lead you to the iOS App store
A button that says 'Get it on, Google Play', and if clicked it will lead you to the Google Play store