Hablemos del algoritmo de curación social más popular y con el que nos relacionamos más a menudo: el de generación del News Feed de Facebook. Este algoritmo tiene como fin mostrar contenido de “alta calidad” mediante el uso de sistemas de “machine learning” (aprendizaje automático) que toman como fuente varios (muchos) heurísticos sobre el interés y relevancia de todos los contenidos posibles para hacer “emerger” en nuestro feed aquellos que nos resulten más “interesantes”.

El News Feed, como la mayoría de algoritmos de curación, es normalmente invisible, o al menos elegantemente discreto, y sus manipulaciones y efectos no pueden ser visualizados directamente (y se puede intuir que esta dificultad en su percepción está en el interés del fabricante del algoritmo), pero hay cuatro momentos clave en los que sale a la luz y puede ser examinado con más facilidad:

• Cuando se nos comunica que ha sido modificado editorialmente, es decir cuando el propio fabricante nos habla de él como parte de su estrategia de comunicación. En el ejemplo de los “titulares cebo” (agosto de 2014) vemos cómo el algoritmo, y su capacidad de ser alterado a voluntad para eliminar contenido considerado indeseable, se publicita como ventaja competitiva.
• Cuando percibimos su naturaleza polimórfica y adaptativa, su capacidad, o más bien, finalidad, de servirnos contenidos distintos en función de distintas variables de nuestro comportamiento, del de otros usuarios, o simplemente de intereses del fabricante. Esta realidad quedó expuesta de forma abrupta cuando, en agosto de 2014, llegó a los medios la noticia de que Facebook había realizado un experimento de contagio de emociones manipulando la frecuencia de aparición de posts con determinada carga emocional para comprobar si afectaba a su vez a las emociones expresadas por los receptores de los posts (conclusión del experimento: sí afecta significativamente). La confusión aparente en la reacción de comunicación de Facebook es muy significativa: “Por supuesto que alteramos nuestro algoritmo y evaluamos las respuestas a los cambios, ¡lo hacemos todo el rato!”.
• Cuando comparamos los resultados de dos algoritmos aplicados en el mismo contexto. Una perspectiva “ingenua” sobre redes sociales generalistas nos haría esperar que los temas de conversación estrella en un momento dado sean, hasta cierto punto, similares para gente que comparte una misma realidad histórica e informativa. Esta noción, sin embargo, falla en el momento en que la red social no está interesada en representar fielmente el marco de referencia común (“lo que pasa en el mundo”), sino que usa sus algoritmos de curación para construir una realidad propia. El comparar las “realidades” imperantes para agosto de 2014 (en la esfera anglosajona) en Twitter y Facebook permitía comprobar que mientras en el primero se hablaba de Ferguson, en el segundo la discusión estaba dominada por el “Ice Bucket Challenge”. Dos algoritmos distintos, dos realidades, dos construcciones con la capacidad de influir muy claramente en la conciencia política del consumidor.
• Cuando jugamos, o dejemos que jueguen por nosotros, con el algoritmo, para comprobar la ductilidad de ese material invisible que da forma a nuestra experiencia. Los periodistas tecnológicos, siempre mojando los pies en la antropología militante y de guerrilla, toman el papel de Truman Burbank descubriendo por experimentación las reglas no escritas de su mundo guionizado. Para un periodista interesado en pegar puntapiés en la goma algorítmica a ver cómo se deforma, esto se convierte en intentar hacer un post lo más relevante posible, movilizando a tus amigos; pasarse horas haciendo scroll en la “home page” de Facebook y observando los cambios en la información que se presenta conforme se pide más y más al algoritmo; o ponerse a darle “like” a todo durante días, alterando conscientemente las señales que se le dan al algoritmo y describiendo las distorsiones que se producen en los muros propios y cómo éstas empiezan a propagarse a los de los amigos. En definitiva, Truman llegando con su barco al fin del mundo y topando con el muro de madera que revela el andamiaje tras la construcción.

Una vez establecida la presencia constante del algoritmo como mediador, y las ocasiones en que esta presencia se nos hace manifiesta, voy a proponer tres hipótesis.

1. Una hipótesis empresarial que dice que Facebook no está en el negocio de contar la realidad sin distorsión, de representar de forma fiel las actividades de tu grafo social, sino en el negocio de mostrar éstas de una forma que maximice tu interés sobre las publicaciones que aparecen en tu pantalla, lo que a su vez aumenta la exposición a los anuncios que te muestra y los datos sobre ti que pueden ser de interés a los anunciantes. Una red social curada algorítmicamente no pone en contacto a sus nodos directamente, sino que agrega los contenidos de los nodos para construir las narrativas que más contribuyan a sus métricas objetivo. Los algoritmos de curación son narradores no fiables sujetos a sus propias lógicas corporativas.
2. Una hipótesis atencional que dice que toda labor de curación es también una labor de destrucción. Algunos de los componentes del pool inicial van a ser perjudicados, bien por exclusión directa o bien porque su baja priorización contribuirá a quedar fuera de la atención de los consumidores. Es el efecto de la segunda página de resultados de Google que, como reza el dicho, es el lugar más seguro para esconder un cadáver. La focalización de la atención deja un espacio negativo, un “páramo atencional” donde el fabricante del algoritmo destierra contenidos a su antojo.
3. Una hipótesis social que dice que no estamos culturalmente maduros para integrar en nuestra visión del mundo una participación omnipresente y activa de los actores algorítmicos. Somos víctimas del sesgo algorítmico, de la creencia que los procesos computacionales son objetivos, desinteresados.

En la construcción de la realidad que hacemos a través de las redes sociales no estamos solos con nuestros iguales, contactos, amigos. Hay un elemento de mediación constante inodoro e insaboro, pero que permea todas nuestras interacciones. Es una mediación evolutiva, que aprende de nosotros; polimórfica, que es capaz de cambiar instantáneamente para ofrecernos cosas distintas en cada momento, y, en condiciones normales, invisible o al menos construida para pasar desapercibida.

La construcción resultante de una configuración algorítmica en un momento preciso es, además, expresamente política, en el sentido de que afecta y configura nuestra relación con nuestro entorno, con la polis. Tienen un efecto potencialmente muy pronunciado sobre cómo entendemos y nos relacionamos con nuestras circunstancias sociales, económicas y culturales.

Lo que se está fabricando no son ya narrativas, sino contadores de historias, generadores de nuestras propias memorias y percepciones individuales y colectivas. Las redes sociales no ofrecen una experiencia representativa sino performativa, y los consumidores somos los que menos control tenemos sobre esto. En el mejor de los casos, se valora nuestra atención porque ésta es el producto que se comercializa en la relación económica primaria, aquella entre creador de la red social y comprador de publicidad, ofertante y demandante de materia prima atencional, respectivamente.

En esta plaza pública, el urbanista está reorganizando el mobiliario a cada segundo, cambiando los caminos, transplantando los árboles, haciendo que pasemos por ciertos puntos y no por otros, que nos encontremos con cierta gente y no con otra. Está moldeando nuestra experiencia de la plaza para que encaje en moldes determinados. Su interés principal no es nuestro disfrute, ni que nos enteremos mejor de la vida de nuestros vecinos, sino que tengamos la máxima exposición posible a las vallas publicitarias que hay colocadas y, al mismo tiempo, nos enganche lo más posible a pasar más tiempo en la plaza y a repetir la visita con frecuencia.

En nuestro interés y como obligación cívica como consumidores está lograr una comprensión suficiente sobre la presencia y naturaleza de estos filtros. Tenemos la necesidad de entender que vemos los objetos sociales a través de prismas, no de cristales transparentes. Son espejos mágicos que eligen qué contarnos de acuerdo a designios que no son los nuestros. Lo que se nos proporciona en cada recarga de página son piezas engarzadas en narrativas generadas por cuentacuentos computacionales que responden a lógicas corporativas.

Como diseñadores, tenemos la responsabilidad de entender las cualidades, affordances y sesgos de los nuevos materiales algorítmico, para ofrecer productos honestos y equilibrar de forma ética, transparente y eficiente las necesidades de los interlocutores, reconociendo que el interés corporativo es un interlocutor más y muchas veces el principal. Debemos decidir si las disciplinas existentes en el diseño son suficientes para integrar este tipo de decisiones, o si debemos crear nuevas disciplinas dedicadas a estudiar la concepción, implantación y consecuencias de los filtros algorítmicos. Debemos crear el vocabulario que nos permita entender y comunicar riesgos, características y beneficios. Debemos, en fin, reflexionar sobre todos los pasos necesarios para una asimilación metodológica adecuada de los algoritmos de curación en las prácticas profesionales del diseño.

Como consumidores, tenemos la responsabilidad de integrar lo más rápidamente posible en nuestro discurso cotidiano, en nuestra cosmovisión, la idea de que las corporaciones que proporcionan las infraestructuras digitales sobre las que nos relacionamos, integran en ellos de forma estructural algoritmos que pueden cambiar drásticamente nuestra percepción de nuestros entornos y narrativas cotidianas, creando o amplificando sesgos con fines que, de forma primaria o secundaria, están encaminados a una mejora del beneficio empresarial, y definiendo colectiva e individualmente los límites de lo aceptable en esta conversación a tres bandas. De la misma forma que la progresiva sofisticación de los procesos de fabricación industrial corre pareja a la historia de las leyes de protección del consumidor, la sofisticación de los procesos de fabricación digital debe hacer que estos derechos del consumidor se amplíen a las relación con entornos virtuales regidos por leyes de enorme complejidad computacional.