W9: The Effect of Explanations and Algorithms on Visual RecSys

Este es mi comentario a The effect of explanations and algorithmic accuracy on visual recommender systems of artistic images de Dominguez, V., Messina, P., Donoso-Guzmán, I., & Parra, D. (2019).

¿De qué se trata el paper?

El objetivo del paper es, de acuerdo a lo que exponen sus autores, medir el efecto de ofrecer explicaciones a recomendaciones de imágenes artísticas. Los autores trabajan con bases de datos relacionadas al comercio electrónico de piezas de arte y, dado que las obras son únicas, optan por recomendación basada en contenido

Comentarios y críticas

Como primer comentario, me gustaría volver a repetir el alcance que hice al paper Content-based artwork recommendation: integrating painting metadata with neural and manually-engineered visual features. La plataforma UGallery permite a los usuarios marcar obras como favoritas, sin necesidad de que las compren, de forma que estos indicadores permitirían trabajar con algoritmos de recomendación basados en interacciones. Dicha información podría ser utilizada para enriquecer las recomendaciones basadas en contenido y así crear un modelo híbrido que podría tener mejor rendimiento

Captura de pantalla obtenida de https://www.ugallery.com/art/oil-painting-The-Trail-at-West-Quoddy-Head

Como segundo comentario, una parte de la evaluación que realizan con usuarios no me ha quedado muy clara y me levanta dudas: en la sección 3, los autores indican que los participantes del estudio, luego de aceptar las condiciones, deben elegir 10 imágenes como favoritas. La duda que me queda es que, tal como ellos describen, el dataset con el que trabajan cuenta con 3490 obras distintas y no es claro cuántas de estas le muestran a los participantes para que puedan escoger sus favoritas ni si hay algún criterio en el orden que siguen para presentarles las imágenes (sospecho que es aleatorio, pero no queda especificado en el trabajo). Claramente si muestran muchas imágenes, puede crearse un bias que haga que los usuarios escojan sus imágenes favoritas de entre las primeras y, si el orden de las imágenes es igual para todos los participantes del estudio, esto podría significar un sesgo importante en los resultados del estudio

El estudio muestra que hay una tendencia por parte de los usuarios a ser más receptivos cuando las recomendaciones que se les entregan están, de cierta manera, justificada. Al respecto quiero hacer dos comentarios:

1. Como esto es, a grandes rasgos, una característica psicológica (o sociológica) que puede ser explotada por equipos de marketing podría ser factible hacer trampa con la explicación que se ofrece de las recomendaciones. Podríamos usar un modelo que no sea explicable, pero intentar justificar las recomendaciones de este modelo a partir de indicadores que sean comprensibles por el humano. La pregunta es: qué tan distintas son las recomendaciones hechas por métodos no interpretables versus las que si pueden ser explicadas? Podemos usar estos mismos indicadores de imágenes como luminosidad, colores, contraste, etc. para “explicar” recomendaciones hechas por un modelo de tipo caja negra? es esto factible? y más aún, es esto “mentirle” al usuario con tal de inducir en el una mayor confianza hacia el sistema de recomendación?
2. Quiero cuestionar realmente qué estamos midiendo en estudios de este tipo. Me parece que ofrecer explicabilidad a la hora de recomendar películas y libros es totalmente viable, pues son productos que uno compra en cierto sentido “a ciegas”: básicamente de un libro/película antes de comprarlo solo puedo acceder a una sinopsis y, para algunos usuarios, esto puede no convencerlos. Sin embargo, si me dicen “te recomiendo esto porque se parece a esto otro que si te gusto”, puede que me termine convenciendo. Con las obras de arte, puedo observarla en su completitud antes de adquirirla: si la veo y no me gusta, de cierta manera el sistema de recomendación, al ofrecerme una explicación del por qué me debería gustar me induce, de cierta manera, a que me guste. La recomendación en si, no es claro que sea mejor o peor al ser o no explicable, pero la explicación ejerce una fuerza de coerción (que puede ser leve o en casos de personas más susceptibles fuerte) que influencia al usuario a cuestionar sus gustos.

Como comentario final, creo que el paper es un trabajo muy bien hecho y bien escrito, encuentro muy positivo que sus objetivos estén bien delimitados y que hayan trabajado en torno a ellos. Se nota que no quieren “inflar” sus descubrimientos pues se presentan muy realistas y humildes en torno a ellos.