Psicólogo para la Inteligencia Artificial
— Hola Don Javier, siéntese por favor. Hemos revisado sus informes con el Departamento de Riesgos y, aunque todo parece correcto, no podemos avalar su proyecto.
— Emilio, déjate de usted, que nos conocemos hace 20 años y llevamos haciendo negocios toda la vida. ¿Cómo que no me aceptáis el aval? Pero si esta operación ya la hemos realizado otras veces.
— Javier, la verdad, yo tampoco lo entiendo. Yo tramité como siempre el informe favorable, faltaría más. Pero al momento me lo denegaron. Hablé con el Departamento de Riesgos y me comentaron que ya no está en sus manos, que depende del Departamento de Datos. Javier, que todo cambia muy rápido, incluso para nosotros. Estoy seguro que es por el software ese que han metido para analizar el riesgo de las operaciones.
— Pues no entiendo nada Emilio. Entonces ¿qué, me voy por donde he venido? Joder, que llevamos 20 años haciendo estas operaciones. Quiero saber los motivos, algo dirá ese Departamento de Datos ¿no?
— Yo lo he intentado, pero me dicen que el modelo predice un riesgo por encima del corte aceptable. Y poco más. El Departamento Legal se limpia las manos y nuestro histórico no parece importar. Pero creo que si acudes a De la Serna, que es un abogado muy convincente, algo más te dirán.
— Javier, ya me han respondido. La verdad es que si no es por todos los negocios que tenemos con ellos estaríamos bien jodidos, y eso que la solución tampoco es para tirar cohetes. Nastex Corp Invest ha comprado una empresa de análisis de datos que tiene un departamento de Machine Learning e Inteligencia Artificial. Con todos los datos de las operaciones de la corporación han creado un modelo que permite “predecir” si una futura operación será adecuada, y según la máquina nuestra operación no lo será.
— Fernando, pero todo esto ya lo sabíamos, lo que yo quiero saber es cuál es el riesgo que ellos ven. Algo dirá la máquina ¿no? ¿es inteligente pero no sabe el por qué?
— Así es, la máquina es una caja negra donde meten datos y luego devuelve una respuesta. En este caso devuelve un porcentaje y si no llegas al 80% ya no pasas al Departamento Legal. A nosotros por ser nosotros y por llevar tanto tiempo trabajando con ellos nos dejan investigar los motivos.
— ¿Cómo? No lo entiendo. ¿Tengo que investigar yo la respuesta de la Inteligencia Artificial porque ella no sabe cómo realiza sus propias predicciones?
— Así es, ya te he dicho que no era para lanzar cohetes.
— Hola Javier, te presento a John, el experto que te dije que nos podía ayudar.
— Gracias Fernando. Entonces, John ¿a qué te dedicas exactamente?
— Soy analista de datos, experto en Machine Learning, más concretamente en redes neuronales. Aunque como todo esto suena a complicado, podríamos decir que soy un Psicólogo para Inteligencias Artificiales (AIPsychologist). Mi responsabilidad es la explicabilidad, aunque sinceramente más que explicar nos dedicamos a la interpretación. En mi trabajo trato de validar el conjunto de datos con el que se ha entrenado la I.A. Busco si esos datos no están sesgados o si los datos son los adecuados. Si para la I.A. se han usado modelos pre entrenados compruebo sus precisiones y sus ajustes finos.
— Explícate mejor
— Fíjate en esta foto, imagínate que te contratan para crear una Inteligencia Artificial para diferenciar entre lobos y perros huskys. Para eso entrenas una red neuronal de clasificación de imágenes, en este caso con dos categorías, lobos y huskys. Para entrenar una red neuronal lo que hacemos es crear un banco de fotos que pasamos por la red, como de antemano ya sabemos que son lobos o huskys, sabemos lo “bien” que está aprendiendo la red neuronal, a más fotos que pasamos por la red, mayor es la predicción. En este caso, como puedes ver, el resultado es bueno ¿no?
— Eso parece.
— Pues no. Descubrimos que la Inteligencia Artificial, no clasificaba perros, lo que detectaba era nieve. En un porcentaje grande de las fotos del dataset, los lobos estaban sobre nieve y los huskys sobre otras superficies. En general la sensación era real, la máquina detectaba lobos o perros. Pero después de nuestra investigación el resultado fue una estupenda máquina para detectar nieve. Además una vez descubierto el problema la solución no era simple, no hay tantas fotos de lobitos sin paisajes nivales.
—Entonces ¿tú te dedicas a analizar si estos sistemas fallan como en el caso de los lobos?
— En este caso las redes neuronales lo que hacen muy bien es el reconocimiento estadístico de patrones, pero no están diseñadas para dar explicaciones. Se pueden dar pero es muy costoso, y más para empresas de software que lo que buscan es vender un modelo de predicción que de respuestas rápidas. Introducir complejidad para automatizar la simplicidad es una contradicción en sí misma. Y cuando esa complejidad no se entiende, como en tu caso, pues se tiene que buscar la interpretación del patrón.
— Vale, pero ¿por qué os denomináis psicólogos?
— Quien está deprimido lo siente, pero puede que no sepa los motivos y mucho menos la solución. Por eso lo de psicólogos de la I.A. Como te digo es toda una contradicción, hemos creados sistemas muy competentes en la búsqueda de patrones, pero en muchos casos esos patrones son sobre un contexto Humano y lo humano no siempre atiende a patrones, y cuando la máquina no entiende al humano, es cuando interviene el humano para interpretar a la máquina. Somos psicólogos de las I.A.s porque nos encargamos de la investigación de todos los factores, evaluación, diagnóstico, tratamiento y prevención que afectan al patrón estadístico que pueda generar malestar subjetivo y sufrimiento al individuo humano.
— Con lo que me dices, entiendo que nos estamos metiendo en un tema complejo, ya que aquí no estamos hablando de perros y lobos. Llevo trabajando con esta entidad financiera más de 20 años y ahora necesito contratar un psicólogo para que humanice una máquina que está fallando. No creo que eso les vaya a gustar.
— Bueno en tu caso, posiblemente no sea tan complicado
— ¿Y eso?
— La máquina posiblemente no falle, posiblemente el riesgo detectado sea real, pero no nos van a dejar comprobarlo, ahora tienen una Inteligencia Artificial que da predicciones financieras, pero no se van a arriesgar a que descubramos que lo que realmente tienen es un detector de nieve.
