Inferencia Causal: una lista de lectura

Innumerables veces hemos escuchado que la correlación no necesariamente implica causación, o que la ausencia de correlación no elimina la causación. Esto último es evidente en los termostatos, o cualquier otro sistema autorregulado en el cual mantener una cantidad constante, como la temperatura, provoca que la correlación entre esta y lo que la mantiene se rompa, pues si el exterior es frío, el sistema deberá incrementar su consumo energético para mantener el interior del recinto a una temperatura agradable. Por otro lado, a la mayoría de nosotros nos resultan evidentes ciertas relaciones causales cotidianas que podrían no ser obvias para los sistemas de aprendizaje profundo, por ejemplo, el hecho de que el canto de los gallos esté correlacionado con el amanecer no implica que el primero sea la causa del segundo.

A todo lo anterior se le suma la complejidad del análisis de datos en medio de la vorágine informática. Determinar la dirección de la causalidad a partir de las observaciones está lejos de ser un asunto trivial. Sabemos que ajustar curvas con modelos cada vez más profundos no responderá preguntas causales a pesar de lograr niveles extraordinarios de precisión en la predicción. En otras palabras, la inclusión de modelos causales en la Inteligencia Artificial es inevitable, y más si aspiramos a modelos interpretables, pero ¿Por dónde empezar? A continuación compartimos una lista de lectura sobre los fundamentos de Inferencia Causal, Modelos Probabilísticos Gráficos y sus distintas aplicaciones en Medicina, Ciencias Sociales e Inteligencia Artificial.

The Book of Why: The New Science of Cause and Effect

Si lo que buscas es una introducción general (no técnica) al tema de la causalidad, este volúmen es una de las mejores opciones, pues provee la intuición detrás de los principales elementos del cálculo causal mediante ejemplos sencillos. Además, contiene gran parte de las anécdotas y experiencias que Judea Pearl ha recogido a lo largo de su carrera. Incluso para los conocedores es una lectura fascinante.

Causal Inference in Statistics: A primer

Dominar las bases de la teoría desarrollada hasta el momento es importante si deseas realizar investigación en Inferencia Causal o utilizarla para diseñar modelos de Inteligencia Artificial. Conceptos como “contrafactual”, “intervención” y “mediación” se valen de un lenguaje matemático específico para dar respuesta a preguntas causales. En este volumen los autores discuten las deficiencias de los métodos estadísticos tradicionales e introducen al lector al formalismo matemático de la causalidad. Como pre-requisito sólo necesitas estar familiarizado con los conceptos básicos de Estadística y Probabilidad.

Modelos Probabilísticos Gráficos

Décadas después de la publicación seminal de Alan Turing en 1950, los sistemas expertos dominaban la investigación en Inteligencia Artificial. El conocimiento podía ser organizado en conjuntos de reglas de inferencia que emulaban los procesos de decisión de humanos expertos. Sin embargo, estos sistemas basados en lógica clásica no podían lidiar con excepciones ni razonar bajo incertidumbre, siendo este último el escenario más común en las aplicaciones de la IA. Durante los años 80 surgieron distintos acercamientos al razonamiento automático basados en la Teoría de la Probabilidad, uno de ellos devino en lo que hoy conocemos como Redes Bayesianas. Ya que encapsulan la mayor parte de los fundamentos matemáticos de los diagramas causales, constituyen un punto de partida en el estudio serio de la Inferencia Causal. A diferencia de los modelos de “caja negra”, como las Redes Neuronales, las Redes Bayesianas representan las “creencias” de forma explícita, lo cual permite construir modelos interpretables. Recomendamos los títulos de Darwiche y Koller por su enfoque práctico y profundidad teórica. Los pre-requisitos son mínimos y proveen suficientes detalles técnicos para comenzar a implementarlas.

Modeling and Reasoning with Bayesian Networks

Probabilistic Graphical Models: Principles and Techniques

Actual Causality

Para aquellos interesados en los aspectos filosóficos de la causalidad y sus múltiples apariciones en la Ética, sugerimos “Actual Causality”. Halpern extiende el enfoque de Pearl y sugiere una definición de causalidad para tratar naturalmente las nociones de responsabilidad, culpa y explicación en Derecho, Economía y Computación. Asimismo, a través de la “Causalidad Actual” es posible dar respuesta a los dilemas que plantea la justicia algorítmica y los automóviles autónomos.

Counterfactuals and Causal Inference: Methods and Principles for Social Research

Los beneficios de la Inferencia Causal se manifiestan más allá de las Ciencias Computacionales, encontrando nuevos retos en Ciencias Sociales y Política Pública. Fenómenos complejos como las elecciones, el comportamiento del mercado y los efectos de las reformas estructurales, pueden ser analizados desde el marco de la Causalidad. Dado que la interdisciplina impulsa el desarrollo de la Inteligencia Artificial consideramos agregar este libro a la lista. Esperamos que a nuestros lectores de Ciencias Sociales les sea de utilidad.

The Seven Tools of Causal Inference with Reflections on Machine Learning

Para finalizar compartimos uno de los últimos artículos de Judea Pearl. Condensa los principios de la Inferencia Causal, ofreciendo una vista panorámica de los principales retos de la Inteligencia Artificial (v.g. explicabilidad, adaptabilidad y robustez), y cómo enfrentarlos a través de modelos causales.