Mechanistic Interpretability Needs a Logic of Inference

Artículo académico que examina la interpretabilidad mecanicista en redes neuronales como campo de investigación científica orientado a identificar y explicar mecanismos internos de modelos computacionales. Los autores proponen un marco lógico recursivo basado en cinco principios para realizar inferencia mecanicista rigurosa, abordando cuellos de botella epistemológicos recurrentes cuando se extraen mecanismos de sistemas neurales complejos. El trabajo integra perspectivas de neurociencia e interpretabilidad mecanicista, organizando procedimientos para transformar hallazgos locales de interpretabilidad en conocimiento acumulativo sobre mecanismos de modelos y para generar hipótesis verificables en dominios más allá de los sistemas de aprendizaje automático. Enfatiza que evidencia externa es necesaria para validar lo que estos mecanismos revelan sobre el mundo.

Puntos clave

• La interpretabilidad mecanicista identifica componentes específicos de redes neuronales (neuronas, características, circuitos, estructuras poblacionales, patrones dinámicos) asociados con comportamientos del modelo.
• Una lógica de inferencia recursiva organizando cinco principios mejora el rigor al extraer mecanismos de sistemas neurales complejos y resuelve cuellos de botella inferenciales recurrentes.
• Los mecanismos extraídos de modelos computacionales deben ser lo suficientemente precisos para generar hipótesis comprobables trasladables a dominios externos a los sistemas de aprendizaje automático.

Para quién: Investigadores en aprendizaje automático, neurociencia computacional y filosofía de la ciencia interesados en cómo explicar y validar mecanismos en sistemas complejos.