Tracing Fairness Disparities Across the Machine Learning Pipeline: A Stage-Resolved Bias Provenance and Propagation Framework for Educational Prediction

Artículo que presenta el Marco de Proveniencia y Propagación de Sesgo (BPP), un sistema de medición para auditorías de equidad en aprendizaje automático aplicado a predicción educativa. El estudio introduce un enfoque que rastrea el origen y la trayectoria de las disparidades de equidad a través de cinco etapas del pipeline de aprendizaje automático: muestreo, preprocesamiento, ingeniería de características, entrenamiento del modelo y evaluación. Utilizando la Área Absoluta Entre Curvas ROC (ABROCA) como escala de medición uniforme, el marco se aplicó al Open University Learning Analytics Dataset (32,593 registros) en una tarea de alerta temprana sin filtración de información. Los resultados muestran que el origen de la disparidad es específico del atributo: para discapacidad aparece en los datos originales y se atenúa con características tempranas, mientras que para sexo/género y privación se introduce en la ingeniería de características. El estudio redefine la auditoría de equidad como un problema de contabilidad entre etapas para identificar dónde las intervenciones serán efectivas.

Puntos clave

• El Marco BPP localiza disparidades de equidad en etapas específicas del pipeline de aprendizaje automático mediante la proyección de cada etapa a través de un modelo de referencia congelado, utilizando ABROCA como escala uniforme.
• El origen de la disparidad es atributo-específico: la discapacidad muestra sesgo en datos originales pero se atenúa al introducir características de evaluación temprana, mientras que sexo/género y privación surgen durante ingeniería de características.
• No existe una etapa de origen universal de disparidad en sistemas de predicción educativa, indicando que las intervenciones de equidad requieren diagnósticos individualizados por atributo protegido.
• Las medidas post-procesamiento reducen la brecha en el punto de operación pero dejan el ABROCA intacto, sugiriendo que una auditoría integrada en etapas es más informativa que solo correcciones finales.

Para quién: Investigadores en aprendizaje automático educativo, responsables de auditoría de equidad en instituciones educativas e ingenieros de sistemas de alerta temprana que necesitan diagnosticar dónde se originan disparidades en sus pipelines predictivos.