EduRobust: Multilingual Robustness of System Prompt Restrictions in Educational LLM Deployments

EduRobust es un marco de evaluación reproducible que estudia la robustez multilingüe de las restricciones codificadas en indicaciones de sistema (prompts) para modelos de lenguaje grande (LLM) en plataformas educativas. El preprint presenta un análisis en dos fases: primero, mide brechas de vulnerabilidad al probar 5 restricciones conductuales educativas en 24 idiomas, 3 LLM de código abierto y 50 intentos repetidos por configuración (18,000 celdas); segundo, evalúa tres defensas candidatas: endurecimiento de indicación consciente de estrategia, indicaciones de sistema multilingües y anclaje solo en inglés compuesto. Los resultados revelan que el gradiente invertido de nivel de recurso persiste bajo todas las defensas, y que la capacidad multilingüe del modelo es un arma de doble filo que amplifica tanto la susceptibilidad al ataque como la respuesta defensiva. Los autores liberan el marco completo, incluyendo plantillas de ataque, caché de traducción, variantes de defensa y herramientas de análisis.

Puntos clave

• ["La alineación de seguridad en LLM es predominantemente centrada en inglés, dejando su comportamiento en otros idiomas insuficientemente explorado en contextos educativos."]
• ["Las restricciones conductuales educativas codificadas en indicaciones de sistema presentan vulnerabilidades variables según el idioma, el modelo y la estrategia de ataque empleada."]
• ["Las defensas multilingües amplían tanto la susceptibilidad al ataque como la capacidad de respuesta defensiva, evidenciando los efectos contradictorios de la capacidad multilingüe en seguridad."]
• ["El marco EduRobust proporciona plantillas de ataque, caché de traducción, variantes de defensa y herramientas de análisis para investigación reproducible en seguridad multilingüe de IA educativa."]

Para quién: Investigadores, desarrolladores de plataformas educativas con LLM y docentes interesados en comprender vulnerabilidades de seguridad multilingüe y déficit de alineación en modelos de lenguaje para educación.