Recorta la complejidad del modelo

Prefiere el modelo más simple de una situación que aún encaje con toda la evidencia.

Why it works

Añadir variables explicativas siempre puede mejorar el ajuste de un modelo a los datos pasados, pero cada variable extra aumenta el sobreajuste: el modelo empieza a explicar el ruido, no la señal, y sus predicciones se deterioran. El principio de parsimonia en estadística (formalizado como AIC o BIC) penaliza la complejidad para encontrar el modelo que generaliza, no que solo memoriza.

How to do it

1. Al construir cualquier modelo o teoría, pregunta: ¿puedo eliminar alguna variable sin perder poder explicativo?
2. Prueba el modelo simplificado contra datos nuevos en lugar de los datos con los que se construyó.
3. Usa el ajuste + la simplicidad como criterio combinado, no solo el ajuste.
4. Actualiza el modelo solo cuando una nueva variable mejore de forma demostrable la predicción fuera de muestra.

Evidencia

El sobreajuste es un modo de fallo bien documentado en estadística y aprendizaje automático. Los criterios de teoría de la información (AIC, BIC) que penalizan la complejidad del modelo son herramientas estándar para seleccionar modelos que generalizan en lugar de memorizar. (mechanistic)

Los criterios estadísticos de parsimonia asumen una función de pérdida específica y un modelo generador de datos; son guías, no oráculos. El conocimiento del dominio sigue importando.

Sources

• Akaike (1974), AIC criterion; Schwarz (1978), BIC criterion

Common mistake

Añadir complejidad hasta que la explicación cubra cada peculiaridad observada, y luego confundir la cobertura con la comprensión.