Cambia para qué está optimizando el sistema

Si el objetivo del sistema produce el comportamiento que quieres cambiar, cambia el objetivo.

Why it works

En la jerarquía de Meadows, cambiar el objetivo de un sistema tiene mayor apalancamiento que cambiar las reglas, porque las reglas existen para servir al objetivo: si el objetivo sigue igual, las nuevas reglas se manipularán de vuelta hacia el viejo comportamiento. Muchos problemas intratables persisten porque todo el mundo está teniendo éxito en alcanzar un objetivo que produce el comportamiento problemático como efecto secundario; la solución no es restringir el comportamiento, sino cambiar qué significa el éxito.

How to do it

1. Pregunta: "¿Para qué objetivo está optimizando realmente este sistema?": no el objetivo declarado, sino el que revela el comportamiento.
2. Compáralo con el objetivo que quieres. Si difieren, identifica quién o qué fija el objetivo actual.
3. Diseña una nueva métrica de objetivo que haga del comportamiento deseado el camino natural hacia el éxito.
4. Comprueba si hay desplazamiento del objetivo: una vez implantada la nueva métrica, ¿está produciendo optimizaciones no deseadas?

Evidencia

El desplazamiento del objetivo (sistemas que optimizan indicadores medibles en lugar de resultados reales) está ampliamente documentado en la investigación organizativa y de políticas públicas. La Ley de Goodhart ("cuando una medida se convierte en objetivo, deja de ser una buena medida") es la formulación canónica. (observational)

Cambiar objetivos en sistemas sociales requiere legitimidad y aceptación; la corrección técnica de un nuevo objetivo no garantiza su adopción.

Sources

• Goodhart (1975), cited in Marilyn Strathern (1997), "‘Improving ratings’: audit in the British university system"

Common mistake

Diseñar una nueva métrica de objetivo sin considerar los efectos de segundo orden: toda métrica de objetivo será optimizada, incluso de maneras que no pretendías, así que la nueva métrica necesita una prueba de teoría de juegos antes de implementarse.