システムが何を最適化しているかを変える

もしシステムの目標が変えたい行動を生み出しているなら、その目標を変える。

Why it works

メドウズの階層において、システムの目標を変えることはルールを変えることよりも高レバレッジです。なぜならルールは目標に奉仕するために存在しており、目標が同じままなら、新しいルールは古い行動に向けて逆手に取られるからです。多くの解決困難な問題は、実際には誰もが、副作用として問題行動を生み出す目標の達成に成功しているために持続します。解決策はその行動を制約することではなく、成功が何を意味するかを変えることです。

How to do it

1. 問う：「このシステムは実際に何を最適化しているのか？」——述べられた目標ではなく、行動によって明らかにされているものを。
2. それを望む目標と比較する。異なるなら、誰が、あるいは何が現在の目標を設定しているかを特定する。
3. 望む行動が成功への自然な道になるような新しい目標の指標を設計する。
4. 目標の置き換えを確認する：新しい指標が導入されたら、それは意図しない最適化を生み出していないか？

エビデンス

Goal displacement — systems optimizing for measurable proxies rather than actual outcomes — is extensively documented in organizational and public policy research. Goodhart’s Law ("when a measure becomes a target, it ceases to be a good measure") is the canonical formulation. (observational)

Changing goals in social systems requires legitimacy and buy-in; technical correctness of a new goal does not guarantee adoption.

出典

• Goodhart (1975), cited in Marilyn Strathern (1997), "‘Improving ratings’: audit in the British university system"

よくある間違い

二次的な影響を考慮せずに新しい目標指標を設計してしまうこと——すべての目標指標は最適化されます。あなたが意図しなかった方法でも。だから新しい指標は実装前にゲーム理論的な検証を必要とします。