予測を追跡することで確率の較正を練習する
自分の予測に明示的な確率の見積もりを割り当て、それが正しい率で実現するかどうかを追跡する。
Why it works
較正——表明された確信度と実際の正確さの一致——は学習可能なスキルである。時間をかけて予測を追跡し、70%の確信を持った主張が実際にどれくらいの頻度で実現するかを観察する人は、体系的な過信または過小な確信を修正するフィードバックループを発達させる。このフィードバックがなければ、鮮明な情報によって生み出される確信の感覚は修正されないまま持続する。
How to do it
- 何か予測をするたびに、パーセンテージの確率を割り当てる。「Xが起こる確率は70%だと思う」。
- 予測と結果を記録する。
- 20〜30回の予測の後、較正を確認する。70%の予測は約70%の頻度で実現しているか。
エビデンス
較正研究(テトロックによるスーパーフォーキャスターに関する研究を含む)は、明示的な確率で予測を追跡することが、フィードバックによる誤り修正を通じて時間の経過とともに正確さを大きく改善することを示している。 (observational)
出典
- Tetlock & Gardner (2015), Superforecasting — calibration training and improvement across thousands of predictions
よくある間違い
具体的な数値ではなく曖昧な確率(「かなり起こりそう」)を割り当てること——これは予測が反証不可能になるため、意味のある較正の確認を妨げる。
IX Coach でこれを実践する
More practices for 基準率の無視:なぜ私たちは確率を無視するのか
- 個別の事例を評価する前に基準率を問う
個々の事例を判断する前に、まずこの種のことが一般にどれくらいの頻度で起こるかを確立する。
- プロジェクトの見積もりに参照クラス予測を使う
自分の特定のプロジェクトを見積もる前に、類似のプロジェクトが過去にどれくらいの時間を要したかを見積もる。
- 信念を全面的にではなく段階的に更新する
新しい情報を、すべてを変える証明としてではなく、確率をシフトさせる証拠として扱う。
- リスクや成功を評価するときは常に分母を特定する
数値や話が印象的なとき、「全体としては何件中の話か」と問う。
- 重要な決定には意図的に外側の視点を呼び出す
重要な予測では、自分の状況がどう感じられるかではなく、物事が通常どう進むかから始めることを自分に課す。
- 極端な結果には平均への回帰を予期する
異常に良い、または悪いパフォーマンスの後には、より平均的なパフォーマンスが続く傾向がある——それはあなたがしたことのせいではない。