Mantieni un registro di previsioni con punteggio
Registra le previsioni con probabilità esplicite e valutale quando si risolvono.
Why it works
La calibrazione richiede un ciclo di feedback: dichiari una probabilità, l'esito accade, e impari se la tua fiducia dichiarata corrispondeva al tasso base delle tue previsioni. Senza registrare e valutare, la fiducia resta un sentimento piuttosto che una quantità misurabile. Il punteggio di Brier è la metrica standard: più basso è meglio, premiando previsioni sicure corrette e penalizzando proporzionalmente quelle sicure sbagliate.
How to do it
- Imposta un registro semplice: data, domanda, stima di probabilità, esito (quando risolto).
- Registra almeno cinque-dieci previsioni al mese per generare dati sufficienti per l'analisi di calibrazione.
- Valuta ogni previsione risolta usando la formula del punteggio di Brier: (probabilità − esito)², dove l'esito è 0 o 1.
- Traccia i tuoi punteggi di Brier nel tempo — una tendenza verso punteggi più bassi è miglioramento reale.
Prove scientifiche
I tornei di forecasting di Tetlock hanno usato il punteggio di Brier durante tutto il percorso; i previsori tracciati e valutati sono migliorati significativamente più di quelli che facevano previsioni senza feedback. Il meccanismo di punteggio è l'operazionalizzazione del feedback di calibrazione ed è centrale nel programma di ricerca del good-judgment. (observational)
I registri di previsione personali richiedono disciplina da mantenere e diventano statisticamente significativi solo dopo volume sufficiente — tipicamente centinaia di previsioni per una calibrazione a grana fine.
Fonti
- Tetlock (2005), Expert Political Judgment
- Tetlock & Gardner (2015), Superforecasting
- Tetlock, P. E. (2005). Expert Political Judgment: How Good Is It? How Can We Know? Princeton University Press.
- Mellers, B., Stone, E., Atanasov, P., Rohrbaugh, N., Metz, S. E., Ungar, L., Bishop, M. M., Horowitz, M., Merkle, E., & Tetlock, P. (2015). The psychology of intelligence analysis: Drivers of prediction accuracy in world politics. Journal of Experimental Psychology: Applied, 21(1), 1–14.
- Brier, G. W. (1950). Verification of forecasts expressed in terms of probability. Monthly Weather Review, 78(1), 1–3.
Errore comune
Registrare le previsioni in linguaggio vago ("penso che andrà bene") invece che con probabilità numeriche, il che rende impossibile la valutazione e non misurabile la calibrazione.
Metti in pratica questo con IX Coach
More practices for Allenamento alla Calibrazione
- Pratica la stima di intervalli di confidenza
Stima intervalli per quantità fattuali e verifica quanto spesso il valore vero cade nel tuo intervallo.
- Identifica i domini specifici dove sei più sicuro di te
La calibrazione è specifica del dominio — trova dove la tua fiducia supera di più la tua accuratezza.
- Ancora il tuo livello di fiducia sui tassi base, non sull'istinto
Inizia la tua stima di fiducia dal tasso storico di successo per questo tipo di previsione, non da quanto ti senti sicuro.
- Impegnati in anticipo su criteri di risoluzione prima di fare una previsione
Definisci esattamente cosa conta come "avevo ragione" prima che l'esito accada.
- Costruisci ripetizioni di calibrazione con trivia e domande da almanacco a basso rischio
Usa domande di trivia fattuali come terreno di pratica per la calibrazione — gli esiti si risolvono immediatamente e la posta in gioco è zero.
- Distingui l'incertezza (quantificabile) dall'ignoranza (non quantificabile)
Sappi quando puoi assegnare una probabilità e quando la situazione è così nuova che un numero sarebbe fabbricato.
Concetti correlati
- Superforecasting
The habits, mindset, and calibration practices of the world’s most accurate forecasters
- La Prospettiva Esterna
Correcting inside-view optimism with base rates, history, and calibrated humility
- Previsione a Classe di Riferimento
Using base rates and outside-view anchors to forecast more honestly