スティールマニングをおもねりから区別する

ある立場を好意的に解釈することは、それに同意すること、反対することを拒否すること、対立を避けるために批判を和らげることとは同じではない。

Why it works

スティールマニングは知的な勇気を必要とする。ある見解の最も強いバージョンを構築し、その後正直にそれに関わらなければならない——つまり、最も強いバージョンでさえ失敗するときにそれを明確に言うことを意味する。おもねりは、実質を伴わない好意的な関与の見かけを生む。「スティールマン」は同意を正当化するために構築されるのであって、最も強い挑戦を見つけるためではない。その区別は、本物のスティールマンは自分自身の見解を更新する確率を高めるということである。おもねりのそれは、それを保持することを狙って設計されている。

How to do it

1. スティールマンを構築した後、問う。「このスティールマンは、自分が信じていた何かを実際に変えたか、あるいは考慮していなかった何かを加えたか?」
2. 答えが一貫して「いいえ」であれば、失敗するように設計されたスティールマンを構築している可能性が高い。
3. スティールマンが自分の立場に本物の問題を明らかにするなら、続ける前に修正する。
4. スティールマニングの演習の後、自分の立場が実際に更新されたことがあるかを追跡する——それが較正のシグナルである。

エビデンス

おもねりの失敗モードはAIシステムにおいて文書化されており、人間の社会的推論における認識されたリスクである。社会的なプレッシャーは、挑戦するのではなく検証する体系的なインセンティブを生む。ここでの区別基準(スティールマンは本物の更新を生むか?)は、実験的に検証された技法というより実践者の診断である。 (anecdotal)

更新が「本物」なのか動機づけられたものなのかを決めることそれ自体が動機づけられた推論の対象である。外部の説明責任パートナーが較正を助けることができる。

よくある間違い

スティールマニングの演習のたびに、自分の立場は最初からずっと正しかったと結論づけ、実際に更新したことがあるかを追跡しないこと——一貫した無更新のパターンは、おもねりのスティールマニングの強い証拠である。