Distinguer le steelmanning de la sycophancy

Interpréter charitablement une position n'est pas la même chose qu'être d'accord avec elle, refuser d'être en désaccord, ou adoucir sa critique pour éviter le conflit.

Why it works

Le steelmanning exige du courage intellectuel : vous devez construire la version la plus solide d'un point de vue puis vous y engager honnêtement — ce qui signifie dire clairement quand même la version la plus solide échoue. La sycophancy produit l'apparence d'un engagement charitable sans la substance : le « steelman » est construit pour justifier l'accord, non pour trouver le défi le plus solide. La distinction est qu'un vrai steelman augmente la probabilité de mettre à jour votre propre point de vue ; un sycophantique est conçu pour le préserver.

How to do it

1. Après avoir construit un steelman, demandez : « Cela a-t-il réellement changé quelque chose que je crois ou ajouté quelque chose que je n'avais pas considéré ? »
2. Si la réponse est systématiquement non, vous construisez probablement des steelmans conçus pour échouer.
3. Si le steelman révèle un vrai problème avec votre position, révisez avant de continuer.
4. Suivez si vos positions changent réellement après des exercices de steelmanning — c'est le signal de calibration.

Données probantes

Le mode d'échec de la sycophancy est documenté dans les systèmes d'IA et est un risque reconnu dans le raisonnement social humain — la pression sociale crée une incitation systématique à valider plutôt qu'à défier. Le critère distinctif ici (le steelman produit-il de vraies mises à jour ?) est un diagnostic de praticien plutôt qu'une technique validée expérimentalement. (anecdotal)

Décider si une mise à jour est « authentique » ou motivée est elle-même sujette au raisonnement motivé. Des partenaires de redevabilité externes peuvent aider à calibrer.

Erreur fréquente

Conclure après chaque exercice de steelmanning que votre position avait raison depuis le début, sans suivre si vous mettez réellement à jour un jour — un motif constant de non-mise-à-jour est une forte preuve de steelmanning sycophantique.