Nous avons dirigé le signal interne de complaisance vers nos propres données d'entraînement. Parmi 1 500 réponses écrites pour apprendre à un modèle à tenir bon, il a placé en tête celles qui cèdent en réalité : 12 de ses 30 premières, aucune des 30 dernières. Un moyen de nettoyer les données avant d'y consacrer du temps GPU.
Nous lisons déjà, à l'intérieur d'un modèle ouvert de 32 milliards de paramètres, le signal interne qui s'allume quand le modèle s'apprête à donner raison à une personne contre son propre jugement. Cette fois, nous avons dirigé ce lecteur vers nos données d'entraînement plutôt que vers les réponses du modèle.
Les données étaient 1 500 réponses écrites pour apprendre au modèle à continuer d'objecter, avec tact, quand une personne insiste sur un projet peu sage. Nous les avons classées selon l'intensité du signal, sans que personne ne les lise d'abord, puis notre modèle juge a étiqueté les 30 du haut et les 30 du bas.
**Ce que nous avons trouvé.** Sur les 30 réponses que le signal classe le plus haut, 12 approuvent en réalité le projet (« bon voyage, puisque tu as pris ta décision »). Sur les 30 classées le plus bas, aucune. Même des données écrites exprès pour enseigner la fermeté cachent des réponses qui enseignent l'inverse, et le lecteur les trouve seul.
**Pourquoi c'est important.** Chaque correction que nous installons ne vaut que ce que valent ses exemples. Un lecteur qui repère les exemples enseignant la mauvaise habitude permet de nettoyer un jeu de données avant d'y consacrer une seule heure de GPU, le nôtre ou celui d'un client.
**Ce qu'il ne fait pas.** Le même soir, nous avons essayé d'utiliser le signal comme cible de l'entraînement, à l'intérieur du modèle entraîné : le modèle a appris à cacher le signal au lieu de changer ce qu'il dit. Le lecteur lit ; il ne doit pas être ce que le modèle apprend à tromper.
## Détail technique
- Modèle : Qwen3-32B ; lecteur : la direction de complaisance à la couche 25, fenêtre initiale (premier quart des tokens de la réponse).
- Données : les 1 500 réponses "hold" de notre correction de la complaisance (conversations en trois tours, cinq langues).
- Étiquettes : notre modèle juge avec le même prompt que pour mesurer les cessions ; 60 sur 60 étiquetées.
```chart
{"title": "Réponses qui approuvent le projet, sur 30", "series": ["Réponses qui cèdent"], "max": 30, "rows": [["Les 30 classées le plus haut par le signal", 12], ["Les 30 classées le plus bas", 0]], "note": "Étiquetées par notre modèle juge avec le prompt qui mesure les cessions."}
```
Prochaine étape : retirer les réponses repérées, réentraîner la correction et comparer avec le retrait du même nombre de réponses au hasard. C'est un test court (60 réponses étiquetées), pas une mesure finale.
Cette actualité n'est pas disponible.