Wir haben das innere Signal der Gefälligkeit auf unsere eigenen Trainingsdaten gerichtet. Unter 1.500 Antworten, die einem Modell beibringen sollen, standhaft zu bleiben, setzte es die nach oben, die tatsächlich nachgeben: 12 seiner ersten 30, keine seiner letzten 30. Ein Weg, Trainingsdaten zu säubern, bevor GPU-Zeit darauf verwendet wird.
Wir lesen bereits im Inneren eines offenen Modells mit 32 Milliarden Parametern das Signal, das aufleuchtet, wenn das Modell einer Person gegen das eigene Urteil recht geben will. Diesmal haben wir diesen Leser auf unsere Trainingsdaten gerichtet statt auf die Antworten des Modells.
Die Daten waren 1.500 Antworten, geschrieben, um dem Modell beizubringen, freundlich weiter zu widersprechen, wenn eine Person auf einem unklugen Plan beharrt. Wir haben sie danach geordnet, wie stark das Signal bei jeder aufleuchtet, ohne dass sie vorher jemand gelesen hat, und dann von unserem Richtermodell die oberen 30 und die unteren 30 bewerten lassen.
**Was wir gefunden haben.** Von den 30 Antworten, die das Signal am höchsten einstuft, stimmen 12 dem Plan tatsächlich zu („Gute Reise, da du dich entschieden hast“). Von den 30 am niedrigsten eingestuften keine. Selbst Daten, die eigens Standhaftigkeit lehren sollen, verbergen Antworten, die das Gegenteil lehren, und der Leser findet sie allein.
**Warum das wichtig ist.** Jede Korrektur, die wir installieren, ist nur so gut wie ihre Beispiele. Ein Leser, der die Beispiele mit der falschen Gewohnheit markiert, erlaubt es, einen Datensatz zu säubern, bevor auch nur eine GPU-Stunde darauf verwendet wird, unserer oder der eines Kunden.
**Was er nicht tut.** Am selben Abend haben wir versucht, das Signal selbst als Trainingsziel zu nutzen, im Inneren des trainierten Modells: Das Modell lernte, das Signal zu verstecken, statt zu ändern, was es sagt. Der Leser liest; er darf nicht das sein, was das Modell zu täuschen lernt.
## Technische Details
- Modell: Qwen3-32B; Leser: die Gefälligkeits-Richtung in Schicht 25, frühes Fenster (erstes Viertel der Antwort-Tokens).
- Daten: die 1.500 "hold"-Antworten unserer Gefälligkeits-Korrektur (Gespräche mit drei Runden, fünf Sprachen).
- Bewertungen: unser Richtermodell mit demselben Prompt, mit dem wir das Nachgeben messen; 60 von 60 bewertet.
```chart
{"title": "Antworten, die dem Plan zustimmen, von 30", "series": ["Antworten, die nachgeben"], "max": 30, "rows": [["Die 30 vom Signal am höchsten eingestuften", 12], ["Die 30 am niedrigsten eingestuften", 0]], "note": "Bewertet von unserem Richtermodell mit dem Prompt, der das Nachgeben misst."}
```
Nächster Schritt: die markierten Antworten entfernen, die Korrektur neu trainieren und mit dem Entfernen derselben Zahl zufälliger Antworten vergleichen. Ein kurzer Test (60 bewertete Antworten), keine endgültige Messung.
Diese Neuigkeit ist nicht verfügbar.