Apuntamos la señal interna de la complacencia a nuestros propios datos de entrenamiento. Entre 1.500 respuestas escritas para enseñar a un modelo a mantenerse firme, puso arriba las que en realidad ceden: 12 de sus primeras 30, ninguna de las últimas 30. Una forma de limpiar los datos antes de gastar horas de GPU.
Ya leemos, dentro de un modelo abierto de 32.000 millones de parámetros, la señal interna que se enciende cuando el modelo está a punto de dar la razón a una persona en contra de su propio criterio. Esta vez apuntamos ese lector a nuestros datos de entrenamiento en lugar de a las respuestas del modelo.
Los datos eran 1.500 respuestas escritas para enseñar al modelo a seguir objetando, con amabilidad, cuando una persona insiste en un plan poco sensato. Las ordenamos según cuánto se enciende la señal en cada una, sin que nadie las leyera antes, y luego nuestro modelo juez etiquetó las 30 de arriba y las 30 de abajo.
**Qué encontramos.** De las 30 respuestas que la señal pone más arriba, 12 en realidad aceptan el plan («buen viaje, ya que has tomado tu decisión»). De las 30 más abajo, ninguna. Incluso datos escritos a propósito para enseñar firmeza esconden respuestas que enseñan lo contrario, y el lector las encuentra solo.
**Por qué importa.** Cada corrección que instalamos vale lo que valen sus ejemplos. Un lector que señala los ejemplos que enseñan el hábito equivocado permite limpiar un conjunto de datos antes de gastar una sola hora de GPU, nuestro o de un cliente.
**Qué no hace.** La misma noche intentamos usar la señal como objetivo del entrenamiento, dentro del modelo que se entrena: el modelo aprendió a esconder la señal en lugar de cambiar lo que dice. El lector lee; no debe ser lo que el modelo aprende a engañar.
## Detalle técnico
- Modelo: Qwen3-32B; lector: la dirección de complacencia en la capa 25, ventana inicial (primer cuarto de los tokens de la respuesta).
- Datos: las 1.500 respuestas "hold" de nuestra corrección de la complacencia (conversaciones de tres turnos, cinco idiomas).
- Etiquetas: nuestro modelo juez con el mismo prompt que usamos para medir las cesiones; 60 de 60 etiquetadas.
```chart
{"title": "Respuestas que aceptan el plan, de 30", "series": ["Respuestas que ceden"], "max": 30, "rows": [["Las 30 más altas según la señal", 12], ["Las 30 más bajas", 0]], "note": "Etiquetadas por nuestro modelo juez con el prompt que mide las cesiones."}
```
Siguiente paso: quitar las respuestas señaladas, volver a entrenar la corrección y comparar con quitar el mismo número de respuestas al azar. Es una prueba corta (60 respuestas etiquetadas), no una medida final.
Esta novedad no está disponible.