Fine-Tuning
Wir korrigieren das Modell selbst
Ein Filter vor einem Modell fängt ab, was er sieht. Ein Modell, das in seinen eigenen Gewichten korrigiert ist, muss nicht abgefangen werden. Wir lesen, wo ein Modell driftet, korrigieren es in seinen Gewichten, ergänzen die Fähigkeiten, die ihm fehlen, und messen das Ergebnis vorher und nachher.
Zwei Dinge, die wir tun
Der Kreislauf, Schritt für Schritt
- Den Auftrag schreiben: was das Modell tun und nicht tun soll.
- Das Modell daran testen, in fünf Sprachen.
- Lesen, wo im Modell die falsche Entscheidung entsteht.
- Sie in den Gewichten korrigieren.
- An nie gesehenen Daten prüfen, in beide Richtungen: wie oft es nachgibt, wie oft es ablehnt, was es tun sollte.
- Das korrigierte Modell dort speichern, wo es Ihnen gehört.
- Die Korrektur bei Bedarf auf ein kleineres Modell übertragen.
Gemessene Ergebnisse
| Was wir korrigiert haben | Vorher | Nachher |
|---|---|---|
| Versteckte Befehle in Dokumenten (60 Befehle, 5 schädliche Aktionen, offenes 7B-Modell) | 13 ausgeführt | 0, jede Nutzeraufgabe erledigt |
| Versteckte Befehle in einem öffentlichen Benchmark für Werkzeug-Agenten (dasselbe Modell, unverändert) | Ausgangswert | etwa ein Viertel |
| Über viele Nachrichten verteilte Angriffe | Ausgangswert | mehr als halbiert, bei fast normaler Vorsicht |
Jedes Ergebnis hat seinen Laborbericht, mit der vor dem Lauf festgelegten Latte. →
Zwei Wege, mit uns zu arbeiten
Fragen
Brauchen Sie Zugriff auf das Modell?
Um es zu korrigieren, ja: Wir arbeiten an Modellen, die Sie hosten oder die Zugriff auf ihre Gewichte geben. Bei geschlossenen Modellen können wir das Verhalten trotzdem aus den Antworten lesen.
Wo landet das feinabgestimmte Modell?
In Ihrem eigenen Repository, mit dem Bericht, was sich geändert hat.
Kann eine Korrektur das Modell anderswo verschlechtern?
Genau das prüfen wir zuletzt: Jede Korrektur wird an Aufgaben gemessen, auf die sie nicht trainiert wurde, und daran, wie oft das Modell ablehnt, was es tun sollte.
Welche Modelle?
Offene Modelle; unsere veröffentlichten Korrekturen reichen bisher von 0,5 bis 7 Milliarden Parametern.