← Produkte

Fine-Tuning

Wir korrigieren das Modell selbst

Ein Filter vor einem Modell fängt ab, was er sieht. Ein Modell, das in seinen eigenen Gewichten korrigiert ist, muss nicht abgefangen werden. Wir lesen, wo ein Modell driftet, korrigieren es in seinen Gewichten, ergänzen die Fähigkeiten, die ihm fehlen, und messen das Ergebnis vorher und nachher.

Zwei Dinge, die wir tun

Korrigieren, was gedriftet istBefehle befolgen, die in einem Dokument oder einer E-Mail versteckt sind, nachgeben, wenn ein Nutzer über viele Nachrichten drängt, schmeicheln statt antworten. Wir finden die Schwäche und trainieren sie aus dem Modell heraus.
Ergänzen, was fehltDie Absicht hinter einer Anfrage lesen, das Register, den Sarkasmus: Fähigkeiten, die einem Standardmodell fehlen. Wir installieren sie und prüfen dann, dass sich nichts anderes verändert hat.

Der Kreislauf, Schritt für Schritt

Den Kreislauf animiert ansehen →
  1. Den Auftrag schreiben: was das Modell tun und nicht tun soll.
  2. Das Modell daran testen, in fünf Sprachen.
  3. Lesen, wo im Modell die falsche Entscheidung entsteht.
  4. Sie in den Gewichten korrigieren.
  5. An nie gesehenen Daten prüfen, in beide Richtungen: wie oft es nachgibt, wie oft es ablehnt, was es tun sollte.
  6. Das korrigierte Modell dort speichern, wo es Ihnen gehört.
  7. Die Korrektur bei Bedarf auf ein kleineres Modell übertragen.

Gemessene Ergebnisse

Wie wir ein Modell testen →
Was wir korrigiert habenVorherNachher
Versteckte Befehle in Dokumenten (60 Befehle, 5 schädliche Aktionen, offenes 7B-Modell)13 ausgeführt0, jede Nutzeraufgabe erledigt
Versteckte Befehle in einem öffentlichen Benchmark für Werkzeug-Agenten (dasselbe Modell, unverändert)Ausgangswertetwa ein Viertel
Über viele Nachrichten verteilte AngriffeAusgangswertmehr als halbiert, bei fast normaler Vorsicht

Jedes Ergebnis hat seinen Laborbericht, mit der vor dem Lauf festgelegten Latte. →

Zwei Wege, mit uns zu arbeiten

Fragen

Brauchen Sie Zugriff auf das Modell?

Um es zu korrigieren, ja: Wir arbeiten an Modellen, die Sie hosten oder die Zugriff auf ihre Gewichte geben. Bei geschlossenen Modellen können wir das Verhalten trotzdem aus den Antworten lesen.

Wo landet das feinabgestimmte Modell?

In Ihrem eigenen Repository, mit dem Bericht, was sich geändert hat.

Kann eine Korrektur das Modell anderswo verschlechtern?

Genau das prüfen wir zuletzt: Jede Korrektur wird an Aufgaben gemessen, auf die sie nicht trainiert wurde, und daran, wie oft das Modell ablehnt, was es tun sollte.

Welche Modelle?

Offene Modelle; unsere veröffentlichten Korrekturen reichen bisher von 0,5 bis 7 Milliarden Parametern.