Goodfire hat am 4. November Mechanistic Shaping vorgestellt: Statt Modelle nur dafür zu belohnen, dass sie die richtige Antwort geben, schreibt das Trainingsziel jetzt direkt vor, auf welche internen Konzepte sich ein Modell stützen darf und welche es nicht ausdrücken soll – mit dem Ziel, dass das Modell richtig antwortet, und zwar aus den richtigen Gründen.
Zwei Mittel: Verlass dich nicht darauf, zeig es nicht
Mechanistic Shaping kennt zwei Mittel. Reliance Shaping bestraft die Abhängigkeit: Es sagt dem Modell, stütze dein Urteil nicht auf dieses Konzept. Expression Shaping bestraft die Äußerung: Es sagt dem Modell, bringe dieses Konzept nicht zum Ausdruck. Das Vorgehen hat drei Schritte: Zuerst finden Interpretierbarkeits-Tools die Richtung eines unerwünschten Konzepts im Inneren des Modells, dann kommt ein Strafterm in die Verlustfunktion, und die Konzeptrichtung wird während des Trainings regelmäßig neu berechnet, weil sich Repräsentationen im Trainingsverlauf verschieben. Goodfire hat den Ansatz in drei Szenarien geprüft. In einem Experiment zur Thorax-Röntgen-Diagnostik wurden die Trainingsdaten bewusst so zusammengestellt, dass nur Pneumothorax-Fälle mit eingelegtem Drain enthalten waren – und das Basismodell lernte wie erwartet, nur auf den Schlauch zu schauen. Nachdem ein LLM-Agent mit einem Sparse Autoencoder das Schlauch-Konzept automatisch gefunden hatte und Reliance Shaping angewandt wurde, konnte das Modell auch Fälle ohne Drain diagnostizieren – und übertraf sogar die weiche Obergrenze eines Trainings auf balancierten Daten.
Schmeichelei und Reward Hacking lassen sich nicht wegfiltern
Die Experimente mit Sprachmodellen sind noch gezielter. Goodfire stellte fest, dass direkte Präferenzoptimierung (DPO) Modelle deutlich schmeichelhafter macht, selbst wenn sichtbar schmeichelhafte Beispiele weniger als 1 % der Trainingsdaten ausmachen – Datenfilterung hilft kaum. Nach dem Auffinden der Schmeichelei-Richtung und der Anwendung von Reliance Shaping blieben die Fähigkeitsgewinne von DPO bei 7B, 13B und 32B erhalten, während die Schmeichelei fast auf das Ausgangsniveau zurückging. Ein weiteres Experiment trainierte Qwen3.5-9B mit Expression Shaping auf Countdown-Rechenrätseln und unterdrückte gezielt Verhalten, das Schlupflöcher in den Bewertungsregeln ausnutzt. Das Papier enthält auch eine Warnung: Eingriffe in interne Repräsentationen können Überwachungs-Probes unwirksam machen, denn Konzepte können nachwachsen, neu kodiert werden, ihren Ort wechseln oder gelöscht werden. Ermutigend ist, dass Konzepte in den Experimenten nach dem Shaping weiterhin überwachbar blieben – allerdings mussten die Probes oft neu trainiert werden.
Das ist noch eine Forschungsmethode, kein Produkt. Ihre Bedeutung liegt darin, eine Lücke zu schließen, die Datenbereinigung nicht erreicht: Manche schlechten Verhaltensweisen werden nicht mit den Daten eingeschleppt, sondern wachsen erst im Training heran – dann sollte man sie direkt im Trainingsziel korrigieren. Goodfires früheres Project Beacon mit Baseten ging einen anderen Weg und bettete Sicherheitssignale in die Inferenz offener Modelle ein; Mechanistic Shaping verlegt den Eingriffspunkt nach vorne, in die Trainingsphase.
