WORLDTECHCmpnd stellt dspy-wsp vor, einen Prototyp, mit dem ein AI model Modellgewichte umschreibt
Cmpnd hat dspy-wsp vorgestellt, einen Prototyp eines Optimierers, der Weight-Space Programming in DSPy bringt, das Framework für Programme rund um Sprachmodelle. Das Werkzeug erlaubt es einem Frontier-Sprachmodell, die Gewichte eines kleineren Modells zu lesen und direkt zu verändern, statt Prompts anzupassen oder das Modell neu zu trainieren.
So verändert der Optimierer Modellgewichte
Beim Weight-Space Programming liest ein Frontier-LLM die Gewichte eines anderen Modells und ändert sie, ohne einen Trainingsprozess zu durchlaufen. Laut Bericht läuft Cmpnds Optimierer WeightSpace in einer abgeschotteten Umgebung, in der das Frontier-Modell eine Änderung vorschlägt, sie prüft und dann behält oder verwirft. Das Verfahren kommt ohne Gradienten, ohne Trainingsschleife und ohne Feinabstimmungsdatensatz aus. Cmpnd beziffert die Kosten eines Laufs auf etwa 5 bis 10 US-Dollar an Modellaufrufen.
Das Paket wird per pip installiert und setzt DSPy 3.5 voraus. Ein einzelner Lauf mit 25 Durchgängen veränderte nur eine Schicht oder einen Attention-Kopf.
Ergebnisse bei offenen Entscheidungsmodellen
Cmpnd prüfte den Ansatz an offenen Entscheidungsmodellen mit 0,6 bis 9 Milliarden Parametern und führte alle Experimente auf einem einzigen Mac aus. WeightSpace allein hob die Werte im Typed-Decisions-Test um 1,9 bis 16,1 Punkte. In Kombination mit ReAnchor erreichten die Zugewinne 6,5 bis 20,0 Punkte.
Die Ergebnisse fielen ungleich aus. Das 9-Milliarden-Modell Clef-Flash verbesserte sich mit WeightSpace allein nur um 1,9 Punkte, und unter der strengeren Regel der Originalarbeit legte d1-omni-600M lediglich 2,8 Punkte zu. Jeder Lauf dauerte 78 bis 167 Minuten, und bei den größeren Modellen war die Methode am schwächsten.
Wurzeln in der MIT-Forschung
Die Technik stammt aus einer MIT-Studie mit dem Titel Sparks of Weight-Space Programming. Darin untersucht ein Frontier-Modell, das das Forschungsteam als GPT-6-Astra bezeichnet, Gewichtstensoren, leitet ab, was jeder Teil berechnet, und verändert sie, bis sie einem in einfacher Sprache formulierten Ziel entsprechen. Die Forscher stellen Weight-Space Programming als entstehende Fähigkeit und nicht als feststehende Methode dar. Ihre Experimente verzichteten auf Gradienten, ohne dass das Konzept deren Fehlen voraussetzt.
Entwickler greifen meist zu einem von drei Hebeln. Die Prompt-Optimierung, etwa MIPROv2 oder GEPA in DSPy, verfeinert Anweisungen und Beispiele. Feinabstimmung, etwa BootstrapFinetune in DSPy, passt Gewichte per Gradientenabstieg an und verlangt Trainingsdaten, eine Trainingsschleife und meist eine GPU. Beim Weight-Space Programming dagegen schließt ein Sprachmodell direkt über die Gewichte.
Frühe Belege und Grenzen
In der Forschung ermittelte das Frontier-Modell für vier PPO-Policy-Netze allein aus deren Gewichten das richtige Spiel unter Breakout, Pong, Pac-Man und Freeway. Der Quellbericht betont, dass der Ansatz noch sehr experimentell ist.
Offene Fragen
- Wie schneidet die Methode bei Modellen mit mehr als 9 Milliarden Parametern ab?
- Werden sich die berichteten Zugewinne außerhalb der eigenen Tests von Cmpnd bestätigen?