Nace AI veröffentlicht Drex Max v1 als Open Source: Ein 27B-Entscheidungsmodell, das lokal auf Apple Silicon läuft

Was passiert ist

Drex Max ist das leistungsfähigste Entscheidungsmodell von Nace.AI, und es lässt sich jetzt auf der eigenen Hardware betreiben. Die Veröffentlichung umfasst bf16-Gewichte, ein Q8_0-GGUF, einen affinen Q4-Checkpoint sowie Forks von llama.cpp und Ollama.

Ein Entscheidungsmodell der Spitzenklasse, das sich jetzt offline auf einem Mac ausführen lässt. Für Entwickler bedeuten offene Gewichte (ein Modell, dessen trainierte Parameter jeder herunterladen darf), dass Routing, Klassifikation und Richtlinienprüfungen auf einem lokalen Rechner bleiben können.

TL;DR Größe: dichtes Modell mit 27B Parametern, Kontextfenster von 262.144 Token (standardmäßig 16.384), bis zu 255 Optionen pro Frage. Läuft auf: NVIDIA-GPU (ein Chip, der viele Berechnungen gleichzeitig ausführt und für Grafik und KI genutzt wird) mit Python (H100 in bf16 oder L40S mit 48 GB in 8-Bit).

Apple-Silicon-Macs mit 24 GB+ (affines Q4) oder 48 GB (Q8_0-GGUF). Leistung: 67,52 im öffentlichen Decision Index 0.4, 6,27 Punkte vor Drex v2.0 (Selbstangabe). Apple ist ein Software- und Consumer-Electronics-Unternehmen mit Sitz in Cupertino.

Drex Max ist ein Entscheidungsmodell von Nace.AI, das getippte Fragen zu einem gegebenen Kontext beantwortet. Man übergibt einen Zustand (Text, JSON oder Bilder) zusammen mit benannten Fragen.

Das Modell liefert in einem einzigen Durchlauf eine Wahrscheinlichkeit für jede Option zurück. omni_parse_bench · bewertet Text, Tabellen und Layout · Open Source Star auf GitHub → Gesponsert Fragen gibt es in 3 Typen: Auswahl unter benannten Optionen, Ja/Nein und eine ordinale Bewertung.