Nace AI开源Drex Max v1:可在Apple Silicon上本地运行的27B决策模型
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

事件经过
Drex Max是Nace.AI最强大的决策模型,现在可以在您自己的硬件上运行。此次发布包括bf16权重、Q8_0 GGUF、仿射Q4检查点,以及llama.cpp和Ollama的分支版本。
这是一款顶级决策模型,现在可以在Mac上离线运行。对开发者而言,Drex Max的开放权重(即任何人都可以下载其训练参数的模型)意味着路由、分类和策略检查可以留在本地机器上完成。
要点速览:稠密模型,参数规模27B,上下文窗口262,144个token(默认16,384个),每个问题最多支持255个选项。运行环境:配备Python的NVIDIA GPU(一种为同时进行大量计算而设计、用于图形处理和AI的芯片),包括H100(bf16)或L40S 48 GB(8位)。
需要24 GB及以上内存的Apple Silicon Mac(affine Q4),或48 GB内存(Q8_0 GGUF)。性能方面:在公开的Decision Index上得分67.52,比0.4分;较Drex v2.0领先6.27分(自报数据)。Apple是一家总部位于库比蒂诺的软件与消费电子公司。
Drex Max是Nace.AI推出的决策模型,可针对给定上下文回答用户输入的问题。您需提供一个状态(文本、JSON或图像)以及具名问题。
模型只需一次前向传播即可为每个选项返回概率。omni_parse_bench · 评估文本、表格与版面 · 开源 在GitHub上Star → 赞助内容 问题分为3种类型:从具名选项中选择、是/否判断,以及序数评分。