North Mini 모델군의 양자화 variant별 GB10 측정 결과입니다.
Model family
North Mini
Measured variants
4
Latest measurement
2026-09-06
Projection updated
2026-09-18
| Variant | Performance | Server-performance | Knowledge | Coding | Tool-call | External tool-eval-bench | Agent-single | Agent-multi |
|---|---|---|---|---|---|---|---|---|
MXFP4 MXFP4 · non-MTP · non-MTP · reasoning auto | PP 2454.9 t/s · TG 68.8 t/s | c1 69.2 t/s · c8 269.9 t/s | 88/100 · 88.0% | 11/12 · 91.7% | 12/15 · 80.0% | unavailable | 10/12 · 83.3% | 7/10 · 70.0% |
UD-Q4 UD-Q4 · non-MTP · non-MTP · reasoning auto | PP 2299.1 t/s · TG 71.7 t/s | c1 68.5 t/s · c8 299.8 t/s | 90/100 · 90.0% | 12/12 · 100.0% | 9/15 · 60.0% | unavailable | 11/12 · 91.7% | 7/10 · 70.0% |
UD-Q5 UD-Q5 · non-MTP · non-MTP · reasoning auto | PP 2127.3 t/s · TG 66.0 t/s | c1 63.4 t/s · c8 272.3 t/s | 93/100 · 93.0% | 11/12 · 91.7% | 12/15 · 80.0% | unavailable | 11/12 · 91.7% | 7/10 · 70.0% |
UD-Q6 UD-Q6 · non-MTP · non-MTP · reasoning auto | PP 1969.3 t/s · TG 60.8 t/s | c1 58.3 t/s · c8 250.7 t/s | 92/100 · 92.0% | 11/12 · 91.7% | 11/15 · 73.3% | unavailable | 11/12 · 91.7% | 8/10 · 80.0% |
서로 다른 MTP/non-MTP 조건은 통합 총점으로 합산하지 않으며, 각 variant의 실제 조건을 함께 표시합니다.
아래 명령은 실제 benchmark runner가 사용한 llama-server flag 조합입니다. 공개 페이지에서는 로컬 모델 경로·host·port만 placeholder로 치환했습니다.
llama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type nonellama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type nonellama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type nonellama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type none이 제품군 페이지는 최신 통합 projection에서 자동으로 구성됩니다. 같은 모델의 새 양자화나 MTP/non-MTP 측정이 추가되면 새 URL을 만들지 않고 이 페이지의 variant matrix와 마지막 업데이트 날짜를 갱신합니다.