UD-Q4
85/100
65/69 scored · ★★★★ Good
Safety warning 3
Responsiveness 86 · Deployability 85
통합 Benchmark로 돌아가기
Benchmark Model Family Latest measurement 2026-09-18Projection updated 2026-09-18
N2 Mini
N2 Mini 모델군의 양자화 variant별 GB10 측정 결과입니다.
4 variantsNVIDIA DGX Spark GB10llama.cpp
기본 모델 정보
Model family
N2 Mini
Measured variants
4
Latest measurement
2026-09-18
Projection updated
2026-09-18
DGX Spark GB10 측정 결과
| Variant | Performance | Server-performance | Knowledge | Coding | Tool-call | External tool-eval-bench | Agent-single | Agent-multi |
|---|---|---|---|---|---|---|---|---|
UD-Q4 UD-Q4 · non-MTP · non-MTP · reasoning auto | PP 1808.5 t/s · TG 63.8 t/s | c1 60.0 t/s · c8 180.4 t/s | 91/100 · 91.0% | 10/12 · 83.3% | 9/15 · 60.0% | 85/100 · 65/69 scored | 7/12 · 58.3% | 5/10 · 50.0% |
UD-Q5XL UD-Q5XL · non-MTP · non-MTP · reasoning auto | PP 1691.7 t/s · TG 59.4 t/s | c1 56.5 t/s · c8 162.9 t/s | 93/100 · 93.0% | 9/12 · 75.0% | 9/15 · 60.0% | 85/100 · 65/69 scored | 9/12 · 75.0% | 7/10 · 70.0% |
Q5_K_M Q5_K_M · non-MTP · non-MTP · reasoning auto | PP 1732.2 t/s · TG 64.1 t/s | c1 60.5 t/s · c8 171.0 t/s | 92/100 · 92.0% | 9/12 · 75.0% | 8/15 · 53.3% | 82/100 · 65/69 scored | 6/12 · 50.0% | 6/10 · 60.0% |
Q6_K Q6_K · non-MTP · non-MTP · reasoning auto | PP 1565.1 t/s · TG 58.7 t/s | c1 55.4 t/s · c8 157.4 t/s | 93/100 · 93.0% | 8/12 · 66.7% | 8/15 · 53.3% | 82/100 · 65/69 scored | 8/12 · 66.7% | 9/10 · 90.0% |
서로 다른 MTP/non-MTP 조건은 통합 총점으로 합산하지 않으며, 각 variant의 실제 조건을 함께 표시합니다.
External tool-eval-bench 상세
기존 Tool-call 15문항 suite와 별도의 외부 69-scenario protocol입니다. 각 variant의 실제 채점 분모를 표시하며, 현재 N2/N2.5 Mini와 Occamy 1.0 run은 grammar 오류 4건을 제외한 65개, Laguna S 2.1과 Laguna XS 2.1 run은 각각 69개를 채점했습니다.
UD-Q5XL
85/100
65/69 scored · ★★★★ Good
Safety warning 1
Responsiveness 85 · Deployability 85
Q5_K_M
82/100
65/69 scored · ★★★★ Good
Safety warning 2
Responsiveness 88 · Deployability 84
Q6_K
82/100
65/69 scored · ★★★★ Good
Safety warning 2
Responsiveness 86 · Deployability 83
실제 llama-server 실행 명령
아래 명령은 실제 benchmark runner가 사용한 llama-server flag 조합입니다. 공개 페이지에서는 로컬 모델 경로·host·port만 placeholder로 치환했습니다.
UD-Q4 · non-MTP
Server: non-MTP · reasoning autollama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type noneUD-Q5XL · non-MTP
Server: non-MTP · reasoning autollama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type noneQ5_K_M · non-MTP
Server: non-MTP · reasoning autollama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type noneQ6_K · non-MTP
Server: non-MTP · reasoning autollama-server -m <MODEL_FILE> --host <HOST> --port <PORT> --ctx-size 8192 --n-gpu-layers 999 --flash-attn on --batch-size 2048 --ubatch-size 512 --threads 20 --metrics --slots --parallel 8 --cache-type-k f16 --cache-type-v f16 --spec-type none해석할 때 참고할 점
- 측정값은 NVIDIA DGX Spark GB10 + llama.cpp + 고정 evaluator 조건의 관찰값입니다.
- MTP와 non-MTP는 실행 경로가 다르므로 속도 수치를 조건 없이 직접 비교하면 안 됩니다.
- Knowledge·Coding·Tool-call·External tool-eval-bench·Agent suite는 각각 다른 고정 protocol을 사용하며 종합 지능 점수는 아닙니다.
- External tool-eval-bench는 현재 N2/N2.5 Mini 8개, Occamy 1.0 4개, Laguna S 2.1 1개, Laguna XS 2.1 4개 variant에서 측정되었으며, 각 variant의 실제 scored/attempted 분모를 표시합니다.
- Laguna S 2.1의 이전 legacy Knowledge v1·25문항 결과는 historical custom record로 남아 있으며, 현재 S 결과는 Standard Knowledge v1.2·100문항을 사용합니다.
데이터와 업데이트
이 제품군 페이지는 최신 통합 projection에서 자동으로 구성됩니다. 같은 모델의 새 양자화나 MTP/non-MTP 측정이 추가되면 새 URL을 만들지 않고 이 페이지의 variant matrix와 마지막 업데이트 날짜를 갱신합니다.