Sglang

NVlabs/Nemotron-Labs-Diffusion 詳細教學 — 擴散 LM × Linear 自推測 × DGX Spark serving 完整實作指南

2026-06-0229 min read DevTools Ar Dgx-Spark Diffusion-Lm Dlm Evaluation Fp8 Hf-Transformers Linear-Spec Lora Nemo-Skills Peft Research Self-Speculation Sglang Slurm Tri-Mode

NVlabs/Nemotron-Labs-Diffusion — Tri-Mode 擴散語言模型完整教學本教學針對 NVlabs/Nemotron-Labs-Diffusion（commit 2026-05-28，stars 32，dual license: Apache-2.0 code + NOML weights）撰寫，為內部知識庫的「擴散 LM 工程化 reference」。本 repo 是「論文公開時的 code drop」性質，整體規模 ~1.4K 行程式碼、單次 commit、無 release tag。適合用來理解 NVIDIA 怎麼把擴散解碼路徑與 AR 路徑整合進同一模型；...