Fp8 - Tags - TPOW Lab

NVlabs/Nemotron-Labs-Diffusion 詳細教學 — 擴散 LM × Linear 自推測 × DGX Spark serving 完整實作指南

2026-06-0229 min read DevTools Ar Dgx-Spark Diffusion-Lm Dlm Evaluation Fp8 Hf-Transformers Linear-Spec Lora Nemo-Skills Peft Research Self-Speculation Sglang Slurm Tri-Mode

NVlabs/Nemotron-Labs-Diffusion — Tri-Mode 擴散語言模型完整教學本教學針對 NVlabs/Nemotron-Labs-Diffusion（commit 2026-05-28，stars 32，dual license: Apache-2.0 code + NOML weights）撰寫，為內部知識庫的「擴散 LM 工程化 reference」。本 repo 是「論文公開時的 code drop」性質，整體規模 ~1.4K 行程式碼、單次 commit、無 release tag。適合用來理解 NVIDIA 怎麼把擴散解碼路徑與 AR 路徑整合進同一模型；...

Tutorial: NVIDIA-BioNeMo/bionemo-framework — 完整解讀（biopharma foundation model 訓練引擎，含 ESM-2 / AMPLIFY / Evo2 / Geneformer / CodonFM / MoCo 全套 recipes）

2026-06-0228 min read Bioinformatics Amplify Bionemo Biopharma-Foundation-Model Clara-Biopharma Codonfm Context-Parallel Drug-Discovery Esm2 Evo2 Fp8 Geneformer Megatron-Fsdp Moco Mxfp8 Nvfp4 Nvidia Nvidia-Bionemo Scrna-Seq Sequence-Packing Sparse-Autoencoder Transformer-Engine Tutorial

NVIDIA-BioNeMo/bionemo-framework 完整教學一句話定位：NVIDIA Clara BioPharma 平台的訓練引擎開源層 — GPU 高度最佳化的 recipe 與工具集，把 NVIDIA 在 LLM 上的全套絕活（TransformerEngine FP8/MXFP8/NVFP4 低精度、megatron-FSDP、context parallel、sequence packing、Hopper / Blackwell 架構優化）搬到 biopharma 領域：從蛋白質（ESM-2 8M→15B、AMPLIFY）、單細胞 RNA（Geneformer）、基因體（Evo2 1B→40B，1M+...