Context-Parallel

Tutorial: NVIDIA-BioNeMo/bionemo-framework — 完整解讀（biopharma foundation model 訓練引擎，含 ESM-2 / AMPLIFY / Evo2 / Geneformer / CodonFM / MoCo 全套 recipes）

2026-06-0228 min read Bioinformatics Amplify Bionemo Biopharma-Foundation-Model Clara-Biopharma Codonfm Context-Parallel Drug-Discovery Esm2 Evo2 Fp8 Geneformer Megatron-Fsdp Moco Mxfp8 Nvfp4 Nvidia Nvidia-Bionemo Scrna-Seq Sequence-Packing Sparse-Autoencoder Transformer-Engine Tutorial

NVIDIA-BioNeMo/bionemo-framework 完整教學一句話定位：NVIDIA Clara BioPharma 平台的訓練引擎開源層 — GPU 高度最佳化的 recipe 與工具集，把 NVIDIA 在 LLM 上的全套絕活（TransformerEngine FP8/MXFP8/NVFP4 低精度、megatron-FSDP、context parallel、sequence packing、Hopper / Blackwell 架構優化）搬到 biopharma 領域：從蛋白質（ESM-2 8M→15B、AMPLIFY）、單細胞 RNA（Geneformer）、基因體（Evo2 1B→40B，1M+...