Interpretability on TPOW Labhttps://tpow-001.netlify.app/tags/interpretability/Recent content in Interpretability on TPOW LabHugoenCopyright © 2025-2026 TPOW-001. All Rights Reserved.Thu, 28 May 2026 00:00:00 +0000llm-neuron-atlas 詳細教學 — 3D LLM Neuron Atlas Tutorialhttps://tpow-001.netlify.app/post/2026-05-28-llm-neuron-atlas-tutorial/Thu, 28 May 2026 00:00:00 +0000https://tpow-001.netlify.app/post/2026-05-28-llm-neuron-atlas-tutorial/llm-neuron-atlas 詳細教學

Live demo: https://charenix.com/qwen3b-atlas Repo: https://github.com/norika1207-lab/llm-neuron-atlas 作者: Norika Oda (ORCID 0009-0006-6816-9891) License: MIT

1. 專案定位

llm-neuron-atlas 屬於 mechanistic interpretability (機械式可解釋性) 工具範疇，但與既有工具有結構性的差異：

工具 視角 規模 互動
BertViz attention 矩陣 單 head / 單層 2D
Neuronpedia SAE feature dashboard 單 feature 2D 圖卡
Anthropic circuits 手繪電路圖 局部 (~10 nodes) 靜態
llm-neuron-atlas per-neuron + 全層 + cross-arch 73,728 nodes / 716K edges 3D 即時

核心定位：把整個 transformer 的「神經元城市」(neuron-as-city / weight-as-road) 一次性渲染出來，讓使用者用空間導航的方式探索 LLM 的內部結構。

]]>