AI 伺服器
機櫃 8 層解剖

你在新聞看到的 AI 資料中心，就是這個尺度。數百到數千個機架排成一排，透過高速網路（InfiniBand 或乙太網路）連成一個超大運算叢集。黃仁勳口中的「AI Factory」正是指這個層級——輸入電力、資料，輸出智慧。

機架裡不只有 GPU，還有 NVLink Switch Tray——這是「內部網路層」，專門負責 72 顆 GPU 之間的高速通訊。沒有這層，72 顆 GPU 就只是 72 個孤島，無法合力訓練一個模型。NVLink 5 的頻寬是 PCIe 5.0 的 7 倍。

Compute Tray 是一個可抽換的金屬匣，就像抽屜一樣可以從機架拉出來維修。NVL72 共有 36 個這樣的 Tray，每個 Tray 包含 2 顆 GPU + 2 顆 CPU + 完整的 HBM 記憶體和液冷板。這是 AI 計算的最小可替換單元。

SXM（Server eXtended Module）是 Nvidia 設計的高速 GPU 模組插槽標準，比 PCIe 有更高的頻寬。Vera Rubin 的「Superchip」是 1 顆 Vera CPU + 2 顆 Vera GPU 整合在同一個基板上的模組，這 3 顆晶片透過 NVLink-C2C（Chip-to-Chip）互連，速度極快。