為了滿足下一代生成式 AI ， NVIDIA 公布 NVIDIA Spectrum-X 乙太網路平台，結合 NVIDIA Spectrum-4 與 BlueField-3 DPU 與加速軟體，旨在提升以乙太網路為基礎的 AI 雲端效能與效率，能夠使 AI 運作表現與能效提升 1.7 倍，同時在多租戶環境提供一致且可預測的效能表現。 NVIDIA 也在以色列資料中心建造 Israel-1 作為 NVIDIA Spectrum-X 參考設計藍本與測試平台，結合具備 NVIDIA H100 、 BlueField-3 DPU 與 Spectrum-4 交換器的 Dell PowerEdge XE9680 伺服器。
▲ Spectrum-4 由台積電 4nm 製程生產，高達 1,000 億個電晶體
▲ BlueField-3 DPU 提供網路卸載
NVIDIA Spectrum-X 是 NVIDIA 為 AI 所打造，透過全球第一款頻寬達 51TB 、由 4nm 製程生產的 Spectrum-4 乙太網路交換器為基礎，並結合 BlueField03 DPU 、 LinkX 光學收發器進行先進 RoCE 擴充項目的偕同運作，建構最適合人工智慧雲端環境運行的端到端 400GbE 網路。一個交換器可據倍 256 個 200Gb/s 連接埠，或在雙層葉脈式拓樸結構提供高達 16,000 個連接埠，作為支援 AI 雲環境的成長與擴張，並維持高效能與降低網路延遲。
▲ Spectrum-4 是為超大規模 AI 而生的乙太網路交換器
NVIDIA Spectrum-X 借助效能隔離增強多租戶的運作表現，同時確保在穩定一致的最佳狀況下運行租戶的 AI 負載，同時可找出效能瓶頸且具備全自動化結構驗證功能，用戶更能掌握 AI 效能。驅動 Spectrum-X 運作的加速軟體包括 Cumulus Linux、單純的 SONiC 及 NetQ 等 NVIDIA SDK等，並支援作為 BlueFoeld 平台核心的 NVIDIA DOCA 軟體框架。
暂无评论内容