COMPUTEX 2023 : NVIDIA 為生成式 AI 公布 Spectrum-X 乙太網路平台,結合 Spectrum-4 與 BlueField-3 DPU

為了滿足下一代生成式 AI , NVIDIA 公布 NVIDIA Spectrum-X 乙太網路平台,結合 NVIDIA Spectrum-4 與 BlueField-3 DPU 與加速軟體,旨在提升以乙太網路為基礎的 AI 雲端效能與效率,能夠使 AI 運作表現與能效提升 1.7 倍,同時在多租戶環境提供一致且可預測的效能表現。 NVIDIA 也在以色列資料中心建造 Israel-1 作為 NVIDIA Spectrum-X 參考設計藍本與測試平台,結合具備 NVIDIA H100 、 BlueField-3 DPU 與 Spectrum-4 交換器的 Dell PowerEdge XE9680 伺服器。

▲ Spectrum-4 由台積電 4nm 製程生產,高達 1,000 億個電晶體

▲ BlueField-3 DPU 提供網路卸載

NVIDIA Spectrum-X 是 NVIDIA 為 AI 所打造,透過全球第一款頻寬達 51TB 、由 4nm 製程生產的 Spectrum-4 乙太網路交換器為基礎,並結合 BlueField03 DPU 、 LinkX 光學收發器進行先進 RoCE 擴充項目的偕同運作,建構最適合人工智慧雲端環境運行的端到端 400GbE 網路。一個交換器可據倍 256 個 200Gb/s 連接埠,或在雙層葉脈式拓樸結構提供高達 16,000 個連接埠,作為支援 AI 雲環境的成長與擴張,並維持高效能與降低網路延遲。

▲ Spectrum-4 是為超大規模 AI 而生的乙太網路交換器

NVIDIA Spectrum-X 借助效能隔離增強多租戶的運作表現,同時確保在穩定一致的最佳狀況下運行租戶的 AI 負載,同時可找出效能瓶頸且具備全自動化結構驗證功能,用戶更能掌握 AI 效能。驅動 Spectrum-X 運作的加速軟體包括 Cumulus Linux、單純的 SONiC 及 NetQ 等 NVIDIA SDK等,並支援作為 BlueFoeld 平台核心的 NVIDIA DOCA 軟體框架。

© 版權聲明
THE END
喜歡就支持一下吧
點讚13 分享
評論 搶沙發
頭像
歡迎您留下寶貴的見解!
提交
頭像

暱稱

取消
暱稱表情代碼圖片

    暫無評論內容