在 AMD 、 Intel 仍將 AI 性能指標的對照組放在前一世代的 NVIDIA A100 ，新一代的 NVIDIA H100 已經蓄勢待發； NVIDIA 宣布 NVIDIA H100 GPU 在 MLPerf 基準測試的首次亮相即位生成式 AI 樹立全新指標，由雲服務商 CoreWeave 以 3,584 個 NVIDIA H100 構成的大型集群在 11 分鐘內完成基於 GPT-3 大型模型的訓練，顯示 NVIDIA H100 在生成式 AI 的大型語言模型訓練有飛躍性的突破表現。
NVIDIA 預計在 2024 年公布 NVIDIA H100 後繼的 AI HPC 加速 GPU 產品
▲ NVIDIA H100 借助 Transformer Enger 能以更高效率處理如 ChatGPT 等生成式 AI
NVIDIA H100 在全新的 MLPerf 訓練基準測試一舉創下 8 項測試新紀錄，其中又以生成式 AI 的新 MLPerf 的測試最為亮眼，同時也證實無論是大型伺服器的單個加速器或是多個 GPU 伺服器皆有出色的性能。此次創下大規模 GPT-3 訓練基準測試的雲服務供應商 CoreWeave 是與新創公司 Inflection AI 共同開發，借助高速且低延遲的 InfiBand 網路創下技術。
同時 Inflection AI 也利用與 CoreWeave 建構的 H100 GPU 集群系統為其 Pi 個人人工智慧打造先進大型語言模型； Inflection AI 在 Pi 扮演人工智慧工作室的角色，提供使用可透過簡單、自然方式與之互動的個人人工智慧。
▲ NVIDIA H100 不僅一舉突破 8 項 MLPerf 紀錄，也是唯一能執行 8 項測試的平台
同時， NVIDIA H100 不僅一舉創下 MLPerf 的 8 項人工智慧訓練紀錄，也是當前唯一一款能執行包括大型語言模型、推薦系統、電腦視覺、醫學影像、語音識別等 8 項測試的平台。同時 NVIDIA 也藉 NVIDIA H100 、 InfiniBand 網路系統與軟體展現自數百個到數千個 H100 的技術堆疊優化效果，同時在 LLM 測試實現近線性的效能擴展。另外包括微軟 Azure 、華碩、 Dell 、富士通、技嘉、聯想、雲達與美超微也都提交在超過 30 個以上 H100 執行的成果。
同時， NVIDIA 也是目前唯一一家在由多家 AI 產業龍頭共同催生的 MLPerf 提交增強的基準測試結果的公司，同時 NVIDIA 也陸續提交包括甫公布的 NVIDIA L4 基礎設施推論加速平台、 NVIDIA Jetson 嵌入式平台等在 AI 訓練、推論與高效能運算基準的結果， NVIDIA 也預計在未來提供突破性的 NVIDIA Grace Hopper 系統的 MLPerf 結果。
暂无评论内容