雖然目前提到 AI 與大型語言模型 LLM ，多半會直覺聯想到目前在相關領域超高市佔的 NVIDIA 加速平台，不過競爭對手之一的 AMD 當然也不可能坐以待斃，也希冀透過其開放軟體平台 ROCm 協助開發者利用 AMD 硬體提供絕佳的 AI 與 LLM 效能； AMD 宣布最新版本的 ROCm 5.6 ，著重在強化 AI 與 LLM 領域的工作負載；且除了專業級的 CDNA 架構 Instinct 加速器產品以外， AMD 也宣布 2023 年將為特定 AMD RDNA 3 架構的 Radeon Pro 繪圖卡與 Radeon RX 顯示卡提供 ROCm 支援。
ROCm 5.6 提供多項改革，包括將 Hugging Face 單元測試套件整合至 ROCm QA ，以及在 PyTorch 2.0 感應器模式對 OpenAI Triton 的增量支援，與透過 ROCm 對 PyTorch 、 TensorFlow 與 JAX 提供 OpenXLA 支援，使 ROCm 可支援更廣泛的 AI 相關社群。
▲ AMD ROCm 未來將擴大到 RDNA 3 架構的繪圖卡與顯示卡，使更多開發者能先以較低的門檻進行相關開發
另外對於 HPC 應用程式， ROCm 5.6 導入對快速傅立葉轉換( FFT )基礎線性代數程式集( BLAS )與計算機 solver 等多個數學函式庫效能提升，同時增強包括 ROCgdb CPU-GPU 整合除錯器、 ROCm 分析工具與文件等地 ROCm 開發與部署工具。
AMD 預計在未來數月對框架與後端編譯器提供進一步的最佳化，包括 MLIR 基礎架構改進，並強化 AMD 對 OpenAI Triton 、 OpenXLA 編譯器的支援，後續 AMD 也將於 Hugging Face 的 AMD Hub 看到更多基於 AMD 解決方案最佳化的開源 AI 模型。
另外在針對繪圖卡與顯示卡的 ROCm 支援部分，預計在 2023 年秋季陸續支援基於 RDNA 3 架構的顯示卡，首波包括 48GB Radeon PRO W7900 繪圖卡與 24GB Radeon RX 7900XTX 顯示卡，後續進一步擴大支援更多顯示卡與擴充功能，此舉將有助於更多開發者可透過價格門檻相較加速卡較低的繪圖卡與顯示卡在小型工作站、消費級 PC 平台建構基於 AMD ROCm 的運算平台，後續成果亦可轉移到 AMD Instnict 加速器。
暂无评论内容