Arm執行長Rene Hass繼2023年首度來台參與COMPUTEX並主持主題演講後,再度於COMPUTEX 2024年舉行主題演講;Rene Haas簡單回顧Arm架構驅動全球第一款行動運算裝置以來以能源效率優先的發展方針,同時也引領智慧手機時代與行動AI革命,AI已融入Arm產品組合的血脈,再回顧5月下旬公布的新一代CSS for Client產品組合,並再次介紹KleidiAI工具如何為開發者解放Arm處理器的AI性能,最後強調於2025年底前,全球將有超過1億台裝置準備好迎接AI來臨。
Arm架構是全球最普及的運算技術
▲Rene Haas也跟上熱潮走訪華西街夜市感受台灣文化,大讚台灣安全
▲Arm架構驅動全球第一款行動運算裝置Apple Newton
▲Arm的IP組合提供CPU、GPU、NPU等資源,並結合客戶不同領域的專業驅動創新
▲Arm運算平台是全世界普及率最高的運算技術
Rene Haas先是打趣的在投影片放了一張NVIDIA執行長黃仁勳在台走訪夜市的照片,而後也放了一張自行造訪華西街夜市的照片,表示雖然公司幕僚認為他身為上市公司執行長一個人沒有隨扈走在台灣街頭可能不太安全,但他認為台灣相當的安全能讓他放心的體驗台灣的夜市文化;隨即Rene Haas也強調Arm的架構是全球首個驅動行動運算裝置的架構,也是當前全球最普及的運算平台。
能源效率向來是Arm的拿手好戲,且在資料中心也同樣出色
▲隨著資料中心運算需求提高,用於資料中心的能耗也不斷激增
▲多家資料中心透過Arm架構創造更好的能源效率,NVIDIA Grace Blackwell則具顛覆性效能
Rene Haas話鋒一轉提到現在隨著雲端運算、生成式AI等需求激增,資料中心的能耗也扶搖直上,然而也隨著Arm架構持續提升與支援SVE2指令集,同時因應資料中心與高效能運算推出Neoverse CPU產品,Arm架構也獲得如AWS、微軟、Google等雲端服務商採納並打造高能耗效率的客製化處理器,而NVIDIA新一代高效能運算平台Grace Blackwell更透過Arm CPU可客製化的特性結合NVLink技術,實現較搭配x86平台在推論時降低25倍能耗。
耕耘超越十年迎接曙光的Arm PC
▲Rene Haas回顧2012年的Windows RT,表示當年無法成功仍在於無法執行主流應用
▲歷經12年的今日,許多主流應用程式已可原生支援Arm指令集CPU
談完了已有顯著增長的資料中心與高效能運算,Rene Haas在將時間軸回到2012年,當年Arm的合作夥伴與微軟共同推出Windows RT系統與裝置,但慘遭滑鐵盧黯淡收場,Rene Haas表示當年他還在另一家現在當紅的綠色企業色的公司任職,但若檢視當年的情況最關鍵的就是Windows RT不支援多數使用者需要的熱門應用;但經過超過10年的市場變化與Arm與合作夥伴們的努力,現在已有許多消費者主流的應用程式已經原生支援Arm架構,在COMPUTEX 2024亦可看到新一代基於Arm架構的AI PC問世。
Arm透過KleidiAI釋放CPU架構的AI運算性能與應用
▲Arm KleidiAI是隸屬Kleidi當中的AI工具,旨在發揮Arm CPU架構的AI加速能力
▲KleidiAI能發揮Armv8的NEON、ArmV9的SVE2、SME2加速性能
KleidiAI是Arm在5月藉公布CSS for Client組合時一併公布的AI開發工具,不同於當前AI多以GPU、NPU為主軸,KleidiAI旨在發揮Arm CPU所具備的AI加速架構,Rene Haas表示這是由於Arm CPU貫串多元的領域,同時也是最具備運算通用性的架構(此外先前也暗示GPU、NPU已有許多可用於AI加速的工具與環境),KleidiAI可發揮Armv8的NEON指令集與Armv9的SVE2、SME2等指令集,使其與PyTorch、TensorFlow 和 MediaPipe等熱門框架整合,並應用於Meta Llama 3和 Phi-3等模型的推論加速。
▲Rene Haas最後強調2025年將有超過1,000億個Arm裝置為AI做好準備
Rene Haas最後提到,Arm提供的架構皆以為AI做好準備,無論是CPU、GPU、GPU皆可進行不同領域的AI運算,並延續Arm透過異構方式實現能耗效率的最大化,同時透過KleidiAI的釋出,Arm預期在2025年內將有超過1,000億個Arm裝置已為AI做好準備。
暂无评论内容