COMPUTEX 2024:Arm公布Kleidi函式庫使開發者更易發揮Arm CPU的AI功能與效能,並攜手Google、聯發科、微軟提升生態系體驗

Arm在宣布包括Cortex-X925、Immortalis-G925等2024年消費級運算子系統陣容時,也宣布推出Kledi函式庫;Kleidi函式庫是跨平台的AI開放函式庫,旨在加速應用開發,並可進一步發揮Arm CPU具備的AI功能與效能,同時也會持續更新與提供新功能。

Kleidi函式庫旨在加速創新

▲Kleidi函式庫旨在加速Arm CPU的AI應用開發,並進一步發揮Armv9指令級的AI功能與效能

▲雖然目前提到裝置AI都會想到NPU,不過Arm的CPU亦有能用於AI運算的NEON、SVE2等指令集

雖然當前NPU是AI產業主流,然而AI發展仍瞬息萬變且牽涉複雜,雖然目前熱門的生成式AI仰賴NPU,但深度學習、神經網路一類的AI則不見得能使用NPU執行,CPU向來都是最優先執行各式AI應用的核心,且Arm CPU已針對AI具備NEON、SVE2等增強指令集,故Arm的Kleidi函式庫是圍繞在以Arm CPU所具備的AI相關功能為主軸的開放函式庫,希望能藉由一套開放函式庫解放CPU執行AI的性能,縮減應用開發時間並加速創新。

Kleidi函式庫包括針對AI應用的KleidiAI與針對視覺運算的KleidiCV兩大部分,也是目前在行動裝置AI運算需求最高的兩大領域;KleidiAI是作為裝置類型、神經網路、推論引擎的解決方案,借助與熱門AI框架合作解決AI開發者的應用開發複雜性,Arm強調KleidiAI對開發者非常易用,Arm工程團隊在不到24小時就測試了Llama 3的最佳化性能,同時使Pixel 8 Pro的Gemma 2B的首個Token產生時間縮減25%,另外也將攜手Unity開發裝置端AI推論引擎Sentis,使遊戲開發者能透過AI降低記憶體使用率並提升遊戲流暢度。而KleidiCV鎖定相機影像的增強需求,透過基於KleidiCV整合的影像處理任務效能提升75%,同時攜手OpenCV策略合作,將Android版本導入基於Java開發的開源軟體元件與函式庫Maven Central。

Arm攜手產業夥伴提升使用體驗

▲借助與Google強化合作,Arm架構在Android能有進一步的表現

▲Arm攜手Unreal Engine強化Immortalis GPU的性能與光線追蹤體驗

此外,Arm也提到與產業夥伴共同提升使用體驗,如透過與Google深度合作進行Arm架構與Android系統的最佳化,如Cortex-X925除了基本性能提升,在網頁瀏覽還能額外提高23%效能,並且從系統層進行多核心的效能平衡,如觀看YouTube影片可降低10%能耗,此外再夥同當前Immortalis最大支持者聯發科強化社群整合,在最新的遊戲效能框架使每幀能耗降低25%、幀率則提高35%;同時MTE(記憶體標籤擴充)記憶體防護機制也於Android系統實作,包括Google Pixel 8系列、Vivo X100系列已經採用,進一步提升資料內容安全性。

▲Arm強調與產業合作,已有越來越多應用程式、工具原生支援Arm架構

同時Arm也積極攜手PC產業強化使用體驗,除了已經獲得蘋果、微軟的支援,包括Chrome、Office、Dropbox、Zoom、Adobe、Spotify等熱門應用程式已經針對Arm架構進行原生化,如Audacity、Blender、OBS Studio等開源程式庫也陸續支援Arm架構,為積極成長中的Arm架構PC提供更好的使用體驗。

© 版权声明
THE END
喜歡就支持一下吧
点赞10 分享
評論 抢沙发
头像
歡迎您留下寶貴的見解!
提交
头像

昵称

取消
昵称表情代码图片

    暂无评论内容