職人選物好物情報服務
職人選物好物情報服務
Meta 推出新款客製化加速晶片 對應內容排序與廣告推薦加速

Meta 推出新款客製化加速晶片 對應內容排序與廣告推薦加速

Meta 宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以 5nm 製程生產。 去年推出 第一款內部開發的客製化加速器晶片系列 ,專門用於處理推理相關工作的MTIA (Meta Training and Inference Accelerator)加速晶片之後,Meta 宣布 推出 新款客製化加速器晶片 ,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以5nm製程生產。 Screenshot 新一代MTIA加速晶片

內容整理好物編輯部
監製・達人介紹

專家資料待補

Meta 宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以 5nm 製程生產。

去年推出第一款內部開發的客製化加速器晶片系列,專門用於處理推理相關工作的MTIA (Meta Training and Inference Accelerator)加速晶片之後,Meta宣布推出新款客製化加速器晶片,將對應內容排序與廣告推薦的底層運算加速,並且依然由台積電代工,以5nm製程生產。

Screenshot

新一代MTIA加速晶片以8 x 8矩陣運算架構,並且改善稀疏運算管線設計,並且加上更大儲存、記憶體、傳輸頻寬等設計,讓密集運算與稀疏運算能分別提升3.5倍與7倍,同時藉由晶片整合網路功能 (network on chip,NoC)設計,讓晶片可在網路延遲情況下調整不同運算方式,藉此對應更複雜工作負載模式。

同時,新一代MTIA加速晶片運作時達1.35GHz、採用128MB記憶體、PCI Gen 5傳輸介面設計,但熱設計功耗則增加為90W,相較前一代晶片採用25W設計,明顯耗電許多。

<img alt="Meta, Meta宣布推出第二款MTIA系列客製化加速器晶片,對應內容排序與廣告推薦的底層運算加速
依然由台積電代工,以5nm製程生產, mashdigi-科技、新品、趣聞、趨勢" height="666" src="https://best-goods.com.tw/wp-content/uploads/2024/06/cde43057c9160342.jpg?resize=1000%2C666&ssl=1" title="Meta宣布推出第二款MTIA系列客製化加速器晶片,對應內容排序與廣告推薦的底層運算加速" width="1000">

而軟體方面則對應PyTorch 2.0、圖層捕捉、分析、轉換,以及擷取機制,因此能直接相容第一代MTIA加速晶片平台環境與相關程式編碼。

Meta預計會在近期內將新晶片更換至既有運算環境,目前更已經透過新款晶片在其16個雲端區域資料中心執行人工智慧相關工作負載,同時降低對外如NVIDIA加速晶片的依賴。