推論加速器共4篇
安提國際推出基於Intel Arc A380E的IA380E-QUFL邊際AI加速卡,採半高單插槽設計-職人選物

安提國際推出基於Intel Arc A380E的IA380E-QUFL邊際AI加速卡,採半高單插槽設計

由於AI於各領域的廣泛應用,許多著重即時性的邊際設備如電信網路、安全監控裝置等也紛紛透過邊際AI加速卡方式實現AI功能;安提國際(Aetina)於德國紐倫堡Embedded World 2024公布採用Intel Arc A...
Chevelle.fu的头像-職人選物Chevelle.fu3个月前
0598
NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄-職人選物

NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄

雖然NVIDIA甫在GTC 2024公布眾所矚目的全新Blackwell架構,但畢竟Blackwell仍要待到2024年下半年才會開始出貨,故目前最新的NVIDIA AI GPU加速產品為採用美光HBM3e記憶體的NVIDIA H200 Tensor C...
Chevelle.fu的头像-職人選物Chevelle.fu6个月前
0588
亞馬遜 AWS 推出三款自研晶片的 Amazon EC2 執行個體,分別對應高效能運算、網路封包處理與深度學習需求-職人選物

亞馬遜 AWS 推出三款自研晶片的 Amazon EC2 執行個體,分別對應高效能運算、網路封包處理與深度學習需求

亞馬遜旗下 AWS 宣布推出由 AWS 自研三款晶片的三款全新 Amazon EC2 執行個體,包括採用針對高效能運算的 Amazon Graviton3E 的 Amazon EC2 Hpc7g ,著重增強網路頻寬與封包處理能力的 Amazon N...
Chevelle.fu的头像-職人選物Chevelle.fu2年前
0559
美光8層堆疊24GB HBM3e記憶體正式量產,NVIDIA H200 Tensor Core GPU率先採用-職人選物

美光8層堆疊24GB HBM3e記憶體正式量產,NVIDIA H200 Tensor Core GPU率先採用

美光Micron宣布兼具高效能、大容量且更節能的HBM3e記憶體已正式量產,同時NVIDIA H200 Tensor Core GPU為首款宣布採用美光8層堆疊的24GB HBM3e解決方案的產品,並於2024年第二季出貨。同時美光...
Chevelle.fu的头像-職人選物Chevelle.fu7个月前
05413