大型語言模型共17篇
NVIDIA推出Mistral-NeMo-Minitron 8B語言模型,僅有80億參數規模但精度不遜120億版本-職人選物

NVIDIA推出Mistral-NeMo-Minitron 8B語言模型,僅有80億參數規模但精度不遜120億版本

現在在邊際裝置執行大型語言模型的困難是參數規模,理論上相同技術但參數越大具備更優異的精確度與性能,不過考慮到邊際裝置的運算性能、記憶體等條件,又需要在規模與性能取捨;NVIDIA繼2024年...
Chevelle.fu的头像-職人選物Chevelle.fu8天前
0296
高通公布Snapdragon 7s Gen 3平台,將能執行大型語言模型的AI下放至平價手機-職人選物

高通公布Snapdragon 7s Gen 3平台,將能執行大型語言模型的AI下放至平價手機

雖然AI功能已經廣泛使用在智慧手機,不過當前提到AI手機,則莫過於需要支援生成式AI功能,只是目前真正可執行生成式AI的智慧手機多為高階機種以上,但高通正開始使主流機型也能享受生成式AI,使...
Chevelle.fu的头像-職人選物Chevelle.fu10天前
0229
AMD收購芬蘭AI商Silo AI,旨在提供開放標準化端到端AI解決方案-職人選物

AMD收購芬蘭AI商Silo AI,旨在提供開放標準化端到端AI解決方案

AMD在近一年陸續收購Mipsology、Nod.ai等AI技術商,而AMD再次斥資6.65億美金出手收購位於芬蘭、以歐洲與北美為主要業務服務的AI技術商Silo AI,目標是提供基於開放標準的端到端AI解決方案,推動...
Chevelle.fu的头像-職人選物Chevelle.fu1个月前
03714
NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄-職人選物

NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄

雖然NVIDIA甫在GTC 2024公布眾所矚目的全新Blackwell架構,但畢竟Blackwell仍要待到2024年下半年才會開始出貨,故目前最新的NVIDIA AI GPU加速產品為採用美光HBM3e記憶體的NVIDIA H200 Tensor C...
Chevelle.fu的头像-職人選物Chevelle.fu4个月前
0558
台灣RISC-V聯盟設立平台工作小組與AI大型語言工作小組,旨在使研發、設計至應用皆具導入RISC-V開放架構的能力-職人選物

台灣RISC-V聯盟設立平台工作小組與AI大型語言工作小組,旨在使研發、設計至應用皆具導入RISC-V開放架構的能力

採取開源的RISC-V是許多晶片產業看好的核心架構,作為全球晶片產業聚集地的台灣也看到RISC-V的未來性成立台灣RISC-V聯盟(RVTA);RVTA在聯盟會長林志明(晶心科技董事長暨執行長)倡議下組成兩個SI...
Chevelle.fu的头像-職人選物Chevelle.fu4个月前
05213
Google強調以人才培育、強化社群、協助產業創新協助台灣發展AI,深耕台灣深化教育-職人選物

Google強調以人才培育、強化社群、協助產業創新協助台灣發展AI,深耕台灣深化教育

Google在2024年3月中旬藉媒體春酒邀請包括Google台灣總經理林雅芳、Google台灣董事總經理馬大康及 Google Cloud台灣總經理柯淑芬等台灣Google高層,與媒體分享Google在全球與台灣的布局,其中強...
Chevelle.fu的头像-職人選物Chevelle.fu5个月前
0569
聯發科創新基地開源釋出中英雙語Breeze-7B大型語言模型,支援雙語且繁中推論僅需Meta或Mistral一半時間-職人選物

聯發科創新基地開源釋出中英雙語Breeze-7B大型語言模型,支援雙語且繁中推論僅需Meta或Mistral一半時間

聯發科創新基地繼2023年初釋出全球第一款繁體中文文本的大型語言模型(LLM)後,在2024年3月宣布開源支援中、英雙語的MediaTek Research Breeze-7B大型語言模型,基於開源界熱門的Mistral模型,相...
Chevelle.fu的头像-職人選物Chevelle.fu5个月前
0386
美光宣布9x13mm封裝UFS 4.0行動儲存解決方案已送樣,採232層3D NAND、容量達1TB-職人選物

美光宣布9x13mm封裝UFS 4.0行動儲存解決方案已送樣,採232層3D NAND、容量達1TB

美光Micron於MWC宣布其業界最小尺寸UFS 4.0行動儲存解決方案已送樣,基於232層3SD NAND與先進封裝,在9x13mm大小的UFS封裝晶片可提供1TB容量,同時循環讀寫性能也獲得翻倍的提升,尤其對於生成...
Chevelle.fu的头像-職人選物Chevelle.fu5个月前
05212
Google 人工智慧服務 Bard 將更名為 Gemini 功能大升級-職人選物

Google 人工智慧服務 Bard 將更名為 Gemini 功能大升級

Google的AI服務Bard將整合更先進的語言模型與圖像生成功能,並以全新名稱Gemini重新亮相。 近期更新人工智慧服務「Bard」,不僅整合Gemini Pro大型語言模型、新增圖像自動生成功能,Google接下...
Mash Yang的头像-職人選物Mash Yang6个月前
0487
高通專文介紹NPU之於裝置端執行生成式AI的意義,並強調透過異構運算能最大限度提升效能、能源效率-職人選物

高通專文介紹NPU之於裝置端執行生成式AI的意義,並強調透過異構運算能最大限度提升效能、能源效率

雖然行動裝置結合AI技術已經不是新聞,然而隨著生成式AI引領新一代AI技術,使AI不再只是作為單純的辨識與增強,而是能夠與使用者深度互動的技術,裝置端AI技術也邁入全新的局面,同時處理器產業...
Chevelle.fu的头像-職人選物Chevelle.fu6个月前
04810