大型語言模型共17篇
Snowflake 與 NVIDIA 合作,整合 NVIDIA NeMo 助企業於 Snowflake 資料雲打造自定義大型語言模型-職人選物

Snowflake 與 NVIDIA 合作,整合 NVIDIA NeMo 助企業於 Snowflake 資料雲打造自定義大型語言模型

現在許多企業皆希望能導入客製化的大型語言模型,作為進行數位轉型或是加速特定流程的手段,不過若企業從無到有建立大型語言模型需要花費漫長的時間,但隨著 NVIDIA 與多家知名雲服務商攜手提供...
Chevelle.fu的头像-職人選物Chevelle.fu10个月前
07715
結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100-職人選物

結合 PyTorch 2.0 與 ROCm 5.4 的 AMD Instinct MI250 已在大型語言模型逐漸追上 NVIDIA A100

受到 NVIDIA 先期投入市場的軟硬體優勢, AMD 的 Instinct MI200 加速器系列雖獲得美國橡樹嶺實驗室新一代超級電腦 Frontier 採用,但市場討論度則仍較 NVIDIA 來的少;不過 AMD 也正努力的持續...
Chevelle.fu的头像-職人選物Chevelle.fu9个月前
0629
NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄-職人選物

NVIDIA Hopper架構TensorRT-LLM使生成式AI推論提升近3倍,H200藉HBM3e記憶體散熱打破MLPerf推論紀錄

雖然NVIDIA甫在GTC 2024公布眾所矚目的全新Blackwell架構,但畢竟Blackwell仍要待到2024年下半年才會開始出貨,故目前最新的NVIDIA AI GPU加速產品為採用美光HBM3e記憶體的NVIDIA H200 Tensor C...
Chevelle.fu的头像-職人選物Chevelle.fu4个月前
0568
Google強調以人才培育、強化社群、協助產業創新協助台灣發展AI,深耕台灣深化教育-職人選物

Google強調以人才培育、強化社群、協助產業創新協助台灣發展AI,深耕台灣深化教育

Google在2024年3月中旬藉媒體春酒邀請包括Google台灣總經理林雅芳、Google台灣董事總經理馬大康及 Google Cloud台灣總經理柯淑芬等台灣Google高層,與媒體分享Google在全球與台灣的布局,其中強...
Chevelle.fu的头像-職人選物Chevelle.fu5个月前
0569
美光宣布9x13mm封裝UFS 4.0行動儲存解決方案已送樣,採232層3D NAND、容量達1TB-職人選物

美光宣布9x13mm封裝UFS 4.0行動儲存解決方案已送樣,採232層3D NAND、容量達1TB

美光Micron於MWC宣布其業界最小尺寸UFS 4.0行動儲存解決方案已送樣,基於232層3SD NAND與先進封裝,在9x13mm大小的UFS封裝晶片可提供1TB容量,同時循環讀寫性能也獲得翻倍的提升,尤其對於生成...
Chevelle.fu的头像-職人選物Chevelle.fu5个月前
05412
台灣RISC-V聯盟設立平台工作小組與AI大型語言工作小組,旨在使研發、設計至應用皆具導入RISC-V開放架構的能力-職人選物

台灣RISC-V聯盟設立平台工作小組與AI大型語言工作小組,旨在使研發、設計至應用皆具導入RISC-V開放架構的能力

採取開源的RISC-V是許多晶片產業看好的核心架構,作為全球晶片產業聚集地的台灣也看到RISC-V的未來性成立台灣RISC-V聯盟(RVTA);RVTA在聯盟會長林志明(晶心科技董事長暨執行長)倡議下組成兩個SI...
Chevelle.fu的头像-職人選物Chevelle.fu4个月前
05313
高通專文介紹NPU之於裝置端執行生成式AI的意義,並強調透過異構運算能最大限度提升效能、能源效率-職人選物

高通專文介紹NPU之於裝置端執行生成式AI的意義,並強調透過異構運算能最大限度提升效能、能源效率

雖然行動裝置結合AI技術已經不是新聞,然而隨著生成式AI引領新一代AI技術,使AI不再只是作為單純的辨識與增強,而是能夠與使用者深度互動的技術,裝置端AI技術也邁入全新的局面,同時處理器產業...
Chevelle.fu的头像-職人選物Chevelle.fu6个月前
04910
Google 人工智慧服務 Bard 將更名為 Gemini 功能大升級-職人選物

Google 人工智慧服務 Bard 將更名為 Gemini 功能大升級

Google的AI服務Bard將整合更先進的語言模型與圖像生成功能,並以全新名稱Gemini重新亮相。 近期更新人工智慧服務「Bard」,不僅整合Gemini Pro大型語言模型、新增圖像自動生成功能,Google接下...
Mash Yang的头像-職人選物Mash Yang6个月前
0497
OpenAI 可能將推出新的開源語言模型-職人選物

OpenAI 可能將推出新的開源語言模型

OpenAI可能即將公開一款新的開源語言模型,但可能並非大型語言模型如GPT-4。 The Information網站取得消息指出,OpenAI將準備對外公開一款全新開源語言模型,但可能不是類似GPT等大型語言模型產...
Mash Yang的头像-職人選物Mash Yang1年前
04715
NVIDIA H100 GPU 於 MLPerf 首次亮相即創下生成式 AI 新標竿, CoreWeave 的 H100 GPU 集群在 11 分鐘完成 GPT-3 模型訓練-職人選物

NVIDIA H100 GPU 於 MLPerf 首次亮相即創下生成式 AI 新標竿, CoreWeave 的 H100 GPU 集群在 11 分鐘完成 GPT-3 模型訓練

在 AMD 、 Intel 仍將 AI 性能指標的對照組放在前一世代的 NVIDIA A100 ,新一代的 NVIDIA H100 已經蓄勢待發; NVIDIA 宣布 NVIDIA H100 GPU 在 MLPerf 基準測試的首次亮相即位生成式 AI 樹立...
Chevelle.fu的头像-職人選物Chevelle.fu10个月前
04714