職人選物好物情報服務
職人選物好物情報服務
AWS re:Invent 2023 re:Cap 雲端科技發表會台灣站 領先技術與服務全面加速生成式 AI 應用與創新

AWS re:Invent 2023 re:Cap 雲端科技發表會台灣站 領先技術與服務全面加速生成式 AI 應用與創新

Amazon Web Services(AWS)日前在 2023 re:Invent 全球盛會重磅發布超過 188 項創新服務,遍布企業級生成式 AI、資料分析、雲端核心基礎架構等前瞻領域。今日 AWS re:Invent 2023 re:Cap 雲端科技發表會台灣站邀請到 AWS 技術長 Olivier Klein 蒞臨台灣,與 AWS 台灣暨香港專業解決方案架構師總監楊仲豪一同剖析 AWS 發布的新服務,以及 AWS 如何以前瞻生成式 AI 技術重塑工作方式,幫助客戶加速

內容整理好物編輯部
監製・達人介紹

專家資料待補

目錄
  1. 幫助企業更輕鬆、安全地建構和應用生成式 AI
  2. 資料基礎設施、整合以及治理的新服務及新功能
  3. 自研晶片、儲存、無伺服器的持續創新

Amazon Web Services(AWS)日前在 2023 re:Invent 全球盛會重磅發布超過 188 項創新服務,遍布企業級生成式 AI、資料分析、雲端核心基礎架構等前瞻領域。今日 AWS re:Invent 2023 re:Cap 雲端科技發表會台灣站邀請到 AWS 技術長 Olivier Klein 蒞臨台灣,與 AWS 台灣暨香港專業解決方案架構師總監楊仲豪一同剖析 AWS 發布的新服務,以及 AWS 如何以前瞻生成式 AI 技術重塑工作方式,幫助客戶加速創新,並助力台灣企業在科技革命中穩固立足。作為 AWS 技術領先的合作夥伴,中華電信資訊技術分公司副總經理林仲鑠也親臨現場,分享如何運用 AWS 的生成式 AI 打造創新應用,提升員工效率並激發創造力。

AWS 技術長 Olivier Klein 表示:「作為全球雲端運算的開創者和領導者, AWS 每年在 re:Invent 全球盛會上都會發布眾多新服務、新功能和新應用。 AWS 在基礎設施、運算、儲存、資料等領域持續重塑雲端運算的可能性,並推出革新的生成式 AI 新服務及功能。透過這些技術創新, AWS 將幫助更多企業加快創新速度,利用生成式 AI 帶來變革、重塑未來。」

幫助企業更輕鬆、安全地建構和應用生成式 AI

  1. 推出 Amazon Q ,重塑未來工作方式:Amazon Q 能連接企業業務資料和系統,讓客戶打造服務自己業務的生成式 AI 助理,快速提供複雜問題的答案、生成內容並採取行動,幫助開發者和 IT 人員在 AWS 上建構、部署和維護應用程式與工作負載。無論是在 AWS 上建構、使用內部資料和系統,還是使用 AWS 應用程式實現商業智慧(BI)、客服中心和供應鏈管理, Amazon Q 都是良好的生成式 AI 助理,能夠幫助各個產業、各種規模的企業安全地使用生成式 AI 。
  2. Amazon Bedrock 發布更多模型選擇和新功能,助力安全建構和規模化生成式 AI 應用:AWS 幫助客戶快速建構模型、增加生產力,讓產品更快上市,同時兼顧了安全性。例如, Amazon Bedrock 提供精選的業界領先模型,其中包括 Anthropic 的模型。有約一半的財富 500 強企業在使用或測試 Anthropic 的基礎模型 Claude ,而新發布的 Claude2.1 能夠減少近兩倍的幻覺發生率。此外, Amazon Bedrock 新推出的模型評估功能可透過自動與人工結合的方式評估模型準確性、穩定性和是否含有有害內容,也支援自訂指標。
  3. 推出五項 Amazon SageMaker 新功能,助力規模化開發應用模型:AWS 推出新的 SageMaker Clarify 功能,可以讓客戶在負責任地使用 AI 的基礎上,根據品質參數更輕鬆地選擇正確模型。為了幫助客戶在企業內部應用這些模型, AWS 還在 Amazon SageMaker Canvas 中導入了新的無程式碼功能,讓客戶更快、更容易地使用自然語言指令準備資料。同時, Amazon SageMaker Canvas 繼續普及模型建構和訂製,讓客戶更輕鬆地使用模型萃取洞察、進行預測和使用企業自有資料生成內容,幫助客戶實現規模化的機器學習創新。

資料基礎設施、整合以及治理的新服務及新功能

  1. 進一步豐富向量資料庫選擇,確保業務資料和向量資料同步支援生成式 AI:AWS 持續豐富向量資料庫選擇,確保業務資料和向量資料同步支援生成式 AI 。 AWS 推出了 Amazon OpenSearch Serverless 向量引擎、Amazon DocumentDB 和 Amazon DynamoDB 的新向量搜尋功能、Amazon Memory DB for Redis 向量搜尋預覽版,不斷提升生成式 AI 的速度與準確度。
  2. 推出四項零 ETL 整合功能,讓跨資料儲存的存取與分析更快速、更便捷:AWS 推出四項零 ETL(Extract 萃取、Transform 轉置、Load 載入)整合功能,讓資料的取用與分析更快速、更便利。透過全新的 Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon Relational Database Service(Amazon RDS)for MySQL 與 Amazon Redshift 的零 ETL 整合功能,讓 Amazon Redshift 中連接和分析多個資料庫變得更加容易。此外,客戶現在還可以使用 Amazon OpenSearch Service 對 Amazon DynamoDB 資料進行近乎即時的全文和向量搜索。無論資料儲存在何處,零 ETL 整合功能都能簡化資料連接和操作流程,使客戶靈活地利用 AWS 廣泛而領先的資料庫和分析服務,在挖掘新洞察的同時,加速實現創新,並透過資料驅動更明智的決策。
  3. 在資料治理方面, AWS 推出 Amazon DataZone 的 AI 描述建議功能預覽版:此新功能可以為企業的資料庫自動生成更易理解的業務描述,並提供該資料庫的使用建議。 AWS 還推出了 AWS Clean Rooms ML 預覽版,幫助企業及合作夥伴在整合資料上應用機器學習模型,而無需相互複製或共用原始資料,並推出了第一個專門為公司行銷打造的相似細分市場模型。

自研晶片、儲存、無伺服器的持續創新

  1. Graviton4 晶片:與前一代 Graviton3 處理器相比, Graviton4 效能提升高達 30% ,獨立核心增加 50% 以上,記憶體頻寬提升 75% 以上,為在 Amazon Elastic Compute Cloud(Amazon EC2)上運行的工作負載提供最佳效能。 Amazon EC2 R8g 記憶體優化執行個體將採用最新的 Graviton4 ,提升客戶運行高效能資料庫、記憶體緩存、大數據分析等工作負載的效率。
  2. Trainium2 晶片:專為以高效能訓練具有數萬億個參數的基礎模型和大型語言模型打造的 Trainium2 與第一代 Trainium 晶片相比,效能提升多達 4 倍,記憶體提升 3 倍,能源效率(每瓦效能)提升多達 2 倍。 Amazon EC2 Trn2 執行個體採用最新的 Trainium2 ,一個單獨執行個體包含 16 個 Trainium 加速晶片。 Trainium2 執行個體致力於為客戶在新一代 EC2 UltraClusters 中擴展多達 100,000 個 Trainium2 加速晶片,並與 AWS Elastic Fabric Adapter(EFA)PB 級網路互連,提供的產能高達 65 exaflops ,客戶可按需獲得超級運算級別的效能。
  3. Amazon S3 Express One Zone 正式可用:與 Amazon S3 Standard 相比, Amazon S3 Express One Zone 資料存取速度提高至多 10 倍,資料請求成本降低 50% ,為機器學習訓練和推論、互動式分析以及媒體內容創作等密集型工作負載提供最高效能儲存。
  4. 三項無伺服器服務創新:AWS 致力於幫助客戶在任意規模分析和管理資料,並大幅簡化營運,而無需花費時間和精力去配置、管理和擴充基礎設施。 Amazon Aurora Limitless 資料庫可跨多個 Amazon Aurora Serverless 執行個體自動分配和查詢資料,並能夠擴充到每秒百萬次的寫入並管理 PB 級數據。 Amazon ElastiCache Serverless 可以幫助客戶在一分鐘內創造高可用的緩存,並即時進行垂直和水平擴充,以支援客戶複雜的應用程式,且無需管理基礎架構。 Amazon Redshift Serverless 則使用人工智慧預測工作負載,並自動擴充和優化資源,幫助客戶實現高性價比的目標。

▲中華電信資訊技術分公司副總經理林仲鑠到場分享中華電信運用 AWS 生成式 AI 服務打造的創新應用。/Photo Credit:Amazon Web Services (AWS)

中華電信本次亦前往美國拉斯維加斯參加 2023 re:Invent 全球盛會,發表運用 AWS 生成式 AI 服務打造的創新應用。今日也到場分享與 AWS 的深度合作,包含藉助 Amazon Bedrock 作為虛擬英文老師的大腦技術的「打造虛擬英語教師」,以及藉由 Amazon SageMaker 建立專屬 AI 系統,提升工作效率的「生成軟體開發生命週期(SDLC)的規格文件」、「個性化行銷文案助理」,並表示雙方將合作擴展不同產業和市場的應用,持續協助企業客戶應用雲端技術達成數位轉型。 

本文章內容由「Amazon Web Services (AWS)」提供。