亞馬遜發力捍衛云地位，升級自研AI芯片，發布聊天機器人Q，搶先用英偉達新一代超級芯片

發布時間：2023-11-29 09:00:17來源：新浪科技

　　亞馬遜發力捍衛在云計算領域的領先地位，一邊升級自研的云芯片、推出亞馬遜版的GPT——人工智能(AI)聊天機器人，一邊深化同英偉達的合作，推出基于英偉達芯片的新服務、和英偉達共同研發超級計算機。

　　AWS的副總裁Dave Brown表示，通過將自研芯片的設計重點放在對客戶重要的實際工作負載上，AWS能為他們提供最先進的云基礎設施。此次推出的Graviton4是五年內的第四代芯片產品，隨著人們對生成式 AI 興趣的高漲，第二代AI芯片Trainium2 將幫助客戶以更低的成本和更高的能效更快地訓練自己的機器學習模型。

　　Graviton4計算性能較前代提高多達30%

　　美東時間11月28日周二，亞馬遜旗下云計算業務AWS宣布，推出新一代的AWS自研芯片。其中，通用芯片Graviton4的計算性能較前代Graviton3提高多達30%，內核增加50%，內存帶寬提升75%，從而在亞馬遜云服務器托管服務Amazon Elastic Compute Cloud(EC2)上提供最高性價比和能源利用效果。

　　Graviton4還通過對所有高速物理硬件接口進行完全加密提高安全性。AWS稱，Graviton4 將應用于內存優化的Amazon EC2 R8g 實例，讓客戶能改進高性能數據庫、內存緩存和大數據分析工作負載的執行。R8g 實例提供更大的實例大小，比前代 R7g實例的 vCPU 高最多三倍的，內存高三倍。

　　應用Graitons4的電腦將在未來數月內上市。AWS稱，啟動Garviton項目約五年來，已生產超過200萬個Garviton處理器，AWS EC2的前100位用戶都選擇使用Graviton。

　　Trainium2速度提高四倍訓練萬億參數級模型

　　AWS的另一款新品——新一代AI芯片Trainium2速度比前代Trainium1快四倍，將能在EC2 UltraCluster中部署多達10萬個芯片，讓用戶能在很短的時間內訓練數以萬億參數的基礎模型(PM)和大語言模型 (LLM)，同時能源利用率較前代提高多達兩倍。

　　Trainium2 將用于Amazon EC2 Trn2 實例，單個實例中包含16 個Trainium 芯片。Trn2 實例旨在幫助客戶在下一代 EC2 UltraCluster中擴展芯片應用數量至多達10萬個Trainium2 芯片，聯通AWS Elastic Fabric Adapter (EFA) petabit級網絡，提供高達 65 exaflops 的算力。

　　AWS稱，Trainium2將從明年開始用于支持新的服務。

　　升級版Grace Hopper的首家大客戶 DGX云采用GH200 NVL32 速度最快GPU驅動AI超算

　　除了自研芯片，AWS周二還在年度大會re：Invent期間同英偉達共同宣布，擴大戰略合作，提供最先進的基礎設施、軟件和服務，助力客戶的生成式AI創新。

　　AWS 將成為第一家在云上采用全新多節點NVLink技術英偉達H200 Grace Hopper超級芯片的云服務商，也就是說，AWS將是升級版Grace Hopper的第一個大客戶。

　　英偉達的H200 NVL32 多節點平臺將 32 個 Grace Hopper芯片與 NVLink 和 NVSwitch 技術共同用于一個實例。該平臺將用于與亞馬遜網絡EFA連接的Amazon EC2實例，并由高級虛擬化 (AWS Nitro System) 和超大規模集群 (Amazon EC2 UltraClusters) 提供支持，使亞馬遜和英偉達共同的客戶能夠擴展部署數以千計的H200芯片。

　　英偉達和AWS將共同在AWS上托管英偉達的AI 訓練即服務DGX Cloud，它將是第一個采用GH200 NVL32 的 DGX 云，能為開發人員提供單個實例中最大的共享內存。AWS 的DGX云將提高尖端生成式AI 和超過1萬億參數的大語言模型的訓練。

　　英偉達和AWS 正在共同研發名為Ceiba 的項目，設計世界上速度最快的GPU驅動AI 超級計算機，這是一個采用 GH200 NVL32 和 Amazon EFA 互連的大規模系統。它是搭載1.6384萬塊GH200超級芯片的超級計算機，AI處理能力達65 exaflops。英偉達將用它推動下一波生成式AI 創新。