新浪科技訊 12月4日晚間消息,亞馬在亞馬遜云科技2025re:Invent全球大會上,遜云芯片亞馬遜云科技首席執行官Matt Garman宣布推出全新的科技P6E GB300系列,并正式發布基于研芯片Trainium3和基于該芯片的推出Trn3 UltraServers服務器。
他介紹,自研“這些產品(P6E GB300)采用英偉達最新的亞馬GB300 NVL72系統,我們持續為最苛刻的遜云芯片AI工作負載提供頂級算力。我們在硬件、科技軟件與運營層面的推出全棧嚴謹性,為全球最大的自研企業提供最佳的可靠性和性能。其中包括英偉達自己——他們的亞馬大規模GenAI集群Project Ceiba就運行在亞馬遜云科技上;以及像OpenAI這樣的大型機構也在積極使用亞馬遜云科技。這些大型企業如今都在使用擁有數十萬顆芯片的遜云芯片EC2 UltraServers集群,目前使用的科技是GB200系列,很快就會用到GB300系列。推出”
此外,自研Matt Garman還宣布推出Amazon AI Factories?!巴ㄟ^這一發布,我們讓客戶能夠在自己的數據中心內部署專屬的亞馬遜云科技AI基礎設施,供其獨享。實際上,AI Factory就像一個‘亞馬遜云科技私有區域’,讓客戶利用已有的數據中心空間與電力能力,同時仍然能夠訪問亞馬遜云科技領先的AI基礎設施與服務,包括最新的訓練集群、Nvidia GPU,以及Amazon SageMaker和Amazon Bedrock等服務?!?/p>
他介紹,AI Factories是為每個客戶獨立運行的,幫助他們保持物理與邏輯隔離,同時繼續享有來自亞馬遜云科技的安全性與可靠性,也能滿足嚴格的合規與數據主權要求。
亞馬遜云科技還宣布推出自研AI芯片Amazon Trainium。Matt Garman介紹,Trainium 2目前實際上是全世界最佳的推理系統之一。他表示,“事實上,我們在數據中心部署Trainium2的速度,比我們過去部署任何芯片的速度都快好幾倍。是的,這是我們迄今部署速度最快的AI芯片,我們現在的銷售速度幾乎和產能齊平。僅訓練芯片這一部分,今天已是一個數十億美元規模的業務,并且仍在快速增長?!?/p>
此外,亞馬遜云科技在去年官宣布的新一代芯片 Trainium 3,也有了新進展,目前Trainium 3 UltraServers 正式可用?!拔液芨吲d地宣布,我們已經在全力研發Trainium4,并且已經進入深度設計階段,對目前看到的結果十分期待。與Trainium3相比,Trainium4將在所有維度實現巨大躍升:FP4計算性能提升6倍、內存帶寬提升4倍、高帶寬內存容量提升2倍,以支持全球最大規模模型的訓練需求?!?/p>
海量資訊、精準解讀,盡在新浪財經APP
責任編輯:何俊熹