News Contents
新聞資訊

谷歌推出推理神器!第七代TPU芯片性能大升級

發(fā)表日期2025/4/16 9:29:53      瀏覽次數(shù):

4月10日消息,在本周舉行的Cloud Next大會上,谷歌推出最新一代TPU AI加速芯片。

這款名為Ironwood的芯片是谷歌第七代TPU,同時也是首款專為人工智能推理優(yōu)化的芯片產(chǎn)品。Ironwood預計將在今年晚些時候向Google Cloud客戶開放,提供256芯片集群和9,216芯片集群兩種配置。

谷歌云副總裁阿明·瓦赫達特(Amin Vahdat)在博客文章中寫道:“Ironwood是我們迄今為止性能最強、功能最全、能效最高的TPU。它專為大規(guī)模驅(qū)動具備思考能力的推理型AI模型而打造?!?/p>

Ironwood的發(fā)布正值人工智能加速器領域競爭日趨激烈之際。雖然英偉達暫居領先地位,但亞馬遜和微軟等科技巨頭正在大力推動自研解決方案。亞馬遜通過AWS提供訓練專用芯片Trainium、推理芯片Inferentia和通用處理器Graviton,微軟則為Azure云平臺部署了Maia 100人工智能芯片。

根據(jù)谷歌內(nèi)部基準測試,Ironwood峰值計算能力達到4,614萬億次浮點運算/秒(TFLOPs)。每顆芯片配備192GB專用內(nèi)存,帶寬接近7.4太比特/秒(Tbps)。

Ironwood還搭載增強版專用核心SparseCore,用于處理“高級排序”和“推薦”任務中常見的數(shù)據(jù)類型(例如推薦用戶可能喜歡的服飾)。谷歌表示,該TPU架構(gòu)通過最小化芯片內(nèi)數(shù)據(jù)移動和延遲來實現(xiàn)節(jié)能。

瓦赫達特補充稱,谷歌計劃近期將Ironwood整合到谷歌云中的模塊化計算集群。

“在推理計算時代,Ironwood實現(xiàn)了計算能力、內(nèi)存容量、網(wǎng)絡技術進步及可靠性的獨特突破?!蓖吆者_特表示。


來源: 網(wǎng)易科技報道

撫順眾聯(lián)網(wǎng)絡公司轉(zhuǎn)載

撫順網(wǎng)絡公司 撫順網(wǎng)絡 撫順軟件公司


撫順眾聯(lián)網(wǎng)絡成立于2002年,一直專注于高品質(zhì)網(wǎng)站建設,服務!