AI算力、綠色節(jié)能齊頭并進(jìn)!第五代EPYC閃亮進(jìn)博會
11月7日消息,算力閃亮11月5日,綠色第八屆中國國際進(jìn)口博覽會(進(jìn)博會)在上海正式開幕,節(jié)能進(jìn)博主題為“AI賦能,并進(jìn)種草新消費”,第代43萬平方米的算力閃亮展廳內(nèi)聚集了來自155個國家、地區(qū)和組織的綠色4108家境外企業(yè)。
作為全球高性能與自適應(yīng)計算的節(jié)能進(jìn)博領(lǐng)導(dǎo)者,AMD連續(xù)五年參加進(jìn)博會,并進(jìn)帶來了全棧式AI芯片與解決方案,第代覆蓋云側(cè)、算力閃亮邊緣側(cè)、綠色端側(cè)三大層面,節(jié)能進(jìn)博展示了服務(wù)器、并進(jìn)工作站、第代迷你AI工作站、AI PC電腦等產(chǎn)品。
在AMD的一系列芯片產(chǎn)品中,EPYC(霄龍)無疑是最閃亮的那顆星,2017年誕生之日起就一直走在行業(yè)的最前列,引領(lǐng)著服務(wù)器和數(shù)據(jù)中心的發(fā)展方向,廣受業(yè)界客戶的青睞和好評。
一款產(chǎn)品廣受歡迎,可以有N個理由,而對于AMD EPYC來說,取得如此成功的第一要素就是它強大、全面的優(yōu)異性能。
目前最新的第五代EPYC,擁有先進(jìn)的3/4nm制造工藝、強大的Zen 5/5c架構(gòu),由此帶來的最高192核心384線程、5GHz頻率、512MB三級緩存、12通道6TB DDR5-5600內(nèi)存、128條PCIe 5.0通道,放在業(yè)內(nèi)幾乎是無敵的存在。
在這個AI風(fēng)起云涌的時代,AMD EPYC更是如魚得水,憑借領(lǐng)先制程和架構(gòu),在計算密度、能效上都實現(xiàn)了顯著的創(chuàng)新突破,全面賦能AI,以及HPC高性能計算、邊緣計算、云服務(wù)、移動通信、虛擬化等各類關(guān)鍵負(fù)載與場景。
高密度的192個核心加上支持完整512位寬數(shù)據(jù)路徑的AVX-512指令,帶來了極為出色的AI推理工作負(fù)載并行處理性能,對比上代推理吞吐量可提升多達(dá)2倍。
更多的內(nèi)存通道、更大的內(nèi)存帶寬、更多的PCIe 5.0通道,則實現(xiàn)了更高的I/O吞吐量,從而能夠更快地訪問數(shù)據(jù),允許CPU、GPU加速器之間快速交換數(shù)據(jù),這對于AI工作負(fù)載的高效運行至關(guān)重要。
除了硬實力,還有軟實力。AMD ZenDNN 5.0庫特別對AI推理進(jìn)行了優(yōu)化,采用自動調(diào)優(yōu)算法,支持INT4權(quán)重量化,優(yōu)化標(biāo)量點積注意力等,能顯著提升生成式LLM等模型的性能,還支持TensorFlow、PyTorch、ONNXRuntime等常見的AI框架,實現(xiàn)廣泛兼容性,對開源也非常友好。
更為難得的是,在性能無比強大的同時,AMD EPYC依然非常“綠色”,能效極高,可以說是提供了無比綠色的算力。
大家都知道,如今的AI數(shù)據(jù)中心雖然越來越強,但也越來越“饑渴”,功耗和發(fā)熱都成為讓人頭疼的問題,需要龐大的電力供應(yīng)和復(fù)雜的散熱方案,從而導(dǎo)致成本急劇增加,與綠色環(huán)保、節(jié)能減排的大趨勢背道而馳。
AMD EPYC就恰恰順應(yīng)了這一趨勢。
比如Zen 5c架構(gòu),結(jié)合先進(jìn)的制程工藝,做到192核心384線程的同時,功耗只需500W,平均每個核心只需區(qū)區(qū)2.6W,從而在提升性能的同時,有效提高能源利用效率。
192核心為代表的業(yè)界領(lǐng)先的超高計算密度,這意味著在處理相同工作量時,能夠以更少的能耗完成任務(wù),從而實現(xiàn)綠色節(jié)能。
對于DDR5、PCIe 5.0、CXL等先進(jìn)I/O特性的支持,在滿足密集算力需求的同時,還能減少數(shù)據(jù)中心的硬件支出、電力及散熱成本。
還有先進(jìn)的AMD Infinity Power Management等電源管理技術(shù),可以根據(jù)工作負(fù)載動態(tài)調(diào)整功耗,進(jìn)一步降低整體能耗,使得AI礎(chǔ)設(shè)施以峰值性能運行的同時,優(yōu)化能耗和成本。
這意味著,使用第五代AMD EPYC,可以在減少機(jī)架數(shù)量的同時,仍保持基本相當(dāng)?shù)男阅?,可?jié)省大量的物理占用空間、功耗,以及軟件許可證數(shù)量,進(jìn)而降低數(shù)據(jù)中心的整體能耗和運營成本,具有明顯的綠色節(jié)能優(yōu)勢。
本屆進(jìn)博會上,AMD就在數(shù)據(jù)中心解決方案展區(qū)通過兩臺交互式機(jī)柜展示,集成OEM伙伴基于第五代EPYC處理器的服務(wù)器產(chǎn)品,以數(shù)字化的形式,呈現(xiàn)了16項來自云服務(wù)和企業(yè)市場的標(biāo)桿案例,幫助數(shù)據(jù)中心提升性能與能效、優(yōu)化總體擁有成本。
可以說,第五代AMD EPYC憑借強大的性能實力、高超的能效,在這個AI時代實現(xiàn)了完美平衡,樹立了新標(biāo)桿。
在數(shù)據(jù)中心性能需求持續(xù)高漲、能耗壓力日益凸顯的當(dāng)下,AMD EPYC一方面以硬核實力,全面賦能云、邊、端等多元化AI場景,又以卓越能效,堅定踐行了可持續(xù)發(fā)展的理念,成為連接智能升級與綠色轉(zhuǎn)型的核心算力支柱。
本文地址:http://www.bxbedu.com/news/33a399963.html
版權(quán)聲明
本文僅代表作者觀點,不代表本站立場。
本文系作者授權(quán)發(fā)表,未經(jīng)許可,不得轉(zhuǎn)載。