NVIDIA、AMD、谷歌AI卡實(shí)測(cè)對(duì)比:N卡仍有5倍性價(jià)比優(yōu)勢(shì)
11月28日消息,谷歌在AI大模型訓(xùn)練/推理上,實(shí)測(cè)NVIDIA的對(duì)比顯卡無(wú)疑是目前使用最多的,AMD、倍性Intel及谷歌等公司份額沒(méi)法比,價(jià)比問(wèn)題來(lái)了,優(yōu)勢(shì)NVIDIA到底強(qiáng)在哪里?谷歌
這里不用提什么CUDA生態(tài)優(yōu)勢(shì),也不用說(shuō)AI算子等參數(shù),實(shí)測(cè)Artificial Analysis直接對(duì)比了當(dāng)前的對(duì)比三大推理方案的實(shí)際表現(xiàn),分別使用谷歌TPU v6e、倍性AMD MI300X 及NVIDIA H100/B200來(lái)對(duì)比。價(jià)比
測(cè)試的優(yōu)勢(shì)內(nèi)容比較多,不過(guò)我們只看一個(gè)綜合性的谷歌就夠了,在30Token/s速度下每百萬(wàn)輸入輸出的實(shí)測(cè)成本,跑的對(duì)比模型是Llama 3.3 70B。
在這方面,H100的成本是1.06美元,H200也只有1.17美元,B200 TensorRT是1.23美元,B200是1.45美元,AMD的MI300X是2.24美元,而谷歌的TPU v6e是5.13美元。
對(duì)比下來(lái),N卡相對(duì)AMD是至少2倍的性價(jià)比優(yōu)勢(shì),對(duì)比谷歌則是5倍左右的優(yōu)勢(shì),差距非常明顯。
哪怕是用NVIDIA最新最貴的B200顯卡,成本提升也不算太明顯,畢竟性能是大增的,比AMD及谷歌的依然有很大優(yōu)勢(shì)。
現(xiàn)在可以說(shuō),AMD及谷歌當(dāng)前的AI卡還是差不少的,但兩家下一代產(chǎn)品提升很猛,AMD的MI400X系列最多432GB HBM4顯存,谷歌的TPU v7據(jù)說(shuō)也是幾倍的性能提升,屆時(shí)可能改寫(xiě)這個(gè)評(píng)測(cè)結(jié)果。
當(dāng)然,NVIDIA也不會(huì)坐以待斃,下一代的Rubin顯卡也發(fā)布了,明年也會(huì)陸續(xù)上市,有望進(jìn)一步擴(kuò)大差距。
-
女子生理期海下潛水被鯊魚(yú)咬傷:血腥味刺激鯊魚(yú)不止賣貨!京東家電家居《乘風(fēng)破浪的總裁》讓技術(shù)參數(shù)變成用戶信任的生活語(yǔ)言不止賣貨!京東家電家居《乘風(fēng)破浪的總裁》讓技術(shù)參數(shù)變成用戶信任的生活語(yǔ)言特斯拉在美國(guó)召回1萬(wàn)臺(tái)Powerwall儲(chǔ)能設(shè)備:此前已發(fā)生多起冒煙、起火事故太陽(yáng)輻射會(huì)損壞關(guān)鍵數(shù)據(jù) 數(shù)千架空客A320飛機(jī)停飛更換軟件行業(yè)聚焦!2025數(shù)據(jù)存儲(chǔ)產(chǎn)業(yè)大會(huì)將啟 AI狂潮下全鏈力量共探新路徑火柴AI揭秘:高效利用TikTok群發(fā)訊息的秘訣指南神20乘組開(kāi)始返程!神舟二十一載人飛船順利撤離空間站組合體公司錯(cuò)發(fā)60萬(wàn)元工資 員工拒絕歸還:發(fā)的不是年度獎(jiǎng)金嗎創(chuàng)新驅(qū)動(dòng)發(fā)展 石頭科技入選“2025福布斯中國(guó)創(chuàng)新力企業(yè)50強(qiáng)”
- ·美加墨世界杯抽簽分檔結(jié)果揭曉 意大利隊(duì)或造“死亡之組”
- ·《死亡擱淺》登陸迪斯尼流媒體平臺(tái)
- ·(粵港澳全運(yùn)會(huì))場(chǎng)地自行車賽上演“速度與激情”:河南隊(duì)日進(jìn)兩金
- ·火柴AI揭秘:高效利用TikTok群發(fā)訊息的秘訣指南
- ·華為Mate 80 Pro Max為何藏獨(dú)特彩蛋:有趣且專屬的小儀式
- ·就在本周 iPhone 17系列中國(guó)市場(chǎng)激活量突破1000萬(wàn)臺(tái):賣爆了
- ·華為Mate X7首發(fā)定制20GB內(nèi)存:本月見(jiàn)
- ·戴著眼鏡“說(shuō)一下”就能點(diǎn)杯瑞幸咖啡 Rokid樂(lè)奇眼鏡接入支付寶AI付
- ·2025河北省縣(區(qū))域兒童籃球聯(lián)賽收官
- ·快手星芒短劇《浮生拍賣行》出圈 京東雙11期間深挖品牌營(yíng)銷金礦
- ·好不好用車主才知道!鴻蒙智行10月輔助駕駛報(bào)告出爐
- ·比最快超算快4.5億倍!我國(guó)超導(dǎo)量子計(jì)算機(jī)“天衍
- ·雷軍回應(yīng)老爺爺給小米之家寫(xiě)表?yè)P(yáng)信:很感動(dòng) 感謝小米之家一線同學(xué)們
- ·降本增效+精準(zhǔn)增長(zhǎng) 慧算賬重塑代賬機(jī)構(gòu)競(jìng)爭(zhēng)力內(nèi)核
- ·DDR4、DDR5內(nèi)存價(jià)格全面失控!PC電腦也要漲價(jià)了 華碩表態(tài)
- ·太好了!零百不少于5秒 不是所有大力都能出奇跡
- ·中國(guó)男籃主教練:對(duì)陣韓國(guó)隊(duì)是場(chǎng)遭遇戰(zhàn)
- ·(粵港澳全運(yùn)會(huì))逆風(fēng)翻盤(pán)、驚天逆轉(zhuǎn) 乒乓球賽場(chǎng)上演“神仙打架”
- ·“雙11”手機(jī)銷量周榜出爐:蘋(píng)果斷層第一、華為第二
- ·太好了!零百不少于5秒 不是所有大力都能出奇跡
- ·電商快遞集體漲價(jià) 9塊9包郵的時(shí)代要結(jié)束了?
- ·行業(yè)最全!海爾商用洗衣機(jī)發(fā)布四大場(chǎng)景方案
- ·華為Mate X7首發(fā)定制20GB內(nèi)存:本月見(jiàn)
- ·三只羊旗下官方賬號(hào)復(fù)播:20分鐘觀看近2萬(wàn)
- ·茅臺(tái)集團(tuán)董事長(zhǎng):中國(guó)白酒文化不會(huì)走向衰落 這并非夕陽(yáng)產(chǎn)業(yè)
- ·全民全運(yùn) 跨城來(lái)運(yùn)動(dòng)是一種怎樣的體驗(yàn)?
- ·阿里千問(wèn)開(kāi)始蹬鼻子上臉了
- ·REDMI最強(qiáng)旗艦!知名主持人朱丹喜提REDMI K90 Pro Max
- ·行業(yè)最全!海爾商用洗衣機(jī)發(fā)布四大場(chǎng)景方案
- ·比上代輕了20%!當(dāng)貝Smart 2 智能投影儀評(píng)測(cè):便攜畫(huà)質(zhì)王者
- ·內(nèi)置24000轉(zhuǎn)/分鐘風(fēng)扇!紅魔11 Pro圖賞
- ·男子剛拿駕照一個(gè)月租SU7漂移炸街 4個(gè)路口漂移11次被行拘
- ·快手星芒短劇《浮生拍賣行》出圈 京東雙11期間深挖品牌營(yíng)銷金礦
- ·DDR4、DDR5內(nèi)存價(jià)格全面失控!PC電腦也要漲價(jià)了 華碩表態(tài)
- ·英特爾股價(jià)大漲10%!與蘋(píng)果重歸于好:將為M系列芯片代工
- ·問(wèn)界M5被32噸大貨車追尾并沖撞前車:車門正常開(kāi) 5人都安全
