NVIDIA、AMD、谷歌AI卡實(shí)測對比:N卡仍有5倍性價(jià)比優(yōu)勢
11月28日消息,谷歌在AI大模型訓(xùn)練/推理上,實(shí)測NVIDIA的對比顯卡無疑是目前使用最多的,AMD、倍性Intel及谷歌等公司份額沒法比,價(jià)比問題來了,優(yōu)勢NVIDIA到底強(qiáng)在哪里?谷歌
這里不用提什么CUDA生態(tài)優(yōu)勢,也不用說AI算子等參數(shù),實(shí)測Artificial Analysis直接對比了當(dāng)前的對比三大推理方案的實(shí)際表現(xiàn),分別使用谷歌TPU v6e、倍性AMD MI300X 及NVIDIA H100/B200來對比。價(jià)比
測試的優(yōu)勢內(nèi)容比較多,不過我們只看一個(gè)綜合性的谷歌就夠了,在30Token/s速度下每百萬輸入輸出的實(shí)測成本,跑的對比模型是Llama 3.3 70B。
在這方面,H100的成本是1.06美元,H200也只有1.17美元,B200 TensorRT是1.23美元,B200是1.45美元,AMD的MI300X是2.24美元,而谷歌的TPU v6e是5.13美元。
對比下來,N卡相對AMD是至少2倍的性價(jià)比優(yōu)勢,對比谷歌則是5倍左右的優(yōu)勢,差距非常明顯。
哪怕是用NVIDIA最新最貴的B200顯卡,成本提升也不算太明顯,畢竟性能是大增的,比AMD及谷歌的依然有很大優(yōu)勢。
現(xiàn)在可以說,AMD及谷歌當(dāng)前的AI卡還是差不少的,但兩家下一代產(chǎn)品提升很猛,AMD的MI400X系列最多432GB HBM4顯存,谷歌的TPU v7據(jù)說也是幾倍的性能提升,屆時(shí)可能改寫這個(gè)評測結(jié)果。
當(dāng)然,NVIDIA也不會(huì)坐以待斃,下一代的Rubin顯卡也發(fā)布了,明年也會(huì)陸續(xù)上市,有望進(jìn)一步擴(kuò)大差距。
-
11月中文大模型基準(zhǔn)測評出爐:GPT 5.1奪冠、DeepSeek開源第一前10個(gè)月中國新設(shè)外企數(shù)同比增長14.7%英偉達(dá)和AMD大刀砍向入門顯卡 這鍋得AI來背美團(tuán)宣布在全國建設(shè)“騎手公寓”:為騎手提供租房補(bǔ)貼 北京僅700元遇到這7種情況 你就是遭遇了“職場霸凌”!臺(tái)積電老將帶2nm機(jī)密加入Intel 陳立武駁斥:謠言和猜測!更新澎湃OS 3風(fēng)格!小米手環(huán)10全系新系統(tǒng)已開啟灰度:下周全量推送摩爾線程:部分卡脖子領(lǐng)域已突破 S80顯卡接近RTX 3060內(nèi)置24000轉(zhuǎn)/分鐘風(fēng)扇!紅魔11 Pro圖賞美國重返月球最關(guān)鍵一環(huán) SpaceX首艘V3助推器測試期間爆炸
- ·東西問丨徐甜甜:“建筑針灸”理念如何走入國際視野?
- ·11月21日央行開展3750億元7天期逆回購操作
- ·(粵港澳全運(yùn)會(huì))“數(shù)”說嶺南何處好:3至100全運(yùn)“同”精彩
- ·日本美女伊織萌Cos《妮姬》圖賞:純欲天花板
- ·確實(shí)火熱! 毛妹cos《怪物獵人:荒野》杰瑪
- ·《驚天魔盜團(tuán)3》票房破2億 豆瓣評分僅6.0系列最差
- ·打破ChatGPT、Sora2記錄!靈光App上線4天下載突破100萬
- ·印度光輝戰(zhàn)機(jī)墜毀畫面曝光 目擊者:沒看到飛行員彈射
- ·遇到這7種情況 你就是遭遇了“職場霸凌”!
- ·連續(xù)兩股較強(qiáng)冷空氣來襲 影響中國大部地區(qū)
- ·逾期不還的人越來越多!我國信用卡3年減少9000多萬張 你還用嗎
- ·門把手故障被指阻礙救援 特斯拉因致命車禍在美吃官司
- ·市場監(jiān)管總局:堅(jiān)決依法查處具有全國影響的直播電商重大案件
- ·天文學(xué)家揭秘:3I/ATLAS是古老彗星 源自太陽系外恒星系統(tǒng)
- ·系列最便宜!蘋果iPhone 17e要來了:60Hz低刷靈動(dòng)島屏幕
- ·中國科學(xué)院、中國工程院2025年分別新增73名和71名院士
- ·茅臺(tái)集團(tuán)董事長:中國白酒文化不會(huì)走向衰落 這并非夕陽產(chǎn)業(yè)
- ·(粵港澳全運(yùn)會(huì))北京隊(duì)奪乒乓男團(tuán)冠軍 馬龍圓夢全運(yùn)會(huì)“大滿貫”
- ·美國重返月球最關(guān)鍵一環(huán) SpaceX首艘V3助推器測試期間爆炸
- ·11月新能源汽車滲透率要?jiǎng)?chuàng)歷史:有望首次升至60%
- ·Intel CEO:必須讓客戶滿意 滿足性能、能耗等所有要求
- ·“東亞困獸”露出“三重獠牙”,日本軍國主義將危險(xiǎn)出鞘?| 國際識局
- ·國能珠海港務(wù)有限公司黨委副書記、總經(jīng)理劉文詮接受審查調(diào)查
- ·紅蜻蜓男裝旗艦店:38款加絨加厚針織衫39.9元起上新(增退貨寶)
- ·小鵬汽車:車展未邀請任何模特及演藝人員 虛假低俗視頻系A(chǔ)I生成
- ·11月21日人民幣對美元中間價(jià)報(bào)7.0875元 上調(diào)30個(gè)基點(diǎn)
- ·中國男籃主教練:對陣韓國隊(duì)是場遭遇戰(zhàn)
- ·阿根廷統(tǒng)促會(huì)聯(lián)合僑界強(qiáng)烈譴責(zé)高市早苗涉臺(tái)錯(cuò)誤言論
- ·輕薄又保暖!大嘴猴10A男士秋衣套裝37.9元新低
- ·紅蜻蜓男裝旗艦店:38款加絨加厚針織衫39.9元起上新(增退貨寶)
- ·11月朋友圈十大謠言出爐:適齡不結(jié)婚就下崗?
- ·數(shù)字時(shí)代的“技能斷層” 美國三年級學(xué)生不會(huì)數(shù)錢看時(shí)間
- ·衛(wèi)星通信再添新丁 我國成功發(fā)射通信技術(shù)試驗(yàn)衛(wèi)星二十一號
- ·臺(tái)積電老將帶2nm機(jī)密加入Intel 陳立武駁斥:謠言和猜測!
- ·一條就256GB!SK海力士展示新一代DDR5內(nèi)存
- ·中午吃晚上又吃 5人誤食劇毒蘑菇“條蓋盔孢傘”致3死2傷
