11月28日消息，谷歌在AI大模型訓(xùn)練/推理上，實(shí)測NVIDIA的對比顯卡無疑是目前使用最多的，AMD、倍性Intel及谷歌等公司份額沒法比，價(jià)比問題來了，優(yōu)勢NVIDIA到底強(qiáng)在哪里？谷歌

這里不用提什么CUDA生態(tài)優(yōu)勢，也不用說AI算子等參數(shù)，實(shí)測Artificial Analysis直接對比了當(dāng)前的對比三大推理方案的實(shí)際表現(xiàn)，分別使用谷歌TPU v6e、倍性AMD MI300X 及NVIDIA H100/B200來對比。價(jià)比

測試的優(yōu)勢內(nèi)容比較多，不過我們只看一個(gè)綜合性的谷歌就夠了，在30Token/s速度下每百萬輸入輸出的實(shí)測成本，跑的對比模型是Llama 3.3 70B。

在這方面，H100的成本是1.06美元，H200也只有1.17美元，B200 TensorRT是1.23美元，B200是1.45美元，AMD的MI300X是2.24美元，而谷歌的TPU v6e是5.13美元。

對比下來，N卡相對AMD是至少2倍的性價(jià)比優(yōu)勢，對比谷歌則是5倍左右的優(yōu)勢，差距非常明顯。

哪怕是用NVIDIA最新最貴的B200顯卡，成本提升也不算太明顯，畢竟性能是大增的，比AMD及谷歌的依然有很大優(yōu)勢。

現(xiàn)在可以說，AMD及谷歌當(dāng)前的AI卡還是差不少的，但兩家下一代產(chǎn)品提升很猛，AMD的MI400X系列最多432GB HBM4顯存，谷歌的TPU v7據(jù)說也是幾倍的性能提升，屆時(shí)可能改寫這個(gè)評測結(jié)果。

當(dāng)然，NVIDIA也不會(huì)坐以待斃，下一代的Rubin顯卡也發(fā)布了，明年也會(huì)陸續(xù)上市，有望進(jìn)一步擴(kuò)大差距。

• ·東西問丨徐甜甜：“建筑針灸”理念如何走入國際視野？
• ·11月21日央行開展3750億元7天期逆回購操作
• ·（粵港澳全運(yùn)會(huì)）“數(shù)”說嶺南何處好：3至100全運(yùn)“同”精彩
• ·日本美女伊織萌Cos《妮姬》圖賞：純欲天花板
• ·確實(shí)火熱！ 毛妹cos《怪物獵人：荒野》杰瑪
• ·《驚天魔盜團(tuán)3》票房破2億 豆瓣評分僅6.0系列最差
• ·打破ChatGPT、Sora2記錄！靈光App上線4天下載突破100萬
• ·印度光輝戰(zhàn)機(jī)墜毀畫面曝光 目擊者：沒看到飛行員彈射
• ·遇到這7種情況 你就是遭遇了“職場霸凌”！
• ·連續(xù)兩股較強(qiáng)冷空氣來襲 影響中國大部地區(qū)
• ·逾期不還的人越來越多！我國信用卡3年減少9000多萬張 你還用嗎
• ·門把手故障被指阻礙救援 特斯拉因致命車禍在美吃官司
• ·市場監(jiān)管總局：堅(jiān)決依法查處具有全國影響的直播電商重大案件
• ·天文學(xué)家揭秘：3I/ATLAS是古老彗星 源自太陽系外恒星系統(tǒng)
• ·系列最便宜！蘋果iPhone 17e要來了：60Hz低刷靈動(dòng)島屏幕
• ·中國科學(xué)院、中國工程院2025年分別新增73名和71名院士