微軟開發(fā)工具包打破NVIDIA護(hù)城河!AMD GPU可運(yùn)行CUDA代碼
0
11月9日消息,微軟長期以來,開發(fā)可運(yùn)NVIDIA憑借其強(qiáng)大的工具CUDA生態(tài)系統(tǒng),在AI領(lǐng)域占據(jù)主導(dǎo)地位,包打而競(jìng)爭(zhēng)對(duì)手如AMD的城河ROCm等相對(duì)不夠成熟,不過這一格局正迎來新的微軟破局者微軟。
據(jù)一位“高級(jí)別”微軟員工透露,開發(fā)可運(yùn)其已開發(fā)出“工具包”,工具能夠?qū)VIDIA CUDA模型轉(zhuǎn)換或轉(zhuǎn)譯為ROCm兼容代碼,包打使其能在AMD的城河GPU上運(yùn)行。
此舉旨在打破CUDA的微軟“生態(tài)鎖定”,為微軟日益增長的開發(fā)可運(yùn)AI推理工作負(fù)載尋找更具成本效益的替代方案。
微軟此番行動(dòng)的工具核心驅(qū)動(dòng)力在于,他們觀察到AI推理工作負(fù)載的包打需求正在大幅增加,與昂貴的城河NVIDIA GPU相比,AMD的AI芯片在推理場(chǎng)景中具備更佳的性價(jià)比。
通過軟件轉(zhuǎn)換,微軟可以利用AMD的硬件優(yōu)勢(shì)來降低運(yùn)營成本。
據(jù)推測(cè),該工具包可能采用類似ZLUDA的運(yùn)行時(shí)兼容層技術(shù),在不修改源代碼的情況下,將CUDA API調(diào)用實(shí)時(shí)翻譯成ROCm指令。
不過由于ROCm相對(duì)“不成熟”,部分CUDA代碼仍缺乏對(duì)應(yīng)的映射,可能導(dǎo)致性能下降,這在大型數(shù)據(jù)中心環(huán)境中仍是一個(gè)挑戰(zhàn)。