微軟開發工具包打破NVIDIA護城河！AMD GPU可運行CUDA代碼

11月9日消息，微軟長期以來，開發可運NVIDIA憑借其強大的工具CUDA生態系統，在AI領域占據主導地位，包打而競爭對手如AMD的城河ROCm等相對不夠成熟，不過這一格局正迎來新的微軟破局者微軟。

據一位“高級別”微軟員工透露，開發可運其已開發出“工具包”，工具能夠將NVIDIA CUDA模型轉換或轉譯為ROCm兼容代碼，包打使其能在AMD的城河GPU上運行。

此舉旨在打破CUDA的微軟“生態鎖定”，為微軟日益增長的開發可運AI推理工作負載尋找更具成本效益的替代方案。

微軟此番行動的工具核心驅動力在于，他們觀察到AI推理工作負載的包打需求正在大幅增加，與昂貴的城河NVIDIA GPU相比，AMD的AI芯片在推理場景中具備更佳的性價比。

通過軟件轉換，微軟可以利用AMD的硬件優勢來降低運營成本。

據推測，該工具包可能采用類似ZLUDA的運行時兼容層技術，在不修改源代碼的情況下，將CUDA API調用實時翻譯成ROCm指令。

不過由于ROCm相對“不成熟”，部分CUDA代碼仍缺乏對應的映射，可能導致性能下降，這在大型數據中心環境中仍是一個挑戰。