
長(zhǎng)期以來(lái),阻礙外部客戶采用TPU的最大障礙是軟件。但在巨大的商業(yè)利益面前,谷歌終于放下了傲慢。SemiAnalysis報(bào)告指出,谷歌軟件團(tuán)隊(duì)的KPI已從“服務(wù)內(nèi)部”轉(zhuǎn)向“擁抱開源”。此前,谷歌宣布將全力支持PyTorch Native在TPU上的運(yùn)行。谷歌不再依賴低效的Lazy Tensor轉(zhuǎn)換,而是通過(guò)XLA編譯器直接對(duì)接PyTorch的Eager Execution模式。這使得Meta等習(xí)慣使用PyTorch的客戶可以幾乎無(wú)縫地將代碼遷移到TPU上。

同時(shí),谷歌開始向vLLM和SGLang等開源推理框架大量貢獻(xiàn)代碼,打通了TPU在開源推理生態(tài)中的任督二脈。這一轉(zhuǎn)變意味著英偉達(dá)最堅(jiān)固的“CUDA護(hù)城河”,正在被谷歌用“兼容性”填平。

這場(chǎng)“硅谷王座”的爭(zhēng)奪戰(zhàn)才剛剛開始。