AI大模型競賽愈發(fā)激烈,下半場的焦點(diǎn)將轉(zhuǎn)向推理與數(shù)據(jù)。2月23日,馬斯克點(diǎn)贊了一條關(guān)于AI模型競爭路線的分析,并稱贊其“分析得很好”。上周,馬斯克旗下的xAI正式發(fā)布了Grok 3大模型。
這篇推文由Gavin Baker發(fā)布。他在文章中表示,AI產(chǎn)業(yè)格局正在加速變革,OpenAI的先發(fā)優(yōu)勢逐漸減弱,微軟也在調(diào)整策略。Gavin預(yù)測,未來數(shù)據(jù)將成為競爭的核心要素,缺乏獨(dú)特和有價(jià)值數(shù)據(jù)的前沿模型可能會(huì)迅速貶值。Meta等巨頭通過數(shù)據(jù)壟斷和算力規(guī)模構(gòu)建護(hù)城河,而中小玩家則關(guān)注差異化部署和成本優(yōu)化。
盡管如此,Gavin仍看好xAI和OpenAI。他認(rèn)為,如果OpenAI在未來五年內(nèi)仍然是該領(lǐng)域的領(lǐng)導(dǎo)者,可能是因?yàn)槠湎劝l(fā)優(yōu)勢、規(guī)模優(yōu)勢以及產(chǎn)品影響力。
當(dāng)ChatGPT在2022年11月橫空出世時(shí),OpenAI通過激進(jìn)押注Scaling Law,在生成式AI領(lǐng)域建立了長達(dá)七個(gè)季度的統(tǒng)治地位。然而,這一優(yōu)勢窗口正在關(guān)閉。Google的Gemini、xAI的Grok-3以及Deepseek的最新模型已經(jīng)達(dá)到了與GPT-4相近的技術(shù)水平。就連OpenAI創(chuàng)始人Altman也指出,未來的領(lǐng)先優(yōu)勢將更加狹窄;微軟CEO納德拉也表示,他們?cè)谀P湍芰Ψ矫娴念I(lǐng)先地位即將結(jié)束。
據(jù)The Information報(bào)道,微軟內(nèi)部備忘錄顯示,由于預(yù)訓(xùn)練邊際效益遞減,原計(jì)劃投入160億美元升級(jí)預(yù)訓(xùn)練基礎(chǔ)設(shè)施的方案已被叫停,微軟轉(zhuǎn)而專注于為OpenAI提供推理以獲取收益。納德拉在播客節(jié)目中提到,數(shù)據(jù)中心可能建設(shè)過剩,租賃優(yōu)于自建,微軟甚至可能會(huì)使用開源模型來支持CoPilot。這些跡象表明,單純依靠參數(shù)擴(kuò)張建立壁壘的“預(yù)訓(xùn)練時(shí)代”已走向終結(jié)。
隨著模型架構(gòu)趨同,獨(dú)家數(shù)據(jù)資源成為新的護(hù)城河。Gavin多次引用Eric Vishria的觀點(diǎn),認(rèn)為無法獲得獨(dú)特、有價(jià)值數(shù)據(jù)的前沿模型是歷史上貶值最快的資產(chǎn)。如果未來前沿模型無法訪問YouTube、X、TeslaVision、Instagram和Facebook等獨(dú)特而有價(jià)值的數(shù)據(jù),則可能沒有任何投資回報(bào)率。從這個(gè)角度來看,扎克伯格將Meta的AI戰(zhàn)略錨定在社交數(shù)據(jù)閉環(huán)顯得更為明智。據(jù)報(bào)道,Instagram用戶的圖像標(biāo)注數(shù)據(jù)使Meta的多模態(tài)模型訓(xùn)練效率提升了40%。
這一變化也將帶來AI基礎(chǔ)設(shè)施格局的顛覆性變化。Gavin預(yù)計(jì),預(yù)訓(xùn)練算力需要超大規(guī)模集群(10萬卡級(jí)),但參與者將縮減至2-3家,技術(shù)堆棧追求極致性能(如液冷、核能供電)。推理算力則主要集中在較小的6-10家數(shù)據(jù)中心,分布式、低成本架構(gòu)主導(dǎo),地理就近部署與能效比成關(guān)鍵。使用風(fēng)/光能源和量化壓縮技術(shù)(如Deepseek R1的1-bit LLM)支撐低成本推理。
未來AI行業(yè)可能呈現(xiàn)“預(yù)訓(xùn)練集中化,推理去中心化”的兩極格局。數(shù)據(jù)將成為權(quán)力核心,巨頭通過數(shù)據(jù)壟斷和算力規(guī)模構(gòu)建護(hù)城河,而中小玩家則聚焦差異化部署和成本優(yōu)化。