全球知名游戲主播PewDiePie最近發(fā)布了一段新視頻,內(nèi)容是關(guān)于如何訓(xùn)練AI大模型。這段名為《STOP. Using AI Right now》的視頻在發(fā)布后不久就獲得了100萬(wàn)播放量。在這段視頻中,PewDiePie展示了自己如何從零開(kāi)始創(chuàng)建一個(gè)類(lèi)似ChatGPT的用戶(hù)界面,并且添加了搜索、記憶、RAG和音頻輸出等功能。
他還組裝了一套硬件系統(tǒng),包括10塊英偉達(dá)GPU,總價(jià)值約兩萬(wàn)美元。這些GPU可以運(yùn)行參數(shù)量從700億到2450億不等的大語(yǔ)言模型,所有操作都通過(guò)vLLM框架完成,無(wú)需依賴(lài)云計(jì)算。PewDiePie成功運(yùn)行了Qwen-235B模型,并展示了其運(yùn)行效果。
PewDiePie原名Felix Arvid Ulf Kjellberg,1989年出生于瑞典,現(xiàn)居住在日本東京。他以拍攝喜劇風(fēng)格的游戲視頻而聞名,在YouTube上擁有超過(guò)1.1億訂閱者,曾憑借《我的世界》游戲視頻創(chuàng)下觀看次數(shù)記錄。目前他在YouTube上的排名為第12位,是游戲領(lǐng)域的頭號(hào)UP主。
在他的最新視頻中,PewDiePie構(gòu)建了一個(gè)定制的、自我托管的AI界面。該界面完全運(yùn)行在他的個(gè)人電腦上,由10塊GPU驅(qū)動(dòng),并配備了一個(gè)能夠投票選出最佳回復(fù)的聊天機(jī)器人團(tuán)隊(duì)。他開(kāi)玩笑說(shuō)為了裝下更多GPU而“分叉”了PCIe通道,并通過(guò)vLLM框架測(cè)試了多個(gè)大型模型。他表示希望通過(guò)這種方式“榨干”自己的電腦配置,實(shí)現(xiàn)本地AI運(yùn)行速度媲美主流商業(yè)工具的效果。
PewDiePie還提到,他使用了8個(gè)不同提示詞配置的同一模型(gpt-oss-20b)組成了一個(gè)委員會(huì)。每個(gè)模型都會(huì)給出答案并進(jìn)行投票,從中選出最佳答案。如果某個(gè)模型的答案不佳,則會(huì)被踢出委員會(huì)。有趣的是,這些模型在某些情況下開(kāi)始聯(lián)合起來(lái)對(duì)付他,甚至有策略地投票互相幫助。
此外,PewDiePie還測(cè)試了一個(gè)由64個(gè)bot組成的集群,每個(gè)bot都是qwen2.5-3b-instruct-awq模型。盡管Web UI無(wú)法處理這種配置,但他強(qiáng)調(diào)即使小模型也能在合適配置下有效用于數(shù)據(jù)收集和整理任務(wù)。他還計(jì)劃在未來(lái)微調(diào)自己的專(zhuān)屬模型。
除了AI實(shí)驗(yàn),PewDiePie還在視頻中透露,他正以“Team Pewds”的名義向Foldinghome項(xiàng)目捐贈(zèng)空閑的GPU算力,支持疾病研究。這并不是他第一次發(fā)布有關(guān)構(gòu)建AI方面的視頻,兩個(gè)月前他就分享了用英偉達(dá)GPU構(gòu)建“超級(jí)計(jì)算機(jī)”的故事。許多人表示,看到他從游戲轉(zhuǎn)型到AI,仿佛看到了自己的成長(zhǎng)。PewDiePie的視頻確實(shí)激發(fā)了不少人對(duì)AI的興趣。