字節(jié)跳動實習生投毒自家大模型細節(jié)曝光，影響到底有多大？內(nèi)部技術襲擊引發(fā)權限收緊擔憂

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-10-19 20:52:25 新浪財經(jīng)

10月19日，字節(jié)跳動大模型訓練遭到實習生攻擊的事件引起了廣泛關注。據(jù)知情人士透露，今年6月，字節(jié)跳動某技術團隊內(nèi)部發(fā)生了一起技術襲擊事件，一名實習生因對團隊資源分配不滿，使用攻擊代碼破壞了團隊的模型訓練任務。

該事件的主要涉事者是一名田姓實習生。他利用Huggingface平臺的漏洞，在公司的共享模型中寫入了破壞代碼，導致模型訓練效果不穩(wěn)定，無法達到預期成果。一位前字節(jié)技術員工表示，字節(jié)AI Lab的實習生權限和正職員工差異不大，這為此次事件提供了機會，并對此事可能帶來的負面影響表達了擔憂。

消息曝光后，涉事實習生試圖在社交平臺上辟謠，將責任推給他人，但很快遭到接近字節(jié)跳動人士的否認。相關知情人士在GitHub上指出，田某在長達兩個月的時間里對集群代碼進行惡意攻擊，對公司近30位各級員工造成巨大傷害，使得同事一個季度的工作白費。所有記錄和審查都證明這是不容置疑的事實。錄音中的對話顯示，田某最初輸入的代碼本用于調試，但后來通過更新文件變成了攻擊代碼，導致了一系列問題。田某在錄音中承認了這一行為，并表示是因為某些原因導致了極大的不滿。

雖然有傳聞稱此次損失超過千萬美元，但內(nèi)部人士表示實際損失并沒有那么嚴重。據(jù)了解，事件發(fā)生于今年6月底，目前字節(jié)跳動已辭退田姓實習生，并將此事通報給相關行業(yè)聯(lián)盟和其所在的學校。不過，除了被辭退外，田某未受到其他處罰。

多方消息顯示，田姓實習生是國內(nèi)某高校在讀博士生，自2021年9月起在字節(jié)AI Lab實習。其所在團隊在今年4月與北大王立威團隊提出了VAR研究，在圖像生成質量、推理速度、數(shù)據(jù)效率和可擴展性等方面均超過了DiT，推理速度比傳統(tǒng)自回歸模型快約20倍。截至發(fā)稿時，字節(jié)跳動方面仍未對此事進行公開回應。

(責任編輯：張蕾)

關閉

字節(jié)跳動實習生投毒自家大模型細節(jié)曝光，影響到底有多大？ 內(nèi)部技術襲擊引發(fā)權限收緊擔憂

相關新聞

今日熱點

頻道熱點

字節(jié)跳動實習生投毒自家大模型細節(jié)曝光，影響到底有多大？內(nèi)部技術襲擊引發(fā)權限收緊擔憂