字節(jié)跳動(dòng)大模型訓(xùn)練遭實(shí)習(xí)生攻擊一事引發(fā)網(wǎng)友的廣泛關(guān)注，相關(guān)話題隨即登上熱搜。

據(jù)“大廠青年”爆料，據(jù)內(nèi)部廠友透露，破壞模型訓(xùn)練確有其事，但傳聞也有些夸張和虛構(gòu)的信息。

據(jù)了解，事情發(fā)生在六月底。某著名高校博士生田某某在大廠商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí)，因?yàn)閷?duì)團(tuán)隊(duì)資源分配不滿，使用攻擊代碼破壞團(tuán)隊(duì)的模型訓(xùn)練任務(wù)。

首先，受影響的業(yè)務(wù)不是該廠的大模型，而是商業(yè)化技術(shù)團(tuán)隊(duì)的模型訓(xùn)練任務(wù)，也就是影響了廣告部門。

至于傳聞?chuàng)p失上千萬(wàn)美元，則是太夸張了。

另外，“實(shí)習(xí)生被送進(jìn)去”是假的，處理方式是辭退，同步行業(yè)聯(lián)盟，同步情況給學(xué)校。

在消息曝出后，該名涉事實(shí)習(xí)生試圖在社交平臺(tái)上辟謠，將責(zé)任推給他人，不過(guò)很快便遭到了接近字節(jié)跳動(dòng)人士的否認(rèn)。

據(jù)相關(guān)知情人士在Gitbub上表述，“你（指田某）在長(zhǎng)達(dá)2個(gè)月的時(shí)間里對(duì)集群代碼進(jìn)行惡意攻擊，對(duì)公司近30位各級(jí)員工造成巨大傷害，讓你的同事近一個(gè)季度的工作白費(fèi)。所有的記錄和審查都證明這是不容狡辯的事實(shí)！”

據(jù)悉，田某某利用了Huggingface（HF）平臺(tái)的漏洞，在公司的共享模型中寫入了破壞代碼，導(dǎo)致模型訓(xùn)練效果忽高忽低，無(wú)法產(chǎn)生預(yù)期的訓(xùn)練成果。

一位前字節(jié)技術(shù)員工表示，“字節(jié)AI Lab的實(shí)習(xí)生權(quán)限和正職員工差異不大，也使得此次事件有了發(fā)生的機(jī)會(huì)”，其也對(duì)此次事件帶來(lái)的惡性影響表達(dá)了擔(dān)憂，“這件事之后肯定會(huì)極大地收縮實(shí)習(xí)生的權(quán)限”。