近日，演員溫崢嶸在抖音直播間自曝被AI換臉盜播，多個(gè)直播間出現(xiàn)其帶貨形象，在直播間提問“你是溫崢嶸我是誰”后反而被對(duì)方拉黑。

該案例引發(fā)多方重視。11月6日晚間，抖音集團(tuán)副總裁李亮發(fā)文稱，這兩天，溫崢嶸被AI盜播帶貨的新聞關(guān)注度很高。經(jīng)核查后發(fā)現(xiàn)，被曝光的“三個(gè)直播間同時(shí)開播”案例并非發(fā)生在抖音平臺(tái)。經(jīng)過與相關(guān)方聯(lián)系，并根據(jù)投訴線索核查，發(fā)現(xiàn)平臺(tái)上確實(shí)存在一些利用AI仿冒名人帶貨的短視頻內(nèi)容。

李亮同時(shí)強(qiáng)調(diào)，AI內(nèi)容侵權(quán)識(shí)別是行業(yè)性技術(shù)難題，惡意仿冒賬號(hào)也在不斷與平臺(tái)進(jìn)行技術(shù)對(duì)抗，平臺(tái)會(huì)持續(xù)加大投入應(yīng)對(duì)挑戰(zhàn)，維護(hù)創(chuàng)作者、商家和消費(fèi)者的合法權(quán)益。第一財(cái)經(jīng)據(jù)此梳理AI換臉與偽造黑灰產(chǎn)鏈條，多位網(wǎng)絡(luò)安全專家強(qiáng)調(diào)，AI攻防戰(zhàn)役是一場需要長期投入的“貓鼠游戲”，涉及法律法規(guī)、技術(shù)手段與平臺(tái)治理等多方面。

溫崢嶸團(tuán)隊(duì)工作人員接受央視采訪時(shí)表示，發(fā)現(xiàn)該現(xiàn)象后團(tuán)隊(duì)便持續(xù)進(jìn)行舉報(bào)，一天時(shí)間內(nèi)曾舉報(bào)50個(gè)假冒賬號(hào)，有的造假賬號(hào)被平臺(tái)下架處理，有的賬號(hào)剛被下架很快又換了個(gè)形式重新出現(xiàn)，令人防不勝防。

該工作人員稱，商家只需要截取一段影像，通過簡易工具便能生成虛假內(nèi)容，但取證動(dòng)作卻需要花費(fèi)很大精力。且造假團(tuán)隊(duì)喜歡在凌晨三四點(diǎn)鐘打時(shí)間差發(fā)布虛假視頻。雖然團(tuán)隊(duì)已送達(dá)相關(guān)律師函，但目前調(diào)查的僅僅是一部分造假商家。

溫崢嶸遭遇此番AI造假，一方面因AI技術(shù)拉低造假門檻，一方面因溫崢嶸本身便從事直播帶貨，持續(xù)的直播動(dòng)作給造假商家提供了豐富的“素材”。

第三方直播監(jiān)測平臺(tái)數(shù)據(jù)顯示，溫崢嶸抖音賬號(hào)粉絲數(shù)384.1萬，近三個(gè)月增長29.6%。今年以來共直播248場，場均觀看人次達(dá)96.3萬人，上架商品共783件，場均銷售額達(dá)100萬-250萬。所售商品品類中，美妝護(hù)膚類占比54.19%。

除了直播視頻截取，目前各電商平臺(tái)也提供相關(guān)業(yè)務(wù)服務(wù)。記者在某二手交易電商平臺(tái)上發(fā)現(xiàn)，進(jìn)行人臉識(shí)別、代做視頻、人臉（信息）提取的業(yè)務(wù)售價(jià)僅30元。同時(shí)賣家強(qiáng)調(diào)用戶需確保所提供素材不侵犯第三方版權(quán)或其他權(quán)益，小鋪不對(duì)因使用非法素材或違法行為導(dǎo)致的任何法律責(zé)任負(fù)責(zé)。