國(guó)慶長(zhǎng)假本是人們放松休閑的好時(shí)機(jī),但部分網(wǎng)友卻利用AI技術(shù)制造了一個(gè)不同尋常的“節(jié)日氛圍”。他們通過(guò)克隆雷軍的聲音吐槽不文明行為或者表達(dá)對(duì)他人的不滿,甚至出現(xiàn)了諸如要捐款給特定大學(xué)、用虛構(gòu)的小米SU7車型撞人以及遠(yuǎn)程控制手機(jī)爆炸等極端內(nèi)容。這些視頻在社交媒體上廣泛傳播,不少用戶表示自己“被AI雷軍追著罵了一個(gè)假期”。
10月7日晚間,有網(wǎng)友在雷軍的社交媒體留言問(wèn)“雷總,最近你怎么在罵人?”雷軍回應(yīng)三個(gè)發(fā)怒的表情。
AI克隆聲音技術(shù)的出現(xiàn),無(wú)疑為內(nèi)容創(chuàng)作和娛樂(lè)產(chǎn)業(yè)帶來(lái)了新的可能性。通過(guò)機(jī)器學(xué)習(xí)算法,AI能夠分析并模仿特定人物的聲音特征,生成高度逼真的語(yǔ)音內(nèi)容。同時(shí),在現(xiàn)代社會(huì)文化中,惡搞文化有一定的存在空間。適度的惡搞可以是一種幽默、一種對(duì)社會(huì)現(xiàn)象的別樣解讀。
然而,此次AI配音惡搞雷軍事件中,部分內(nèi)容已經(jīng)越過(guò)了社會(huì)可接受的道德和文化界限。例如涉及暴力威脅、惡意辱罵等內(nèi)容,這與積極健康的社會(huì)文化背道而馳。
從法律角度來(lái)看,未經(jīng)雷軍本人同意,使用AI技術(shù)合成其聲音進(jìn)行惡搞,可能侵犯了雷軍的肖像權(quán)、聲音權(quán)和名譽(yù)權(quán)。如果這些行為對(duì)雷軍的形象造成了損害,那么惡搞者可能需要承擔(dān)侵權(quán)責(zé)任,包括停止侵權(quán)、賠禮道歉、恢復(fù)名譽(yù)、賠償損失等。更嚴(yán)重的是,如果這些內(nèi)容造成了謠言的產(chǎn)生和社會(huì)影響,惡搞者可能還會(huì)面臨違反治安管理處罰法甚至刑法的風(fēng)險(xiǎn),可能會(huì)被拘留罰款,甚至坐牢。
這種現(xiàn)象也引起了人們對(duì)AI技術(shù)濫用的擔(dān)憂。隨著AI技術(shù)的發(fā)展,造假視頻和語(yǔ)音的難度越來(lái)越低,這導(dǎo)致網(wǎng)絡(luò)上出現(xiàn)了大量難以辨別真?zhèn)蔚膬?nèi)容。如果這類視頻泛濫,將嚴(yán)重影響網(wǎng)絡(luò)內(nèi)容的真實(shí)性和可信度,對(duì)平臺(tái)的內(nèi)容質(zhì)量和用戶體驗(yàn)造成損害。