AI生成合成內(nèi)容9月起須明確標(biāo)識(shí) 打擊“盜聲”亂象

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-08-28 14:43:28 百家號(hào)

全紅嬋、孫穎莎、王楚欽等奧運(yùn)冠軍的聲音被用于虛假帶貨視頻中，這些視頻通過AI技術(shù)克隆其聲音并截取其他視頻片段制作而成。繼AI“換臉”后，AI“盜聲”再度席卷社交平臺(tái)。

面對(duì)AI技術(shù)的濫用，業(yè)內(nèi)專家建議內(nèi)容發(fā)布者和AI服務(wù)提供者應(yīng)壓實(shí)提供標(biāo)識(shí)義務(wù)，內(nèi)容平臺(tái)也應(yīng)積極攔截審核可疑視頻內(nèi)容，從技術(shù)上提高真?zhèn)舞b別能力。

短視頻平臺(tái)上出現(xiàn)了多個(gè)“全紅嬋帶貨”的視頻，畫面中除了少量賽后采訪片段外，其余均為養(yǎng)雞場場景，但聲音聽起來很像全紅嬋。這些視頻附帶的土雞蛋鏈接已售出超2.1萬單，大量消費(fèi)者表示是出于對(duì)奧運(yùn)冠軍的信任下單。全紅嬋的哥哥全進(jìn)華在直播中回應(yīng)稱妹妹在訓(xùn)練基地，并未賣雞蛋，那些聲音都是AI合成的。此前家人聲音已被AI克隆用于賣蜂蜜，目前還在處理相關(guān)法律問題。

孫穎莎和王楚欽的聲音近日也遭遇類似盜取仿冒，其采訪畫面被篡改，配音虛構(gòu)代言土雞蛋的情節(jié)。此外，AI“盜聲”也在批量制造明星帶貨廣告，如“劉濤”“舒淇”“張柏芝”等爭相喊出夸張臺(tái)詞，經(jīng)對(duì)比發(fā)現(xiàn)部分片段實(shí)為截取自其他采訪。

名人聲音被AI頻頻克隆的原因在于名人音源豐富且商業(yè)價(jià)值高，加上大模型技術(shù)的發(fā)展，AI語音合成的門檻降低。據(jù)統(tǒng)計(jì)，僅6月以來，行業(yè)就有多款一站式AI語音合成軟件發(fā)布。AI克隆聲音的原理是通過深度學(xué)習(xí)算法，從采集的聲音樣本中提取頻率、音色、聲調(diào)等關(guān)鍵特征，再將這些特征記錄進(jìn)行合成。如果配上其他視頻畫面，就可以完成整套移花接木。

電商平臺(tái)上有大量AI聲音克隆工具教程以0.5元至400元不等的價(jià)格售賣，聲稱只需上傳聲音素材、輸入模擬文本、選擇聲音模型再點(diǎn)擊轉(zhuǎn)化即可。還有人直接提供明星聲音代克隆服務(wù)，收費(fèi)根據(jù)內(nèi)容長度而定。

12 全文共 2 頁下一頁

關(guān)閉

AI生成合成內(nèi)容9月起須明確標(biāo)識(shí) 打擊“盜聲”亂象

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)