“你是溫崢嶸,那我是誰(shuí)?”最近演員溫崢嶸在直播間的靈魂質(zhì)問(wèn),把AI深度合成的亂象又推到了大眾眼前。央視特意發(fā)文提醒:現(xiàn)在的AI換臉換聲已經(jīng)逼真到讓人難辨真假,不少名人都成了被“盜臉”的受害者,普通消費(fèi)者更得提高警惕。
事情得從溫崢嶸偶然刷到的直播間說(shuō)起。屏幕里的“她”梳著標(biāo)志性發(fā)型,聲音也和自己幾乎一模一樣,正熱情地向觀眾推薦護(hù)膚品,嘴里還說(shuō)著一套套“親測(cè)有效”的話術(shù)。身為當(dāng)事人的溫崢嶸又氣又懵,立刻進(jìn)入直播間連麥質(zhì)問(wèn),結(jié)果還沒(méi)等對(duì)方回應(yīng),自己就被火速拉黑了?!拔腋緵](méi)接這個(gè)推廣,這些AI合成的我,不僅騙消費(fèi)者,還砸我招牌!”溫崢嶸在后續(xù)視頻里的憤怒,說(shuō)出了不少被侵權(quán)名人的心聲。
不光是溫崢嶸,娛樂(lè)圈和直播圈里“AI分身”早就不是新鮮事。有網(wǎng)友發(fā)現(xiàn),某帶貨平臺(tái)上能同時(shí)刷到好幾個(gè)“劉濤”“楊冪”,都在賣著不同品牌的日用品;甚至有已故藝人的AI形象被用來(lái)直播帶貨,家屬維權(quán)時(shí)還被平臺(tái)以“技術(shù)難以識(shí)別”搪塞。更讓人揪心的是,普通網(wǎng)友也難逃魔爪,有人發(fā)現(xiàn)自己的照片被AI合成到不雅視頻里,有人的聲音被截取后做成詐騙語(yǔ)音,真假難辨的AI內(nèi)容正在制造越來(lái)越多的麻煩。
“現(xiàn)在用AI換張臉、仿個(gè)聲,門檻低得嚇人?!睆氖翧I技術(shù)開(kāi)發(fā)的工程師小張透露,網(wǎng)上隨便就能找到開(kāi)源的換臉工具,花幾十塊錢就能買到教程,對(duì)著名人的公開(kāi)視頻學(xué)習(xí)幾小時(shí),就能做出以假亂真的合成內(nèi)容。而這些“AI分身”一旦進(jìn)入直播間,帶貨效果還真不少錯(cuò)——觀眾以為是明星本人推薦,信任感直線上升,商家靠著這種“蹭流量”的方式,單場(chǎng)直播銷售額能輕松破萬(wàn)。
央視近期曝光多起假冒深海魚(yú)油案件,揭露了保健品行業(yè)存在的系統(tǒng)性造假和虛假宣傳問(wèn)題
2025-06-16 09:00:32央視曝光假冒深海魚(yú)油