演員溫崢嶸在瀏覽短視頻時(shí)，意外發(fā)現(xiàn)“自己”正在直播。她在評(píng)論區(qū)提出質(zhì)疑后，被拉黑并踢出直播間，而對(duì)方仍在用“她的臉”直播帶貨。

溫崢嶸近期遭遇的“冒牌直播”事件，是AI換臉技術(shù)濫用的典型例子。11月14日，中央網(wǎng)信辦官方賬號(hào)發(fā)文表示，有網(wǎng)絡(luò)賬號(hào)利用AI技術(shù)仿冒公眾人物形象，在直播、短視頻等環(huán)節(jié)發(fā)布營(yíng)銷信息，誤導(dǎo)網(wǎng)民，涉嫌虛假宣傳和網(wǎng)絡(luò)侵權(quán)，嚴(yán)重破壞網(wǎng)絡(luò)生態(tài)，造成不良影響。網(wǎng)信部門嚴(yán)厲處置一批違法違規(guī)網(wǎng)絡(luò)賬號(hào)，并督促網(wǎng)站平臺(tái)發(fā)布治理公告，開展集中清理整治。目前已累計(jì)清理相關(guān)違規(guī)信息8700余條，處置仿冒公眾人物賬號(hào)1.1萬(wàn)余個(gè)。

記者調(diào)查發(fā)現(xiàn)，AI換臉與聲音克隆的教程及服務(wù)在網(wǎng)絡(luò)平臺(tái)流通。雖然平臺(tái)會(huì)彈出官方提示，提醒用戶使用需合法合規(guī)、注意辨別，但相關(guān)內(nèi)容仍在網(wǎng)絡(luò)空間大量存在。例如，有相當(dāng)數(shù)量以“AI科普”為標(biāo)簽的賬號(hào)在各平臺(tái)公開分享?yè)Q臉教程。這些視頻通常詳細(xì)列出可訪問的網(wǎng)站地址，逐步演示操作流程，并附有技術(shù)細(xì)節(jié)說明，如建議用戶盡量保證替換素材與原素材的人物尺寸一致、畫面干凈無遮擋，以保證生成效果。

根據(jù)教程指引，記者登錄相關(guān)網(wǎng)站驗(yàn)證發(fā)現(xiàn)，部分平臺(tái)確實(shí)免費(fèi)提供AI換臉或聲音制作服務(wù)，支付幾十元購(gòu)買會(huì)員后，還能解鎖去水印、高清放大等進(jìn)階功能。除公開教程外，更為隱蔽的交易正通過網(wǎng)盤渠道進(jìn)行。有一些打包出售的“完整教程”價(jià)格低至8元，且賣家聲稱沒有市面主流軟件那么多限制。這類教程通常包括云端工作流地址資料和詳細(xì)的操作說明，以及圖片去AI化、舞蹈動(dòng)作模仿、人臉精修等擴(kuò)展功能與相關(guān)的提示詞教學(xué)。

聲音克隆類的教程售價(jià)低至9.9元，并在宣傳中強(qiáng)調(diào)支持任何形象和聲音。記者詢問商家了解到，只要購(gòu)買此安裝包，無需注冊(cè)會(huì)員即可免費(fèi)破解使用對(duì)口型、克隆音色等功能。據(jù)商家描述，只需提供一段音頻文件，系統(tǒng)便可以在無身份認(rèn)證的情況下進(jìn)行克隆，單次支持30秒音頻，且不限次數(shù)。

記者購(gòu)買了一份標(biāo)價(jià)8元的換臉教程。該教程包含一段5分鐘的視頻教程和兩份文字材料，明確提供了平臺(tái)訪問鏈接、新用戶福利信息和操作步驟，并特別注明對(duì)敏感詞限制極少、生成內(nèi)容無水印。記者發(fā)現(xiàn)，該平臺(tái)提供多種功能模板，涵蓋替換視頻人物、給人物指定部位更換衣物、對(duì)圖片中人物身體部位進(jìn)行放大或動(dòng)態(tài)處理等不同功能。每個(gè)模板均配備相應(yīng)的提示詞教學(xué)和詳細(xì)操作步驟，用戶只需上傳參考圖片、視頻或待處理素材，等待一段時(shí)間即可生成內(nèi)容。記者實(shí)測(cè)使用一段時(shí)長(zhǎng)5秒的視頻進(jìn)行換裝操作，約3分鐘后成功生成視頻。畫面中，人物動(dòng)作與神態(tài)還原度很高，被遮擋部位的服裝貼合效果也較為自然、精準(zhǔn)。

記者注意到，該平臺(tái)內(nèi)容生成功能采用運(yùn)行時(shí)長(zhǎng)計(jì)費(fèi)模式，每秒收費(fèi)0.2虛擬幣。教程中附有專屬邀請(qǐng)碼，使用者可憑此免費(fèi)領(lǐng)取1000虛擬幣。平臺(tái)還設(shè)置了虛擬幣獎(jiǎng)勵(lì)機(jī)制：每天登錄贈(zèng)送100虛擬幣，邀請(qǐng)新用戶可獲500虛擬幣。

此外，在電商平臺(tái)上，有商家為AI換臉服務(wù)披上偽裝售賣。記者在某購(gòu)物平臺(tái)直接搜索“AI換臉”，顯示無任何結(jié)果。但部分商家會(huì)在商品詳情頁(yè)用表情符號(hào)隱喻其能提供換臉“服務(wù)”；也有商家以“啥都能做”“不限視頻內(nèi)容，懂的都懂”為宣傳語(yǔ)，暗示私聊客服了解商品詳情。記者了解到，10秒換臉視頻報(bào)價(jià)從15元至300元不等。例如，有商家提出，20秒內(nèi)視頻（包括僅生成音頻的）統(tǒng)一收費(fèi)80元；部分商家還推出298元200分鐘生成時(shí)長(zhǎng)、490元年卡等套餐，承諾一對(duì)一教學(xué)指導(dǎo)，宣傳語(yǔ)中不乏讓朋友客戶難辨真?zhèn)蔚日T導(dǎo)性表述。多數(shù)商家僅核查素材內(nèi)容，對(duì)用途與來源未作甄別。

近年來，利用知名人士形象進(jìn)行AI換臉換聲的視頻層出不窮，一些有心人士將其用于直播帶貨甚至詐騙。京都律師事務(wù)所律師常莎表示，通過AI技術(shù)生成明星抑或普通民眾的人臉形象，前提是要采集、提取其面部特征生物識(shí)別信息。這些信息屬于法定的敏感個(gè)人信息，未經(jīng)授權(quán)使用，構(gòu)成對(duì)公民個(gè)人信息權(quán)益的侵害，還可能侵犯他人肖像權(quán)、名譽(yù)權(quán)等。若平臺(tái)明知侵權(quán)方利用AI換臉實(shí)施詐騙、銷售假冒商品等犯罪，仍為其提供幫助，則可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪。AI換臉直播事件中，侵權(quán)方的直播帶貨屬商業(yè)廣告行為，其通過AI偽造明星肖像與聲音，營(yíng)造名人本人推薦的虛假表象，使消費(fèi)者因信任明星作出購(gòu)買決策，違反誠(chéng)信原則，符合虛假?gòu)V告認(rèn)定標(biāo)準(zhǔn)。同時(shí)，AI換臉行為還可能涉嫌不正當(dāng)競(jìng)爭(zhēng)。此外，偽造特定名人形象、虛構(gòu)事實(shí)以獲取非法收入，主觀上具有非法占有目的，客觀上實(shí)施了欺騙行為，符合詐騙罪的基本構(gòu)成要件，該行為涉嫌構(gòu)成詐騙罪。

對(duì)于AI換臉換聲技術(shù)背后潛藏的法律風(fēng)險(xiǎn)，該如何有效治理？中央財(cái)經(jīng)大學(xué)法學(xué)院教授王葉剛認(rèn)為，應(yīng)進(jìn)一步明確刪除、篡改、偽造、隱匿標(biāo)識(shí)行為的法律責(zé)任?，F(xiàn)有相關(guān)規(guī)定只是規(guī)定行為人不得實(shí)施惡意刪除、篡改、隱匿標(biāo)識(shí)的行為，但行為人實(shí)施相關(guān)行為需要承擔(dān)何種法律責(zé)任，相關(guān)規(guī)定亟待進(jìn)一步明確。對(duì)于通過技術(shù)手段能夠發(fā)現(xiàn)的AI換臉直播帶貨行為，平臺(tái)應(yīng)當(dāng)盡到必要的審核義務(wù)，在發(fā)現(xiàn)相關(guān)行為后，可以考慮采取禁止或者限制直播、下架產(chǎn)品或者服務(wù)等措施。實(shí)現(xiàn)多部門聯(lián)合執(zhí)法，網(wǎng)信部門、市場(chǎng)監(jiān)管部門等在行使本部門職權(quán)的基礎(chǔ)上，與其他部門進(jìn)行溝通、配合，實(shí)現(xiàn)對(duì)違法AI換臉換聲等行為的全過程監(jiān)管和治理。

京都律師事務(wù)所律師常莎建議，在技術(shù)方面，防范與創(chuàng)新并重，支持研發(fā)反深度合成技術(shù)，提升鑒別能力，為監(jiān)管部門和個(gè)人提供可靠的技術(shù)工具。個(gè)人應(yīng)提高對(duì)肖像權(quán)和隱私權(quán)的保護(hù)意識(shí)，謹(jǐn)慎發(fā)布包含個(gè)人清晰肖像、獨(dú)特聲線的影像資料，避免給不法分子可乘之機(jī)。同時(shí)，如果侵權(quán)行為發(fā)生，則應(yīng)積極通過法律途徑維護(hù)自身合法權(quán)益，及時(shí)收集并保留相關(guān)證據(jù)侵權(quán)內(nèi)容截圖、傳播記錄等，以便在后續(xù)維權(quán)過程中提供有力支持。