AI已成為過(guò)去一年的網(wǎng)絡(luò)熱點(diǎn)，伴隨其廣泛應(yīng)用，AI詐騙現(xiàn)象日益引起關(guān)注，尤其是運(yùn)用AI換臉技術(shù)實(shí)施的詐騙案件屢見(jiàn)報(bào)端。近期，香港警方通報(bào)一起案例：某跨國(guó)公司香港分公司財(cái)務(wù)人員在一場(chǎng)內(nèi)部視頻會(huì)議中被騙走近2億港元，除受害人本人外，其余“參會(huì)同事”均為AI換臉技術(shù)偽裝。類(lèi)似事件在2023年央視315晚會(huì)上亦有曝光。

Deepfake，即深度偽造技術(shù)，是AI換臉的核心手段。它基于深度學(xué)習(xí)算法，通過(guò)處理大量視頻和圖像數(shù)據(jù)，創(chuàng)造出高度逼真的面部動(dòng)畫(huà)和語(yǔ)音。該技術(shù)首次進(jìn)入公眾視野是在2017年，一名Reddit用戶(hù)將一部成人電影主角的臉替換為《神奇女俠》演員蓋爾·加朵，引發(fā)廣泛關(guān)注。此后，Deepfake在中國(guó)也頗受歡迎，網(wǎng)絡(luò)上充斥著AI換臉教程、素材庫(kù)及輔助工具，如2019年B站UP主“換臉哥”將朱茵飾演的黃蓉?fù)Q臉為楊冪，一度引發(fā)熱議。

隨著Deepfake技術(shù)的開(kāi)源以及生成式AI如ChatGPT和Sora的普及，AI換臉門(mén)檻顯著降低，制作難以辨識(shí)的換臉視頻愈發(fā)容易。然而，技術(shù)濫用導(dǎo)致的AI詐騙事件頻發(fā)，成功率高企，嚴(yán)重侵犯公眾財(cái)產(chǎn)與隱私權(quán)益，相關(guān)話(huà)題多次沖上熱搜榜。

面對(duì)“AI變臉”欺詐，識(shí)別真?zhèn)纬蔀闊嶙h焦點(diǎn)。有專(zhuān)家提出讓對(duì)方按壓鼻子或臉部以觀(guān)察變形情況，以此判斷是否為真人。盡管此法有一定參考價(jià)值，但并非萬(wàn)無(wú)一失。螞蟻集團(tuán)天璣實(shí)驗(yàn)室安全算法專(zhuān)家朱凱指出，部分先進(jìn)算法已能在局部遮擋下生成逼真畫(huà)面，單純按壓鼻子或臉部可能無(wú)法識(shí)破。他建議結(jié)合左右搖頭動(dòng)作，因許多AI換臉基于平面照片，動(dòng)態(tài)變化下易暴露破綻。此外，也有專(zhuān)家建議對(duì)方在視頻通話(huà)中揮手，或提問(wèn)只有對(duì)方知道的問(wèn)題，以增加識(shí)別準(zhǔn)確性。

面對(duì)深度偽造技術(shù)的挑戰(zhàn)，業(yè)內(nèi)正積極探索以AI對(duì)抗AI的解決方案。百度、阿里、騰訊、字節(jié)跳動(dòng)、螞蟻集團(tuán)、科大訊飛等企業(yè)紛紛研發(fā)高級(jí)AI算法與工具，提升對(duì)深度偽造內(nèi)容的識(shí)別能力。以螞蟻數(shù)科為例，其旗下ZOLOZ品牌推出Deeper產(chǎn)品，專(zhuān)用于攔截刷臉過(guò)程中的AI換臉風(fēng)險(xiǎn)，已在身份安全領(lǐng)域?qū)崿F(xiàn)Deepfake風(fēng)險(xiǎn)“0漏過(guò)”。ZOLOZ還設(shè)立百萬(wàn)獎(jiǎng)金池，鼓勵(lì)安全極客挖掘產(chǎn)品漏洞，共同提升安全防護(hù)水平。

對(duì)于普通用戶(hù)而言，除掌握一些識(shí)別AI換臉詐騙的技巧外，更重要的是加強(qiáng)個(gè)人信息保護(hù)，特別是圖像、聲音等生物信息。今年8月起，《生成式人工智能服務(wù)管理暫行辦法》正式實(shí)施，明確禁止侵犯他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。中國(guó)信通院人工智能研究中心安全與元宇宙部主任石霖建議：選擇信譽(yù)良好、監(jiān)管合規(guī)的大廠(chǎng)產(chǎn)品；減少在A(yíng)PP中上傳個(gè)人照片，尤其是社交平臺(tái)；必要時(shí)提供虛假聯(lián)系方式以降低信息泄露風(fēng)險(xiǎn)；在涉及資金交易時(shí)，務(wù)必通過(guò)多種渠道核實(shí)對(duì)方身份，未經(jīng)確認(rèn)切勿轉(zhuǎn)賬。