新華網(wǎng)評AI換臉詐騙換臉騙術(shù)升級，警惕親人被騙

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-15 11:03:24 封面新聞

一張靜態(tài)照片借助人工智能技術(shù)，可以轉(zhuǎn)化為看似真實(shí)的親友對話場景。近期，一位名叫“濾鏡粉碎機(jī)”的博主，僅用15秒的AI換臉視頻，在三小時(shí)內(nèi)便“說服”了一位團(tuán)隊(duì)成員的母親轉(zhuǎn)賬兩萬元，此事迅速在網(wǎng)絡(luò)上引發(fā)了廣泛關(guān)注和討論。隨著AI技術(shù)的進(jìn)步，人們越來越擔(dān)憂不法分子利用這一技術(shù)，通過融合他人面孔和聲音來制造高仿真度的虛假內(nèi)容進(jìn)行詐騙。這類擔(dān)憂并非空穴來風(fēng)，中央廣播電視總臺在2024年的3·15晚會上就揭露了利用“AI換臉”實(shí)施詐騙的行為。根據(jù)過往調(diào)查，約60%的受訪者承認(rèn)難以僅憑肉眼分辨出AI換臉視頻的真?zhèn)巍?/p>

在“濾鏡粉碎機(jī)”的試驗(yàn)中，通過一個(gè)虛構(gòu)的緊急情況——“兒子的女友懷孕需要醫(yī)療費(fèi)”，成功讓團(tuán)隊(duì)成員的母親在兒子電話無法接通的情況下，幾經(jīng)猶豫最終轉(zhuǎn)賬。這個(gè)案例突顯出，即便是理智的成年人，在情感驅(qū)使下也可能落入AI詐騙的陷阱。博主透露，團(tuán)隊(duì)選擇相對溫和的借口進(jìn)行測試，卻發(fā)現(xiàn)即便是這樣，父母在看到孩子“真實(shí)”的影像后，也會因擔(dān)憂而失去部分判斷力。

對于如何識破AI換臉的詭計(jì)，博主建議通過連續(xù)提問私密問題的方式，因?yàn)榧幢鉇I技術(shù)再先進(jìn)，也難以完全復(fù)制個(gè)人間獨(dú)有的生活細(xì)節(jié)。此外，技術(shù)專家指出，觀察面部輪廓和光線的異常也是辨別AI換臉的一個(gè)方法，尤其是在要求對方做出快速頭部動(dòng)作時(shí)。

法律界人士強(qiáng)調(diào)，利用AI技術(shù)進(jìn)行詐騙或未經(jīng)授權(quán)的肖像替換均觸犯法律，不僅構(gòu)成詐騙罪，也可能侵犯個(gè)人的肖像權(quán)和隱私權(quán)。因此，合理規(guī)范AI技術(shù)的使用，提升防御技術(shù)，以及增強(qiáng)公眾的防騙意識顯得尤為重要。博主“濾鏡粉碎機(jī)”呼吁行業(yè)內(nèi)外共同關(guān)注AI防御技術(shù)的發(fā)展，同時(shí)提醒公眾應(yīng)提高個(gè)人信息保護(hù)意識，對于易受騙群體則需加強(qiáng)宣傳教育，共同努力遏制AI技術(shù)的不當(dāng)使用。

(責(zé)任編輯：張蕾)

關(guān)閉

新華網(wǎng)評AI換臉詐騙 換臉騙術(shù)升級，警惕親人被騙

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

新華網(wǎng)評AI換臉詐騙換臉騙術(shù)升級，警惕親人被騙