他們給AI投幣1美元，百萬女性被拖入地獄

那張照片，會跟著我一輩子嗎？”

一年多前，伍華在韓國旅游，途中在社交媒體上發(fā)布了一張帶有韓國定位的照片?；貒坏饺?，朋友發(fā)給她一張截圖，是一個和她的頭像、網(wǎng)名幾乎一樣的賬號。不同的地方是，賬號里的文字被替換成韓語，個人簡介里，還出現(xiàn)了一個陌生網(wǎng)址。

令伍華震驚的是，點開高仿賬戶里的網(wǎng)址，會導(dǎo)向一個色情頻道，污穢不堪的付費(fèi)視頻陳列其中——主角，全都被AI換成了她的臉。

直到今年8月末，關(guān)注到韓國Deepfake事件時，“我被一陣巨大的后怕席卷?！蔽槿A告訴《智能涌現(xiàn)》，“太惡心、太難受了?！?/p>

回想起點開這些AI視頻的的第一感受，伍華依舊語帶哽咽。盡管高仿賬號已經(jīng)被她舉報刪除，但她不確定自己的臉，還有沒有被用在其他地方。

Deepfake（專指基于AI的人體圖像合成技術(shù)）技術(shù)催生出的“N號房2.0事件”，正在讓隔海相鄰的韓國陷入巨大漩渦。不計其數(shù)的女性，成為了男性用AI捕獲的“獵物”。

仁荷大學(xué)的一位男學(xué)生，組建起了一個超過1200成員的聊天室。他們利用Deepfake技術(shù)，將學(xué)校中的女生的臉龐，安放到到各種黃色影像上，群聊中還公開分享她們的聯(lián)系方式。他們給AI投幣1美元，百萬女性被拖入地獄！

從仁荷大學(xué)開始，一場巨大的合謀被迅速揭開，Deepfake也因此被稱為“N號房2.0事件”。從8月20日開始，韓國媒體、警方陸續(xù)揪出了大量與學(xué)校、醫(yī)院、軍隊體系中的類似聊天室。

22萬，這是韓國披露的人數(shù)最多的Deepfake聊天室成員人數(shù)。而韓國范圍內(nèi)，幾乎每一個中學(xué)、大學(xué)都有這樣的“凌辱房”。

在群聊中，男性以自己生活中熟識的女性為羞辱對象，用各種Deepfake工具，將女性的臉換到各種淫穢不堪的圖像、視頻中。而后，群內(nèi)的男性會開始共同進(jìn)行言語羞辱，甚至發(fā)展到線下威脅、騷擾。

規(guī)模較大的羞辱房，甚至還會細(xì)分成不同的小房間，比如家屬羞辱房。男性甚至偷拍自己的媽媽、姐姐、妹妹的照片傳到群聊中。

△聊天室中，有男性將親妹妹的照片上傳其中（照片已被紅色馬賽克遮擋），配文為翻譯成中文的聊天記錄。

2019年，震驚全球的N號房事件發(fā)生時，就有網(wǎng)友語帶諷刺：“全韓國的出租車總數(shù)只有26萬臺，這意味著，你在街上碰見N號房會員的概率，和碰見出租車一樣?！?/p>

這句話，不僅能用在今日的Deepfake聊天室上，真實的情況更加觸目驚心。

N號房1.0基本以真實的盜攝內(nèi)容為主，這意味著犯罪者還需要自行拍攝，獲取素材。但Deepfake技術(shù)越來越成熟后，Deepfake房的犯罪成本降至極低——AI生成的圖像、視頻，內(nèi)容逼真到讓人恍惚。

今年5月，一位40歲的首爾大學(xué)畢業(yè)生樸某被逮捕，他用48名女性受害者的照片，制作了1852份性剝削內(nèi)容，受害者都是他在生活中認(rèn)識的女性。

一位在首爾的老師，發(fā)現(xiàn)自己也成為了“熟人凌辱房”的主角，始作俑者是她執(zhí)教班級的學(xué)生，但她無法得知是哪一位。

“那張照片會跟著我一輩子嗎？”她崩潰地向媒體訴說。

Deepfake事件爆出后，志愿者根據(jù)媒體報道、匿名投稿核實，制作了一張涉及Deepfake加害者地圖。紅色標(biāo)記密密麻麻，幾乎要將韓國中心地帶淹沒。

△志愿者整理的“加害者學(xué)校地圖”，紅點幾乎要將韓國中心地帶的地圖淹沒來源：https://deepfakemap.kr

根據(jù)網(wǎng)絡(luò)安全監(jiān)測機(jī)構(gòu)SecurityHero的統(tǒng)計，2023年韓國的Deepfake色性產(chǎn)業(yè)，就占到了全球的53%——與之相對的，韓國2023年的GDP，還不到全球的2%。

△2023年全球Deepfake色情產(chǎn)業(yè)分布制圖：智能涌現(xiàn)

被絕望和憤怒沖擊的韓國女性，不得不在壓抑的輿論中四處奔走。

“我的生活不是你的色情片！”“女性沒有國家！”她們憤怒地在社交媒體高呼。

沉默中的圍剿戰(zhàn)

沒人知道確切的女性受害者數(shù)字是多少。大學(xué)生智英每日灌下大杯大杯的咖啡，只為了保持清醒狀態(tài)?！拔液ε洛e過受害者的任何一條投稿?！?/p>

智英不敢停下。自8月下旬開始，她幾乎失去了睡眠。

一場圍剿戰(zhàn)正在進(jìn)行中。

在推特上，智英與韓國男性不停周旋。她的推特賬號早已實時被男性們監(jiān)控，剛上傳的、呼吁大家舉報的厭女內(nèi)容網(wǎng)址，下一分鐘網(wǎng)址就被修改了。這意味著，厭女者們一直在盯著智英的推文。

在和我們的交流中，她還嘗試使用變聲器——所有在推特上為這次事件活躍的女性博主，都是韓男“開盒”（人肉搜索）的頭號目標(biāo)，她無法透露自己的任何信息。

在女性地位低下的韓國社會，女權(quán)主義者早已是個危險的標(biāo)簽。韓國最大的女權(quán)主義推特Queens Archive就因為最先披露Deepfake聊天室事件，被韓國男性舉報至炸號。

“有時候我們根本不洗澡、不睡覺，一直熬到凌晨三四點?！敝怯Α吨悄苡楷F(xiàn)》表示。她和推特上的“戰(zhàn)友”，急切地將所有Deepfake相關(guān)信息、受害者保護(hù)指南、女性主義科普翻譯成英語，在推特上不間斷傳播。

Deepfake事件涉及的加害者、受害者雙方，其年齡范圍比起N號房1.0都要更小。2024年1月至7月，韓國立案偵查了297起深度偽造性剝削犯罪，共計抓獲178名嫌疑人，其中131人是十幾歲的青少年，占比73.6%。

不少人將其比作“N號房2.0事件”，但與之相比，現(xiàn)在的輿論熱度，根本不能同日而語。在不少女性眼中，韓國政府和警方的態(tài)度，可以用“消極”來形容。

用AI制作的性羞辱內(nèi)容，由于“并不是真實的”，一開始甚至沒有進(jìn)入到警方、政府的視野。

“當(dāng)年的N號房事件，政府就沒有進(jìn)行正當(dāng)?shù)奶幚?。所以，現(xiàn)在Deepfake事件中的男性，很多都是未成年，受害者中也有很多是未成年人，加害者更不會覺得有什么后果，也不會坐牢。”智英對《智能涌現(xiàn)》說。

在本次Deepfake事件中，目前韓國警方只逮捕了15個人左右，有的加害者直接跑到海外，以移民的方式逃避刑罰。

“Deepfake事件，加上此前的N號房、Soranet等數(shù)字性犯罪案例，受害者預(yù)計有超過100萬人之多，沒有人知道確切的數(shù)字?！爸怯⒏械竭z憾，“所以如果我們不盡快向政府施壓，政府就不會做任何事情?！?/p>

韓國女性開始向外求救，接力將Deepfake事件的內(nèi)容傳播到中國、日本的社交媒體上。

△來源：微博

韓國大學(xué)生恩靜就跑到小紅書上，用機(jī)翻的生疏口吻請求關(guān)注、擴(kuò)散，不斷被封號、刪帖也不曾放棄。而在微博上的韓女呼救微博，在短短兩天內(nèi)就被轉(zhuǎn)近15萬次。

△來源：小紅書

無人知道這些努力最終能夠?qū)蚝畏?。恩靜告訴《智能涌現(xiàn)》，她的親妹妹現(xiàn)在也是一位中學(xué)生，學(xué)校除了簡單囑咐女生保護(hù)自己，再無其他措施——她和妹妹只能將社交平臺上所有帶臉的照片刪除，每日穿長褲出門。

而海外輿論爆發(fā)后，韓國政府才終于認(rèn)真跟進(jìn)這一事件。近期韓國不同政黨最近的公開發(fā)言，都離不開Deepfake事件?！笆录仨毝唐趦?nèi)解決?！彼麄儽硎?。

“Deepfake羞辱房”，無處不在

當(dāng)一名毫無AI技術(shù)基礎(chǔ)、留在“墻內(nèi)”的中國男性，成為Deepfake加害者，前期需要付出怎樣的作案成本？

在SecurityHero的報告中，中國的Deepfake色情視頻數(shù)量，占全球的3%。與韓國（53%）和美國（20%）相比，這是一個并不高的數(shù)字。然而，由于報告統(tǒng)計的數(shù)據(jù)大多來源于海外網(wǎng)站，中國Deepfake色情產(chǎn)業(yè)的實際規(guī)模，遠(yuǎn)不止這些。

在海外社交平臺X（原為Twitter）上檢索“Deepfake”，很快出現(xiàn)一名中國Deepfake工具賣家。他的帖文露骨地寫著“AI脫衣”“捆綁”“比基尼”等字眼，但主頁卻聲明：“僅提供AI工具，對用途概不負(fù)責(zé)?！?/p>

X、Instagram、Facebook等海外社交平臺，僅僅是打開潘多拉魔盒的一把鑰匙。不少中國從業(yè)者，用“vx”“扣”“zfb”等字眼，隱晦地指代交易的最終場所：微信、QQ、閑魚，甚至還有支付寶的交易界面。

通過留在X上的QQ號，我們聯(lián)系上了一名賣家。為了逃避平臺的監(jiān)管，他的個性簽名是“嚴(yán)禁違禁詞，僅供娛樂使用，傳播后果自負(fù)”。從頭至尾，他表現(xiàn)得和一般軟件銷售無異，整段對話沒有提及任何“性”相關(guān)的詞匯。

但“性”，又成了這場交易心照不宣的目的。很快，對方用QQ“閃照（點開3秒后照片就會消失）”功能，發(fā)來兩張打滿馬賽克的Deepdake效果圖。

△作者與Deepfake工具賣家的QQ聊天記錄，已舉報給騰訊官方平臺

點開大圖，馬賽克隨即消失——一張凹著不自然Deepfake照，出現(xiàn)在了屏幕上。

3秒后，女性的照片，連同用以維權(quán)舉證的證據(jù)，一同消失在了聊天記錄中。

即便在國內(nèi)，讓女性經(jīng)歷一場賽博羞辱，并從法律制裁中逃逸，也如此簡單。

作為脫去女性外衣的新型兇器，AI的出現(xiàn)，讓網(wǎng)絡(luò)性侵害的成本更低、速度卻更快。在從業(yè)者發(fā)來的產(chǎn)品目錄中，一段用AI生成的10秒內(nèi)換臉視頻30元，一張AI裸照只要10元，價目表上還特別注明：買5送1。

但一開始，Deepfake的背后、一項名為“生成對抗網(wǎng)絡(luò)（GAN）”的技術(shù)，還幾近人畜無害。

2014年誕生在谷歌大腦實驗室的GAN，有著難以普及的一切要素：軟件安裝難度大、操作的技術(shù)門檻高，同時還需要昂貴的訓(xùn)練數(shù)據(jù)集和算力資源。這讓Deepfake一度待在實驗室里，沒有被大眾廣泛使用。

事情走向失控，大致在2019年。

2019年，一款號稱“30秒就能一鍵脫衣”的應(yīng)用DeepNude誕生了——諷刺的是，這款軟件用了一萬張女性裸體照片訓(xùn)練而成，當(dāng)用戶輸入一張男性照片，他無法脫下男性的衣物，只會為其添加一個女性的陰部。

DeepNude的背后，是幾年間性能飛速提高的GAN技術(shù)，以及讓使用難度大幅下降的開源生態(tài)。這讓一名匿名的男性程序員Alberto（化名），基于加州大學(xué)伯克利分校的開源GAN架構(gòu)，快速開發(fā)出了DeepNude。

一邊，是迅猛發(fā)展的AI技術(shù)，和逐漸繁榮的開源生態(tài)；另一邊，又是野蠻生長的Deepfake，和沒有做好準(zhǔn)備的社會意識和監(jiān)管體系。

DeepNude讓非自愿裸照的制作，變得像點擊按鈕一樣簡單。迫于輿論壓力，DeepNude發(fā)布兩周后，就選擇了自主下架。Alberto（化名）在采訪中解釋，這款軟件的開發(fā)完全出于“有意思”和“好奇心”：“我不是偷窺狂。我是技術(shù)的愛好者?！?/p>

DeepNude下架了，但千萬個“DeepNude”，以更隱秘的姿態(tài)、更低的操作門檻、更逼真的生成質(zhì)量，開始在互聯(lián)網(wǎng)泛濫。

Deepfake與色情產(chǎn)業(yè)的相關(guān)數(shù)據(jù)制圖：智能涌現(xiàn)

在論壇Discord上，DeepNude的安裝包以20美元的價格出售。匿名賣家在主頁中表示，他們提高了DeepNude的穩(wěn)定性，與此同時，還刪除了正版DeepNude給生成圖片添加的水印——這一切，都讓Deepfake裸照，看上去更加逼真。

下架不到三周，DeepNude又被開發(fā)出了更易上手的模式，成了嵌了Telegram上的一鍵脫衣Bot。

此后，事件的走向，和如今的韓國“N號房2.0”十分類似。Bot的使用者，自發(fā)在Telegram上建立了社群，超過10萬名成員，成了“N號房”的初代居民。

最早監(jiān)測到這款Bot的網(wǎng)絡(luò)安全公司Sensity發(fā)現(xiàn)，上線不到一年，這款Bot已經(jīng)產(chǎn)生了68萬多名女性的虛假裸照，約104852張女性照片被公開發(fā)布在這款應(yīng)用上。

向下的維權(quán)螺旋

從2019年至今，圍剿DeepNude的行動一直在進(jìn)行。

2019年7月，美國弗吉尼亞州通過了一條有關(guān)色情禁令的法律修正案，禁止出售或傳播計算機(jī)生成的色情內(nèi)容。同年年末，推特、谷歌、Facebook等平臺著手整治Deepfake視頻，措施包括給Deepfake視頻打水印、贊助檢測Deepfake的相關(guān)研究項目。

然而，無論是韓國“N號房2.0”，還是隱匿在QQ、支付寶、閑魚中的地下灰產(chǎn)，都印證了一個令人沮喪的現(xiàn)實：Deepfake從未真正消失。

2019年，多倫多大學(xué)公民實驗室曾發(fā)表了一項研究，試圖探索微信如何自動審查巨量聊天中的圖片。結(jié)果顯示，微信對朋友圈和群聊的審查力度，大于一對一的私密聊天，同時，政治和社會新聞，是微信圖片審查的核心主題。

這意味著，平臺對色情內(nèi)容的監(jiān)管，依然存在漏洞。私密聊天中進(jìn)行的Deepfake色情交易，很難通過平臺進(jìn)行披露，除非由人主動檢舉。

但人一定能主動站出來嗎？

北京市兩高律師事務(wù)所副主任張荊，20年來經(jīng)手了不少侵害女性權(quán)益的案件。多年來，她幫助女性和具體到個人的加害者、不公平的結(jié)構(gòu)，甚至法律系統(tǒng)的漏洞抗?fàn)帯５獶eepfake性侵害的發(fā)生，讓她覺得女性的斗爭，又走到了一個更為復(fù)雜的關(guān)卡。

“在技術(shù)不那么發(fā)達(dá)的過去，女性遭受性犯罪，起碼能知道具體的受害者是誰，女性受到的傷害可以通過司法鑒定被量化?！睆埱G告訴《智能涌現(xiàn)》。但如今，無論是Deepfake內(nèi)容的制作者，還是傳播者，都面目模糊、數(shù)量難以確定，這對取證和量刑，都造成了極大的困難。

“報警不就好了？”在網(wǎng)絡(luò)上，不少旁觀者都提出了疑問，甚至有不少受害女性也曾認(rèn)為，報警就好了。

但在報警之前，女性還要走過漫長的取證之路。張荊告訴《智能涌現(xiàn)》，“想要立案為刑事案件，去司法機(jī)關(guān)報案的前提是有基本的證據(jù)?！?/p>

而這些基本證據(jù)又包括：Deepfake傳播的具體網(wǎng)站、侵權(quán)圖片的數(shù)量（數(shù)量過少不足以被立案）、傳播范圍（傳播范圍過小不足以被立案）。

“說實話，對于不經(jīng)常上網(wǎng)的人來說，完成這一步并不容易，她們可能甚至連網(wǎng)站該怎么進(jìn)入都不知道?！睆埱G總結(jié)。

即便女性順利走到了報警、立案的一步，加害者的處置結(jié)果往往不盡如人意。

在中國裁判文書網(wǎng)中輸入“AI換臉”，一共只有16篇文書，最早的一起案件發(fā)生在2022年。兩年來，能夠訴諸刑事案件的Deepfake侵害事件，數(shù)量為0。

在層層阻礙下，女性針對Deepfake的維權(quán)，成了一條不斷向下的螺旋：社會的壓力，和嚴(yán)苛的立案流程，導(dǎo)致鮮少有愿意站出來的女性受害者；女性聲量的不足，以及立案數(shù)量的稀少，又讓立法的推進(jìn)變得愈發(fā)艱難。

2023年12月，在中國臺灣省，曾有一起判例，給了Deepfake受害女性些許希望。網(wǎng)名為“小玉”的男網(wǎng)紅朱玉宸，使用Deepfake技術(shù)，將100多位知名女性合成A片，上網(wǎng)販賣獲利超過1300萬臺幣（約288萬元）。最終，他以違反《個人資料保護(hù)法》等罪名被起訴，并被判處5年有期徒刑。

只是，五年就夠了嗎？

“過去的黃色錄像帶、3D影片，是一個具體的小眾產(chǎn)業(yè)，傳播很難對一個鮮活的人產(chǎn)生傷害?！睆埱G說，“但今天的Deepfake，和過去色情產(chǎn)業(yè)的本質(zhì)區(qū)別在于，它的傳播，會對生活中具體的人產(chǎn)生傷害。”

這意味著，“依照傳播淫穢色情內(nèi)容對Deepfake進(jìn)行量刑，程度一定是會偏輕的。”她總結(jié)。

加害者面前的，是看得到頭的5年刑罰，但創(chuàng)傷可能會伴隨女性走過更為漫長的歲月。

15歲那年，經(jīng)歷來自后桌男生的Deepfake騷擾后，小魚開始不希望夏天到來。白色的短袖校服一旦被汗水浸濕，就會透出女生的內(nèi)衣和身體的曲線。接近40攝氏度的高溫下，小魚依然選擇穿兩件短袖，阻擋男生的視線。

小魚告訴《智能涌現(xiàn)》，她覺得告訴老師和家長，都是無用功。她記得，班上有男生曾經(jīng)開女生的黃色玩笑，或是拽拉內(nèi)衣的帶子，但最后老師的回應(yīng)是：都是小孩子之間的玩笑。

如今，離被騷擾已經(jīng)過去了一年多的時間。升入高中后，小魚和后桌男生失去了聯(lián)系，生活又歸于平淡。只是，夏天穿兩件短袖的習(xí)慣，被小魚保持到了現(xiàn)在。

人類，還沒有做好應(yīng)對Deepfake的準(zhǔn)備

在很長一段時間內(nèi)，現(xiàn)實可能依舊慘淡。

看到韓國Deepfake事件后，鹿影科技聯(lián)創(chuàng)李倩憤怒透頂，當(dāng)即拉著創(chuàng)始人頭腦風(fēng)暴到深夜，口干舌燥之余，二人都很沮喪?！翱赡芤獛Ыo你一個壞消息：沒有什么辦法能夠從技術(shù)上，直接把Deepfake性暴力給殺掉?！崩钯粚Α吨悄苡楷F(xiàn)》說。

雖然無法直接根除，“以其人之道還其人之身”，是一條常規(guī)路徑。

瑞萊智慧聯(lián)合創(chuàng)始人蕭子豪向《智能涌現(xiàn)》介紹，公司內(nèi)部會定期組織“紅藍(lán)對抗”，把工程師會分為“紅軍”“藍(lán)軍”兩派，讓“紅軍”模擬真實的攻擊，而“藍(lán)軍”負(fù)責(zé)應(yīng)對處置?！凹t軍”一派的工程師們，為了了解黑產(chǎn)手段，甚至?xí)摲胶诋a(chǎn)群體中尋找線索，持續(xù)創(chuàng)新攻擊手段。

對于用AI對抗Deepfake的人們來說，每天的工作，就是對抗各種意想不到的新案例。2周調(diào)優(yōu)一個新版本、2個月迭代一版大模型，幾乎是標(biāo)配。

但這更多是在問題出現(xiàn)前后的預(yù)警提示。真正的侵害發(fā)生后，要想保護(hù)女性，更多需要依靠司法編織的網(wǎng)。

2022年11月，中國出臺了第一條明確針對Deepfake提出的規(guī)定：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。這一規(guī)定對Deepfake內(nèi)容制作者、技術(shù)服務(wù)提供商，以及制作、傳播發(fā)布行為，都做出了規(guī)制。

但從法規(guī)的制定到真正落實，還有一條漫長道路。近20年來，張荊觀察到，無論是辦理刑事案件的律師，還是接到報案的警察、最終負(fù)責(zé)審判的檢察機(jī)關(guān)，大多都是男性。

“這是一個結(jié)構(gòu)性的問題，甚至立法機(jī)關(guān)，也基本上是男性?！睆埱G曾經(jīng)參加過一個有關(guān)廢除嫖宿幼女罪（比強(qiáng)奸罪量刑更輕）的研討會。

在場的不少男性律師，給出了不少支持保留嫖宿幼女罪的理由，其中一個是：如果改用強(qiáng)奸罪定罪，犯罪行為人可能會鋌而走險，反而讓女性受害人陷入危險的境地。

現(xiàn)有的成功讓加害者被拘留、定罪的個例，大多是女性積極自救的結(jié)果。

2023年的蘇州大學(xué)黃謠和AI換臉事件中，受害者就潛入傳播AI偽造圖像的聊天房，進(jìn)行取證，并利用排除法，將不同標(biāo)記的照片在朋友圈中分組發(fā)布，進(jìn)行逐個排除，最終將加害者抓獲。

要進(jìn)一步推動Deepfake性侵害的立法，和社會意識的前進(jìn)，還需要一個真正的判例。

“有了判例，這段女性被迫害史才更有可能被寫進(jìn)義務(wù)教育的教科書，讓性別教育前進(jìn)一步。”一名在日本的女權(quán)活動者告訴《智能涌現(xiàn)》。

當(dāng)下的AI行業(yè)，其實還是一個相當(dāng)由男性主導(dǎo)的領(lǐng)域。某種程度上，從研發(fā)到產(chǎn)品落地過程中，都極易讓女性成為被AI“壓迫”的群體，成為產(chǎn)業(yè)中的一環(huán)。

李倩觀察到的一個數(shù)據(jù)是，從互聯(lián)網(wǎng)獲得的視頻模型訓(xùn)練數(shù)據(jù)，40%涉及成人內(nèi)容，而其中的8成，內(nèi)容都是女性身體。

“色情，是當(dāng)下AI C端產(chǎn)品最成功的商業(yè)模式?！?/strong>一名投資人對《智能涌現(xiàn)》如此評價。最終，Deepfake的泛濫被歸結(jié)到了一個商業(yè)現(xiàn)實：用AI販賣女性身體，會給利益者帶來豐厚的商業(yè)回報。

對抗商業(yè)慣性，十分困難。

在融資過程中，部分投資人，無論男女都會告訴李倩，YoYo（鹿影科技的AI視頻創(chuàng)作平臺）如果對黃色擦邊內(nèi)容稍微寬容些，商業(yè)化會更順利。

從第一天起女性友好，對人力、資金有限的AI初創(chuàng)公司而言，要不要走出這一步，是個尤為艱難的決定。李倩告訴“智能涌現(xiàn)”，從訓(xùn)練數(shù)據(jù)中剔除40%的黃色數(shù)據(jù)，意味著要花額外的成本補(bǔ)全；如果花人力和時間給用戶輸入的提示詞設(shè)置違禁詞，產(chǎn)品迭代的速度至少慢兩個月。

“做創(chuàng)業(yè)者，是不是就要無性別地，看待商業(yè)世界？”但經(jīng)歷Deepfake事件后，李倩已經(jīng)不這么認(rèn)為了，“一旦開閘，行業(yè)又多了一塊驅(qū)逐良幣的劣幣。”

如果女性能夠在行業(yè)中獲取更多技術(shù)主導(dǎo)權(quán)，未來會變得不一樣。

2024年9月4日，中科院的女工程師張欣怡，將自己團(tuán)隊研發(fā)的Deepfake對抗模型，向全球開源。一旦有人需要幫助，就可以免費(fèi)使用模型來檢測Deepfake內(nèi)容。

在自己的微博中，張欣怡寫到：“如果一個人的火把太小，我們就把火把傳給世界的每一個人?！?/p>

當(dāng)新技術(shù)席卷世界，司法、技術(shù)都尚未完全跟上時，普通人每一次的發(fā)聲、行動，才是社會進(jìn)程得以向前推進(jìn)的原因。

韓國就是一個活生生的例子——在極度男性主義的國家，女性權(quán)益的每進(jìn)一步，都由布滿血和汗的斗爭之路造就。

自2015年之后，韓國女性在#MeToo、消除網(wǎng)絡(luò)性暴力、終止懷孕非刑罪化等議題上開展了一系列女性主義運(yùn)動，通過展開議題討論、集會游行等等形式，這些活動從社會意識、立法制度層面，都爭取到了寶貴的成果。

曾經(jīng)揭露N號房丑聞的兩位女記者姜京允、樸孝實，經(jīng)受了曠日持久的網(wǎng)絡(luò)謾罵、侮辱和精神折磨，其中一位記者甚至多次流產(chǎn)。

但韓女從沒有停下腳步。N號房事件后，韓國就成立了專注于反對性剝削犯罪的女性團(tuán)體“RESET”，推動了包括網(wǎng)絡(luò)性犯罪相關(guān)法例的制定過程。而今年5月，將Deepfake其中一名嫌疑人送進(jìn)監(jiān)獄的，正是此前曾揭露N號房的兩位大學(xué)生記者之一。

不能停止，不能放棄，是我們接觸到的，奔走在Deepfake事件一線的韓國女性想法?！斑@不是僅僅為了我們這一代而奮斗，而是為了所有人的命運(yùn)，”智英說，“我想要一個我的朋友、家人和所有女性都感到安全的世界?！?/strong>

不同人種、國籍的女性，都開始了對韓國女性的聲援。當(dāng)?shù)貢r間9月3日，一群居住在倫敦的中國女權(quán)主義者，從特拉法加廣場走到韓國大使館，高唱起韓國女權(quán)運(yùn)動的標(biāo)志性歌曲《再次重逢的世界》，聲討韓國偷拍、AI偽造等等非法行為。

紅色的字，被印在各式各樣的橫幅標(biāo)語上：“我的生活，不是你的色情片。”

△當(dāng)?shù)貢r間9月3日，一群居住在倫敦的中國女性主義者進(jìn)行了反偷拍、反Deepfake游行。圖源：倫敦的中國女權(quán)主義者

（為保護(hù)受訪者，智英、恩靜、小魚均為化名。感謝星星、xwf、十月、lakyo、阿雞、倫敦姐妹在訪談中提供的協(xié)助。）

他們給AI投幣1美元，百萬女性被拖入地獄！