他們給AI投幣1美元，百萬女性被拖入地獄(6)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-09-14 10:49:03 網(wǎng)易

事情走向失控，大致在2019年。

2019年，一款號稱“30秒就能一鍵脫衣”的應(yīng)用DeepNude誕生了——諷刺的是，這款軟件用了一萬張女性裸體照片訓練而成，當用戶輸入一張男性照片，他無法脫下男性的衣物，只會為其添加一個女性的陰部。

DeepNude的背后，是幾年間性能飛速提高的GAN技術(shù)，以及讓使用難度大幅下降的開源生態(tài)。這讓一名匿名的男性程序員Alberto（化名），基于加州大學伯克利分校的開源GAN架構(gòu)，快速開發(fā)出了DeepNude。

一邊，是迅猛發(fā)展的AI技術(shù)，和逐漸繁榮的開源生態(tài)；另一邊，又是野蠻生長的Deepfake，和沒有做好準備的社會意識和監(jiān)管體系。

DeepNude讓非自愿裸照的制作，變得像點擊按鈕一樣簡單。迫于輿論壓力，DeepNude發(fā)布兩周后，就選擇了自主下架。Alberto（化名）在采訪中解釋，這款軟件的開發(fā)完全出于“有意思”和“好奇心”：“我不是偷窺狂。我是技術(shù)的愛好者?！?/p>

DeepNude下架了，但千萬個“DeepNude”，以更隱秘的姿態(tài)、更低的操作門檻、更逼真的生成質(zhì)量，開始在互聯(lián)網(wǎng)泛濫。

Deepfake與色情產(chǎn)業(yè)的相關(guān)數(shù)據(jù)制圖：智能涌現(xiàn)

在論壇Discord上，DeepNude的安裝包以20美元的價格出售。匿名賣家在主頁中表示，他們提高了DeepNude的穩(wěn)定性，與此同時，還刪除了正版DeepNude給生成圖片添加的水印——這一切，都讓Deepfake裸照，看上去更加逼真。

下架不到三周，DeepNude又被開發(fā)出了更易上手的模式，成了嵌了Telegram上的一鍵脫衣Bot。

此后，事件的走向，和如今的韓國“N號房2.0”十分類似。Bot的使用者，自發(fā)在Telegram上建立了社群，超過10萬名成員，成了“N號房”的初代居民。

最早監(jiān)測到這款Bot的網(wǎng)絡(luò)安全公司Sensity發(fā)現(xiàn)，上線不到一年，這款Bot已經(jīng)產(chǎn)生了68萬多名女性的虛假裸照，約104852張女性照片被公開發(fā)布在這款應(yīng)用上。

關(guān)閉

今日熱點