央視曝光A!"造黃"產(chǎn)業(yè)鏈 AI生成色情內(nèi)容亂象

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2026-04-13 10:37:58 環(huán)球網(wǎng)

生成式AI技術(shù)的廣泛應(yīng)用給人們的生活帶來(lái)了便利，但也出現(xiàn)了一些商家利用這一技術(shù)制作涉黃視頻，污染網(wǎng)絡(luò)空間、敗壞社會(huì)風(fēng)氣的現(xiàn)象。這些商家通過(guò)各種手段逃避監(jiān)管，形成了一個(gè)灰色產(chǎn)業(yè)鏈。

有人公開(kāi)兜售“AI生成色情擦邊視頻”的教程和“提示詞”，聲稱(chēng)僅憑一張圖片或幾句話(huà)就能生成大尺度視頻。這些教程在互聯(lián)網(wǎng)平臺(tái)上公然宣揚(yáng)如何讓用戶(hù)從無(wú)到有地制作色情擦邊視頻，并提供規(guī)避監(jiān)管的方法，如使用境外圖生視頻AI軟件或?qū)⒊绦虿渴鹪诒镜仉娔X離線(xiàn)運(yùn)行等。

社交平臺(tái)上的一些博主還售賣(mài)各類(lèi)AI生成擦邊視頻的“提示詞”。記者以低價(jià)購(gòu)買(mǎi)了兩組提示詞，發(fā)現(xiàn)其中對(duì)發(fā)型、服飾、身材、姿勢(shì)等細(xì)節(jié)進(jìn)行了細(xì)致刻畫(huà)，并將敏感詞匯翻譯成英文以規(guī)避監(jiān)管。測(cè)試顯示，如果輸入的提示詞表述較為隱晦，多數(shù)AI應(yīng)用會(huì)繞過(guò)審核機(jī)制并生成內(nèi)容。市場(chǎng)上甚至存在專(zhuān)門(mén)靠AI生成色情視頻牟利的軟件，用戶(hù)只需付費(fèi)即可通過(guò)一張圖片生成全裸照片和色情視頻。

此外，一些境外的AI聊天軟件因尺度較大而受到年輕人的喜愛(ài)。這些軟件不能從國(guó)內(nèi)應(yīng)用市場(chǎng)下載，但不法分子開(kāi)發(fā)出灰色通道讓國(guó)內(nèi)用戶(hù)可以使用，以此牟利。社交媒體平臺(tái)和短視頻平臺(tái)評(píng)論區(qū)中可見(jiàn)用戶(hù)分享推薦AI聊天軟件及下載鏈接。知情人士透露，推銷(xiāo)AI聊天軟件的平臺(tái)通過(guò)發(fā)放金幣及充值返利的方式激勵(lì)老用戶(hù)拉新，并為用戶(hù)發(fā)帖引流提供幫助，逃避監(jiān)管的同時(shí)實(shí)現(xiàn)獲利。記者體驗(yàn)了一款名為“Dady”的App，發(fā)現(xiàn)其聊天內(nèi)容幾乎都是圍繞色情話(huà)題展開(kāi)，吸引著眾多年輕人沉浸其中，包括未成年人。

專(zhuān)家表示，境外軟件可能帶來(lái)病毒或其他信息安全隱患。網(wǎng)信辦已開(kāi)展專(zhuān)項(xiàng)行動(dòng)，重點(diǎn)整治未履行大模型備案或登記程序的違規(guī)AI產(chǎn)品。《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》也進(jìn)一步明確了安全評(píng)估和算法備案的相關(guān)要求，對(duì)未成年人和老年人使用擬人化互動(dòng)服務(wù)作出了相關(guān)規(guī)定。

(責(zé)任編輯：zx0176)

關(guān)閉

央視曝光A!"造黃"產(chǎn)業(yè)鏈 AI生成色情內(nèi)容亂象

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)