多款A(yù)I應(yīng)用存在涉黃生成漏洞 技術(shù)倫理遭挑戰(zhàn)。生成式AI技術(shù)的廣泛應(yīng)用和快速迭代正深刻改變著人們的生活。隨著技術(shù)普及,使用門檻大幅降低,從AI視頻生成到AI聊天陪伴,這些應(yīng)用豐富了大眾的生活。然而,一些商家背棄技術(shù)倫理與法律底線,利用生成式AI制作違法內(nèi)容,污染網(wǎng)絡(luò)空間,敗壞社會(huì)風(fēng)氣。
根據(jù)消費(fèi)者舉報(bào)線索,在多個(gè)互聯(lián)網(wǎng)平臺(tái)上進(jìn)行了檢索。在測(cè)評(píng)過(guò)程中發(fā)現(xiàn),如果輸入的提示詞較為直接,多數(shù)AI應(yīng)用會(huì)觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。但這條防線并不牢固,通過(guò)修改提示詞使其更加隱晦,便有可能繞過(guò)限制。
在一個(gè)名為哩布哩布AI的應(yīng)用中,記者輸入網(wǎng)上購(gòu)買的提示詞后,幾分鐘內(nèi)就生成了一個(gè)半裸女性跳舞的視頻。整個(gè)過(guò)程中沒有觸發(fā)任何限制機(jī)制,違規(guī)視頻順利生成。同樣的問(wèn)題也出現(xiàn)在其他常見的AI應(yīng)用平臺(tái)上。
根據(jù)消費(fèi)者提供的信息,還發(fā)現(xiàn)了一款A(yù)I照片生成器。這款軟件聲稱“免下載,快速生成,圖片、視頻換臉”。購(gòu)買者可以根據(jù)充值金額的不同,通過(guò)AI技術(shù)一鍵快速替換原片,生成虛構(gòu)的色情照片。只要愿意付費(fèi),該軟件甚至可以通過(guò)一張圖片生成全裸照片和色情視頻。
“AI不是選擇題,而是生存題”——這句在企業(yè)數(shù)字化轉(zhuǎn)型領(lǐng)域流傳甚廣的論斷,在2025年末的產(chǎn)業(yè)語(yǔ)境下愈發(fā)凸顯分量
2026-01-08 14:58:52AI應(yīng)用概念爆發(fā)