平臺放任AI涉黃必須付出沉痛代價(jià) 防線成擺設(shè)。9.9元買來的提示詞，幾分鐘生成半裸女性跳舞視頻，全程沒有觸發(fā)平臺任何限制機(jī)制，違規(guī)視頻順利生成。這不是黑客攻破系統(tǒng)的驚險(xiǎn)故事，而是一個(gè)普通用戶用換種說法就能輕松實(shí)現(xiàn)的操作。央視財(cái)經(jīng)的這組調(diào)查揭示了不只是某個(gè)平臺的問題，而是整個(gè)行業(yè)心照不宣的“出廠設(shè)置”。從哩布哩布AI到多款主流應(yīng)用都存在同樣的問題。

記者實(shí)測發(fā)現(xiàn)，如果輸入的提示詞表述較為露骨，多數(shù)AI應(yīng)用會觸發(fā)審核機(jī)制并拒絕生成內(nèi)容。但是，只要將提示詞修改得隱晦一點(diǎn)，或者將敏感詞替換成諧音詞、英語，就可以輕松繞過這條防線。在公眾普遍認(rèn)知中，審核防線的核心作用是全力防范違規(guī)內(nèi)容，不應(yīng)被輕易突破。但當(dāng)前部分AI平臺的審核系統(tǒng)，卻悄然將防線的功能異化為“留證”——僅需證明自身設(shè)置了審核機(jī)制，至于該機(jī)制是否具備實(shí)際防御能力，則不在其考量范圍內(nèi)。這就如同一扇虛掩未鎖的大門，僅張貼著“禁止入內(nèi)”的告示，無需強(qiáng)制阻攔，只需輕輕一推便可進(jìn)入。一旦出現(xiàn)問題，平臺便以“已設(shè)置規(guī)定、履行提醒義務(wù)”為由規(guī)避責(zé)任，淪為形式主義的自我開脫。

這種操作看起來眼熟，是典型的表演性合規(guī)。有人會問，為什么寧可表演也不真防？因?yàn)檎娣烙写鷥r(jià)。嚴(yán)格的語義審核會降低內(nèi)容產(chǎn)量，甚至可能會誤殺正常需求，拖累用戶增速，而用戶增速恰恰是AI平臺估值的命根子。防線強(qiáng)度與商業(yè)利益呈負(fù)相關(guān)，防線越嚴(yán)，付費(fèi)轉(zhuǎn)化率就越低?！皠倓偤帽煌黄啤背闪顺杀竞怂阆碌淖顑?yōu)解。審核系統(tǒng)的存在，不是為了防止作惡，而是為了在出事時(shí)可以拿出一份“已盡合理注意義務(wù)”的證據(jù)清單。它防的不是內(nèi)容違規(guī)，防的是追責(zé)。

平臺把自己的安全責(zé)任悄悄轉(zhuǎn)化成了對每個(gè)用戶的道德要求：“我已經(jīng)提醒過你別推門了，你推了，那是你的問題”。一道本該誓死守住的技術(shù)、道德、法律底線，卻寄希望于用戶的自覺。當(dāng)防線被故意維持在“只防君子，不防小人”的水平，平臺的心態(tài)就已從疏忽滑向了放任。法律上，明知自己的行為可能危害社會而放任其發(fā)生，叫做間接故意。

十年前的快播案撕下了技術(shù)中立的遮羞布；十年后，AI平臺換了身光鮮的皮，卻復(fù)制了“把自己摘干凈，把風(fēng)險(xiǎn)推出去”同一套邏輯。今天不能再花一個(gè)十年去揭穿“表演性合規(guī)”的畫皮。

破局的方向是清晰的：監(jiān)管不能只看有沒有裝鎖，更要查鎖沒鎖上。面對這種睜一只眼閉一只眼的放任，應(yīng)當(dāng)適用間接故意的法理邏輯，將普通的行政罰款直接升格為懲罰性賠償。讓那些被一鍵換臉的受害者能拿起法律武器向平臺索賠。讓裝鎖不鎖的代價(jià)高到足以拖垮公司估值，看他們還敢不敢把防線當(dāng)成留證的工具。

算法可以狂奔，但是道德、法律的底線不容后退。人工智能的公信力也是靠一家家平臺用一把把真鎖，一點(diǎn)一點(diǎn)壘出來的。平臺放任AI涉黃必須付出沉痛代價(jià) 防線成擺設(shè)！