10月12日，青島保時捷女銷冠牟女士在個人微博賬號曬出青島市公安局李滄分局行政處罰決定書，并配文稱，“網(wǎng)絡(luò)不是法外之地，一切都有跡可循?！?/p>

此前，牟女士在微博上描述了近期遭遇的困擾：網(wǎng)絡(luò)上出現(xiàn)大量利用AI技術(shù)惡意合成的虛假視頻以及與面部側(cè)臉局部相似的不良視頻，對其進行誹謗與侮辱，甚至肆意傳播，泄露其電話及微信號，已嚴(yán)重影響其正常生活。牟女士聲明所有相關(guān)內(nèi)容均為偽造，已委托律師完成證據(jù)固定，并于10日晚向公安機關(guān)報案，啟動法律程序追查到底。同時懸賞征集傳播者證據(jù)。

牟女士發(fā)布的行政處罰決定書主要針對違法行為鏈條中的傳播者丁某。決定書顯示，2025年10月10日丁某在一微信車友群內(nèi)轉(zhuǎn)發(fā)牟女士照片圖文并搭配不雅視頻，對其侮辱，后被查獲。根據(jù)《中華人民共和國治安管理處罰法》第四十二條第二項規(guī)定，給予丁某行政拘留五日的行政處罰。丁某在11日寫下悔過書，承認(rèn)自身錯誤并向牟女士道歉。但牟女士表示，相關(guān)案件已正式進入司法程序，交由警方依法處理，直接進行AI合成圖文與視頻的違法者暫未抓獲。

國內(nèi)AI行業(yè)監(jiān)管范疇內(nèi)，AI合成內(nèi)容治理已從“原則倡導(dǎo)”階段進入“法治化+標(biāo)準(zhǔn)化+技術(shù)落地”的深水區(qū)。國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法（征求意見稿）》，要求人工智能生成合成內(nèi)容標(biāo)識包括顯式標(biāo)識和隱式標(biāo)識。北京師范大學(xué)法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括指出，內(nèi)容標(biāo)識對于避免深度偽造帶來的安全風(fēng)險有非常大的價值，有助于公眾識別AI內(nèi)容的真?zhèn)魏蜋?quán)威性。

今年9月1日起，《人工智能生成合成內(nèi)容標(biāo)識辦法》與國家市監(jiān)總局、國家標(biāo)準(zhǔn)委發(fā)布的強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》均正式施行。抖音、快手、騰訊、微博、B站等平臺均上線“顯式+隱式”雙重標(biāo)識功能，并配套限流、下架、封號等處置措施。北京市競天公誠律師事務(wù)所認(rèn)為，《標(biāo)識辦法》構(gòu)建了標(biāo)識管理的基礎(chǔ)架構(gòu)體系，旨在通過統(tǒng)一的技術(shù)標(biāo)識規(guī)范解決生成合成內(nèi)容與真實信息的邊界模糊問題，遏制技術(shù)濫用對公共秩序和個體權(quán)益的侵害。

盡管已有治理舉措，目前行業(yè)內(nèi)AI合成亂象仍存在。原因包括AI技術(shù)門檻大幅下滑、內(nèi)容平臺“先發(fā)布后過濾”的審核機制給違法行為留存機會時差、標(biāo)識與水印可通過批量擦除、裁剪等形式去除。當(dāng)“一鍵換臉”就能換來真金白銀，“去標(biāo)裁剪”只需動動手指，違法成本與暴利收益之間的杠桿迅速失衡，導(dǎo)致灰色產(chǎn)業(yè)鏈泛濫。AI合成內(nèi)容治理仍需持續(xù)優(yōu)化，包括提升水印魯棒性、提高懲罰強度、提升審核效率與前置審核責(zé)任等。