8月31日,“微信珊瑚安全”發(fā)布了《關(guān)于進(jìn)一步規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)的公告》。公告指出,根據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》要求,平臺(tái)應(yīng)對(duì)AI生成合成內(nèi)容添加顯式或隱式標(biāo)識(shí)。用戶(hù)通過(guò)平臺(tái)獲取的AI生成合成內(nèi)容可能帶有這些標(biāo)識(shí),平臺(tái)也會(huì)對(duì)可能是AI生成合成的內(nèi)容進(jìn)行相應(yīng)提示,以便用戶(hù)清晰辨識(shí)。
為了避免發(fā)布的內(nèi)容在傳播過(guò)程中引起混淆或誤認(rèn),用戶(hù)發(fā)布的內(nèi)容如果為AI生成合成的,在發(fā)布時(shí)需主動(dòng)聲明。依據(jù)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》規(guī)定,用戶(hù)在發(fā)布或傳播AI生成合成內(nèi)容時(shí),不得以任何方式刪除、篡改、偽造或隱匿平臺(tái)添加的AI標(biāo)識(shí),也不得利用AI技術(shù)制作傳播虛假信息、侵權(quán)信息以及從事違法違規(guī)活動(dòng)。對(duì)于違反法律法規(guī)及平臺(tái)規(guī)范的行為,平臺(tái)將視違規(guī)情況進(jìn)行處罰。
今年3月,國(guó)家網(wǎng)信辦等四部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》,將于2025年9月1日起施行。該辦法明確了服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)等。此外,中央網(wǎng)信辦近日在全國(guó)范圍內(nèi)部署開(kāi)展“清朗·整治AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng),旨在強(qiáng)化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,并推動(dòng)網(wǎng)站平臺(tái)提升檢測(cè)鑒偽能力。