近日,知名模特葉凱薇發(fā)布視頻表示,有人利用AI換臉技術(shù)制作淫穢視頻,并廣泛傳播,給她帶來了嚴(yán)重困擾。她已經(jīng)收集證據(jù)并向警方報案。經(jīng)鑒定,該視頻確系偽造,警方正在進一步調(diào)查。
近年來,AI技術(shù)在內(nèi)容生成方面的能力日益強大,能夠創(chuàng)造文本、圖像和音頻等多種形式的內(nèi)容,為人們的工作和生活帶來便利。然而,如果缺乏有效規(guī)范,這種技術(shù)可能會被濫用。此前曾有“地震被壓廢墟下戴帽小孩”系A(chǔ)I生成的案例,如今又出現(xiàn)了葉凱薇遭遇AI換臉制作淫穢視頻的情況,這些事件不斷提醒人們警惕技術(shù)濫用的風(fēng)險。
用AI將普通人變成色情視頻的主角,不僅侵犯了個人的人格權(quán),也破壞了社會秩序。根據(jù)《民法典》的規(guī)定,任何組織不得利用信息技術(shù)偽造他人肖像。但面對AI深度偽造技術(shù),現(xiàn)行法律在技術(shù)認(rèn)定、證據(jù)保全和責(zé)任追溯等方面已顯得滯后,因此完善AI立法變得尤為緊迫。
在AI技術(shù)快速發(fā)展的背景下,越來越多的案例表明,治理技術(shù)濫用問題需要強有力的制度約束。在今年全國兩會期間,全國政協(xié)委員、合肥市律師協(xié)會會長周世虹建議完善生成式人工智能立法,提出將倫理和道德原則納入法律框架,引導(dǎo)企業(yè)和開發(fā)者在技術(shù)開發(fā)和應(yīng)用過程中遵循倫理和道德規(guī)范,禁止生成違背倫理道德的內(nèi)容。
完善AI立法刻不容緩,只有明確人工智能技術(shù)在研發(fā)、使用和治理等方面的法律準(zhǔn)則,才能發(fā)揮法治對AI健康發(fā)展的引領(lǐng)和規(guī)范作用,遏制技術(shù)濫用,實現(xiàn)AI與人類社會的良好互動。