隨著人工智能技術(shù)的快速發(fā)展,AI在各個領(lǐng)域的應(yīng)用越來越廣泛。但一些不法分子利用AI技術(shù)制造虛假信息,嚴(yán)重?cái)_亂了社會秩序。央視網(wǎng)最近公布了一批AI假新聞案例。
7月20日,網(wǎng)上流傳一條關(guān)于“湖北宜昌江段游船側(cè)翻多人落水”的消息。湖北省公安廳和宜昌市公安局迅速行動,與網(wǎng)絡(luò)安全部門緊密配合,很快鎖定了假新聞發(fā)布者。此人為了提升賬號關(guān)注度,使用某AI工具編造了這條謠言,并已被公安機(jī)關(guān)依法處罰。
近期,云南大理漾濞縣公安局也查處了一起利用AI編造交通事故的網(wǎng)絡(luò)謠言案。警方發(fā)現(xiàn)有人在網(wǎng)絡(luò)上發(fā)布多段標(biāo)注為大理州的交通事故現(xiàn)場視頻。經(jīng)過調(diào)查,警方鎖定視頻發(fā)布者趙某某。趙某某供述,他為了博眼球、吸粉引流,使用AI工具制作并發(fā)布了這些逼真的虛假視頻。幸好警方及時發(fā)現(xiàn),傳播范圍得到有效控制。
如今,AI技術(shù)在視頻制作中的應(yīng)用日益廣泛,通過簡單的操作就能生成逼真的虛假視頻,普通人很難辨別真?zhèn)巍H绻徊环ǚ肿永?,會帶來巨大風(fēng)險。因此,除了加強(qiáng)監(jiān)管外,提高公眾的辨別能力也非常重要。