別讓AI助手成威脅國(guó)家安全的“隱形武器”

2025-07-16 07:59:27 來(lái)源：央視新聞客戶(hù)端 A+A-

誤導(dǎo)公共輿論、竊取關(guān)鍵信息別讓AI助手成威脅國(guó)家安全的“隱形武器”

記者從國(guó)家安全部了解到，數(shù)字化時(shí)代，人工智能（AI）正逐漸滲透到千行百業(yè)和日常生活中，推動(dòng)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展。值得注意的是，AI工具若被不法分子利用，會(huì)對(duì)我國(guó)關(guān)鍵數(shù)據(jù)、基礎(chǔ)設(shè)施、社會(huì)秩序造成損害，成為威脅國(guó)家安全的“隱形武器”。

虛假信息的“投毒者”

AI技術(shù)中的“深度偽造（Deepfake）”能力是“深度學(xué)習(xí)”與“偽造”的結(jié)合，人工智能的深度學(xué)習(xí)算法能夠進(jìn)行自動(dòng)化的數(shù)據(jù)處理，從而實(shí)現(xiàn)圖片、音頻和視頻的智能模擬和偽造。該技術(shù)用于影視、游戲、廣告等行業(yè)，可創(chuàng)作出更多逼真、有趣的虛擬角色和場(chǎng)景，翻新娛樂(lè)體驗(yàn)。然而，一旦被濫用或惡意使用，將給個(gè)人合法權(quán)益、社會(huì)穩(wěn)定和國(guó)家安全帶來(lái)諸多安全風(fēng)險(xiǎn)和挑戰(zhàn)。國(guó)家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對(duì)勢(shì)力通過(guò)深度偽造技術(shù)生成虛假視頻，企圖向境內(nèi)傳播，誤導(dǎo)輿論、制造恐慌，對(duì)我國(guó)家安全構(gòu)成威脅。

關(guān)鍵信息的“竊密者”

從簡(jiǎn)單的文字生成，到復(fù)雜的多模態(tài)創(chuàng)作，生成式AI的強(qiáng)大學(xué)習(xí)能力令人矚目。AI的學(xué)習(xí)和決策過(guò)程依賴(lài)于大量的數(shù)據(jù)，決定了AI工具可能收集并存儲(chǔ)用戶(hù)輸入的信息。據(jù)公開(kāi)報(bào)道，因開(kāi)源庫(kù)發(fā)生故障，某境外AI模型的部分用戶(hù)可以看到其他活躍用戶(hù)聊天記錄中的標(biāo)題甚至是名字、支付地址等隱私信息，造成個(gè)人信息泄露。如果不注意防范，相關(guān)人員信息數(shù)據(jù)可能成為境外間諜情報(bào)機(jī)關(guān)實(shí)施拉攏策反、滲透破壞活動(dòng)的指引，造成國(guó)家安全風(fēng)險(xiǎn)隱患。

12 3 全文共 3 頁(yè)下一頁(yè)