國家安全機(jī)關(guān)提示：使用智能設(shè)備，牢記這三條守則

2025-12-26 08:32:54 來源：央視新聞客戶端 A+A-

國家安全部今天發(fā)布安全提示文章，初中教師小李自從使用AI備課后，能在五分鐘內(nèi)生成一份生動有趣的教案，包括圖片、視頻和互動問答。“以前備課要兩小時(shí)，現(xiàn)在可以省下更多時(shí)間關(guān)注學(xué)生個(gè)人情況，還能一對一定制專屬練習(xí)題。”

某獨(dú)居老人陳爺爺，通過子女贈送的智能音箱，找到了新樂趣?！靶≈遣粌H能陪我聽?wèi)颉⒘奶?，還會在我忘記吃藥時(shí)主動提醒，它居然還記住了我所有孫輩的生日?！?/p>

29歲的小王原本是文案策劃，因擅長與AI“對話”，現(xiàn)已成功轉(zhuǎn)型為提示詞工程師?！瓣P(guān)鍵是要把指令說得足夠清晰?！睆闹悄芸头紸I繪圖師，大模型正創(chuàng)造著一個(gè)個(gè)前所未見的新崗位。

當(dāng)前，AI大模型加速賦能千行百業(yè)，推動人們生活日新月異，這位能干又貼心的“數(shù)字伙伴”正加速融入我們?nèi)粘Ｉ?。然而每一次技術(shù)躍遷必然伴隨著新的挑戰(zhàn)，當(dāng)AI的觸角延伸越廣、嵌入越深，隨之而來也暴露出數(shù)據(jù)隱私、算法偏見等潛在風(fēng)險(xiǎn)，亟需我們構(gòu)筑安全防線，助推這場深刻的智能變革，安全賦能美好未來。

高速發(fā)展背后的“暗礁”

——數(shù)據(jù)隱私與安全邊界模糊。個(gè)別單位因直接使用開源框架建立聯(lián)網(wǎng)大模型，導(dǎo)致攻擊者未經(jīng)授權(quán)即可自由訪問內(nèi)部網(wǎng)絡(luò)，從而引發(fā)數(shù)據(jù)泄露和安全風(fēng)險(xiǎn)。據(jù)公開案例顯示，某單位工作人員在處理內(nèi)部文件時(shí)，違規(guī)使用開源AI工具，由于電腦系統(tǒng)默認(rèn)開啟公網(wǎng)訪問且未設(shè)密碼，導(dǎo)致敏感資料被境外IP非法訪問和下載。

——技術(shù)濫用與虛假信息產(chǎn)生。利用AI的深度學(xué)習(xí)算法進(jìn)行自動化的數(shù)據(jù)處理，實(shí)現(xiàn)圖片、音頻及視頻的智能模擬和偽造，這種技術(shù)被稱為深度偽造。一旦該技術(shù)被濫用或惡意使用，將給個(gè)人合法權(quán)益、社會穩(wěn)定甚至國家安全帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。國家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術(shù)生成虛假視頻，并企圖向境內(nèi)傳播，以誤導(dǎo)輿論、制造恐慌，對我國家安全構(gòu)成威脅。

12 全文共 2 頁下一頁