黑客已經盯上了大模型！面對AI帶來的安全風險，需要“用AI對抗AI” 安全廠商紛紛入局

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-05-30 06:18:49 財聯(lián)社

ChatGPT的問世不僅引領了新一波人工智能熱潮，也促使網絡攻擊和網絡犯罪手段升級。亞信安全的高級副總裁陳奮指出，以往黑客制造攻擊病毒需耗時數(shù)月，如今借助大型模型工具，這一過程縮短至幾分鐘，顯著提升了攻擊效率。這些模型對編程語言的高度理解能力，使它們能快速識別并利用軟件漏洞。此外，一些黑客利用AI算法進行深度偽造視頻，促進了新型網絡詐騙的興起。

攻擊目標也從傳統(tǒng)資產轉向了AI算力基礎設施和大型模型本身。例如，曾有數(shù)千臺服務器組成的美國算力集群遭黑客入侵用以挖掘比特幣，顯示出AI算力資源正成為極具吸引力的目標。僅一年內，已有40多種針對大型模型的攻擊手段出現(xiàn)。

應對這一挑戰(zhàn)，國內外多家企業(yè)已推出針對大型模型的安全產品。微軟、谷歌及網絡安全企業(yè)如Paloalto、CROWDSTRIKE等，紛紛在自家安全平臺上整合了大型模型的安全功能。據統(tǒng)計，超過80%的網絡安全公司正將大型模型技術融入產品，30%的公司已著手大型模型安全研究，安全領域創(chuàng)業(yè)活動亦隨之活躍。

針對AI技術伴生的安全隱患，中國工程院院士張亞勤建議，從事大型模型研究的企業(yè)或機構應將投資的10%-30%用于相關安全風險的研究與產品開發(fā)。

張亞勤強調，人工智能尤其是大型模型雖帶來新機遇，但也伴隨著諸多安全風險，包括模型自身安全、數(shù)據安全、模型攻擊性、不透明性及可控性等問題。陳奮則提到了“海綿樣本攻擊”，這種攻擊能大幅增加模型的算力消耗，導致響應速度嚴重下降，對依賴大型模型的應用構成潛在威脅。

AI技術的發(fā)展也促使網絡安全防護進入AI對抗AI的新階段，AI驅動的安全檢測技術成為識別和防御黑客攻擊的關鍵。同時，大模型技術正推動網絡安全產品進行全面革新，未能及時轉型的安全廠商或將失去市場競爭力。隨著AI深入個人生活，從智能家居到智能汽車，保護對象已從物理資產轉變?yōu)锳I中心，個人隱私和數(shù)據安全面臨前所未有的挑戰(zhàn)。

眾多安全廠商已開始布局大模型安全領域，如亞信安全的信立方、奇安信的Q-GPT等。陳奮認為，安全問題可歸結為保護AI及其基礎設施的安全，以及利用AI強化網絡安全兩個方面。亞信安全在合作生態(tài)構建上采取了與算力公司、科研機構合作的策略，以靈活獲取所需算力并提供安全解決方案。

張亞勤主張，AI大模型的開發(fā)應至少將10%的預算投入到安全風險的研究與產品創(chuàng)新中，并提倡對大模型實施分級管理，對AI生成內容進行標識，建立實體映射系統(tǒng)以明確責任歸屬，以及設定安全使用的界限。他認為，應對AI安全風險是全球企業(yè)和政府共同的責任，需要共同努力。

(責任編輯：張蕾)

關閉

黑客已經盯上了大模型！面對AI帶來的安全風險，需要“用AI對抗AI” 安全廠商紛紛入局

相關新聞

今日熱點

頻道熱點

黑客已經盯上了大模型！面對AI帶來的安全風險，需要“用AI對抗AI” 安全廠商紛紛入局