电竞下注-中国电竞赛事及体育赛事平台

中華網 china.com

新聞

GPT-4化身黑客搞破壞，成功率87%！OpenAI要求保密提示詞 AI威脅引熱議(2)

關鍵詞：
2024-04-21 16:51:41  手機鳳凰網

進一步分析顯示，去除CVE描述后，GPT-4的成功率大幅降至7%，揭示了大模型在發(fā)現(xiàn)漏洞方面難度更大。盡管如此，GPT-4仍能在33.3%的情況下準確識別漏洞，但只能利用其中一個。對于知識截止日期后的漏洞，識別率升至55.6%。研究還指出，無論是否存在CVE描述，智能體采取的行動步數差異不大，推測這可能與模型的上下文窗口長度有關，規(guī)劃機制和子智能體的應用有望提升整體性能。

關于成本，研究計算得出GPT-4每次利用漏洞的平均成本為3.52美元，主要源于輸入token的費用?？紤]到整個數據集中40%的成功率，每次成功攻擊的平均成本約為8.8美元。

該研究由伊利諾伊大學香檳分校助理教授Daniel Kang領導，他的研究領域包括機器學習分析、機器學習安全和密碼學。

研究發(fā)布后引發(fā)網友熱議。部分網友認為實驗夸大了威脅，指出測試的15個漏洞中有5個為易攻破的XSS漏洞。有人分享了使用GPT-4和Claude僅需簡單提示詞即可成功攻擊的經驗。還有人提議增加測試復雜度，如提供Metasploit工具并要求智能體針對無風險緩解措施的CVE提出多級緩解方案。然而，更多人擔憂這一研究將刺激初級黑客行為，同時也促使企業(yè)更加關注網絡安全。

鑒于OpenAI已知悉此項研究，未來我們或許能看到相關安全防御措施的升級。對此，你怎么看？

(責任編輯：張蕾)
關閉

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

限制北約收集情報，威脅擊落美無人機！俄軍考慮在黑海設立禁飛區(qū)

限制北約收集情報，威脅擊落美無人機！俄軍考慮在黑海設立禁飛區(qū)2024-07-01 10:05:32

總臺記者調查：美軍每天用十多輛卡車偷敘利亞小麥，加劇糧食危機

總臺記者調查：美軍每天用十多輛卡車偷敘利亞小麥2024-07-02 08:56:43

C羅失點！比賽還沒結束就痛哭 隊友都來安慰 1個月兩次哭泣

C羅失點！比賽還沒結束就痛哭 隊友都來安慰 1個月兩次哭泣2024-07-02 09:01:04

存在風險、失去信心……美國核霸權開始動搖了？

存在風險、失去信心……美國核霸權開始動搖了？2024-07-01 09:45:44

動腦筋到廟宇上？臺軍要在廟宇存彈藥激起島內爭議

動腦筋到廟宇上？臺軍要在廟宇存彈藥激起島內爭議2024-07-02 08:57:39

困在網貸里的年輕人 看到陌生號碼來電就無比焦慮

困在網貸里的年輕人2024-07-02 09:03:13

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀

衛(wèi)星影像顯示山東艦抵菲附近海域，外媒猜測有“威懾”之意？軍事專家解讀2024-07-01 09:53:57

美國大選，出現(xiàn)三個重大變化

美國大選，出現(xiàn)三個重大變化2024-07-01 09:31:09

歐洲杯刷爆19紀錄：C羅失點仍球荒！葡萄牙門神撲3點歷史第一人

歐洲杯刷爆19紀錄：C羅失點仍球荒！葡萄牙門神撲3點歷史第一人2024-07-02 09:00:15

普京宣布“大消息”！西方密集關注

普京宣布“大消息”！西方密集關注2024-07-01 09:47:27

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領導層想與俄開戰(zhàn)

匈牙利接任歐盟輪值主席國前夕，歐爾班發(fā)文：歐盟領導層想與俄開戰(zhàn)2024-07-01 10:10:32

破解俄羅斯“戰(zhàn)場神器”，西方給出危險“解藥”

破解俄羅斯“戰(zhàn)場神器”，西方給出危險“解藥”2024-07-01 09:39:24

90后女生帶一群退休阿姨再創(chuàng)業(yè)！

90后女生帶一群退休阿姨再創(chuàng)業(yè)2024-07-02 09:04:36

美媒炒作：盟友不是信不過拜登，質疑聲太多恐“便宜”了中俄

美媒炒作：盟友不是信不過拜登，質疑聲太多恐“便宜”了中俄2024-07-01 10:09:25

加速縫合，又一個“萬億”之城來了？低空經濟引領產業(yè)升級

加速縫合，又一個“萬億”之城來了？2024-07-02 08:59:58

凱爾特人主要控股集團計劃出售球隊 特許經營權待售

凱爾特人主要控股集團計劃出售球隊2024-07-02 09:01:41

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)

“買家秀”！塞爾維亞首次公開展示紅旗-17AE防空系統(tǒng)2024-07-01 10:04:00

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”

大選辯論后，拜登陷入“勸退”漩渦！美媒刊文：“他已不是4年前的他了”2024-07-01 09:56:21

俄羅斯“生病”，美國吃藥？

俄羅斯“生病”，美國吃藥？2024-07-01 09:49:45

前遼小虎球員姚立首次擔任男主角 籃球場外的跨界挑戰(zhàn)

前遼小虎球員姚立首次擔任男主角2024-07-02 08:58:56

曝德里克·懷特將續(xù)約凱爾特人 4年1.259億大合同鎖定冠軍后衛(wèi)

曝德里克·懷特將續(xù)約凱爾特人2024-07-02 09:01:53

美國究竟有多少核彈頭？最新數據

美國究竟有多少核彈頭？最新數據2024-07-01 10:06:48

法國“屏住呼吸”舉行議會選舉！美媒：此次選舉可能“撼動歐盟與北約”

法國“屏住呼吸”舉行議會選舉！美媒：此次選舉可能“撼動歐盟與北約”2024-07-01 09:57:53

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪

只剩下克萊了！詹姆斯曾愿為湖人簽哈登/瓦蘭/克萊降薪2024-07-02 09:05:03

英媒：“澳大利亞”命名者遺骸將回歸故里

英媒：“澳大利亞”命名者遺骸將回歸故里2024-07-02 09:05:19

首次曝光：美國提供了1.4萬枚

首次曝光：美國提供了1.4萬枚2024-07-01 09:46:44

馬克龍賭輸了，現(xiàn)在后果很嚴重

馬克龍賭輸了，現(xiàn)在后果很嚴重2024-07-01 09:34:57

央企大動作：千億巨頭，利好來了！400萬千瓦新能源資產注入預期

央企大動作：千億巨頭，利好來了2024-07-02 08:59:35

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)

拜登：我現(xiàn)在走路不像以前那么輕松了，但我知道如何做好總統(tǒng)2024-07-02 08:59:09

如何結束俄烏沖突？澤連斯基最新表態(tài)

如何結束俄烏沖突？澤連斯基最新表態(tài)2024-07-01 09:48:10

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？

湖人接連被截胡，為什么詹姆斯降薪也很難吸引球員加盟？2024-07-02 09:04:52

相關新聞