DeepSeek引發(fā)多國(guó)政府審查 AI開(kāi)源技術(shù)變革(2)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-06 09:08:44 第一財(cái)經(jīng)

對(duì)于支持開(kāi)源的人士而言，DeepSeek的成功將推動(dòng)更多人擁抱開(kāi)源系統(tǒng)。Meta首席人工智能科學(xué)家Yann LeCun表示，DeepSeek的成功代表了開(kāi)源人工智能模型的勝利。他強(qiáng)調(diào)，開(kāi)源模型正在超越專有模型，因?yàn)樗鼈兊墓ぷ魇枪_(kāi)的和開(kāi)源的，每個(gè)人都可以從中獲益。

近日，在瑞典舉行的一場(chǎng)風(fēng)投會(huì)議上，人工智能初創(chuàng)公司NetMind首席商務(wù)官Seena Rejal表示，DeepSeek表明開(kāi)源人工智能不再只是一項(xiàng)非商業(yè)研究計(jì)劃，而是一種可行的、可擴(kuò)展的封閉模型替代方案。他認(rèn)為，這會(huì)對(duì)OpenAI的GPT模型構(gòu)成挑戰(zhàn)。一些歐洲AI初創(chuàng)公司已經(jīng)將系統(tǒng)從GPT遷移至DeepSeek模型中，從而節(jié)省大量費(fèi)用，用戶并未發(fā)現(xiàn)有任何差別。

然而，開(kāi)源人工智能在有利于技術(shù)創(chuàng)新的同時(shí)，也有易于受到網(wǎng)絡(luò)攻擊的缺點(diǎn)。Rejal指出，開(kāi)源AI模型的引入可能會(huì)提高企業(yè)需要考慮的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，包括軟件供應(yīng)鏈攻擊、提示越獄和試圖引入偏見(jiàn)或有害輸出的所謂“數(shù)據(jù)中毒”事件。思科AI安全研究團(tuán)隊(duì)的一項(xiàng)研究表明，研究人員使用了“算法越獄技術(shù)”，讓DeepSeek的R1模型對(duì)一系列有害提示做出肯定回應(yīng)，“攻擊成功率為100%”。思科研究人員Paul Kassianik和Amin Karbasi寫(xiě)道，DeepSeek R1的訓(xùn)練預(yù)算僅為其他前沿模型提供商的一小部分，安全性可能是它付出的代價(jià)。

技術(shù)專家強(qiáng)調(diào)，安全性問(wèn)題是所有開(kāi)源系統(tǒng)面臨的共同問(wèn)題，并非僅針對(duì)DeepSeek。研究公司Proofpoint網(wǎng)絡(luò)安全策略師Matt Cooke稱，DeepSeek和其他生成式AI平臺(tái)一樣，對(duì)企業(yè)和個(gè)人來(lái)說(shuō)都是一把“雙刃劍”，需要時(shí)間來(lái)了解這項(xiàng)技術(shù)，并提出更安全的解決方案。

首頁(yè)上一頁(yè)12共 2 頁(yè)

(責(zé)任編輯：于浩淙 zx0176)

關(guān)閉

DeepSeek引發(fā)多國(guó)政府審查 AI開(kāi)源技術(shù)變革(2)

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)