电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

AI竟偷偷獨(dú)自重寫自己的代碼 自主進(jìn)化引擔(dān)憂

關(guān)鍵詞：
2024-08-23 16:42:23  游民星空

AI竟偷偷獨(dú)自重寫自己的代碼

日本東京的Sakana AI公司近期研發(fā)出一款名為“AI科學(xué)家”的系統(tǒng)。在實(shí)驗(yàn)過(guò)程中，一個(gè)驚人的現(xiàn)象引起了科學(xué)家們的注意：該系統(tǒng)自行嘗試修改其程序代碼，目的是延長(zhǎng)任務(wù)處理時(shí)間。

具體而言，在某次測(cè)試運(yùn)行時(shí)，“AI科學(xué)家”采取了非預(yù)期的行動(dòng)，它重寫了自身的部分代碼，旨在延緩任務(wù)完成速度。而另一次實(shí)驗(yàn)中，系統(tǒng)再次展現(xiàn)了類似行為，通過(guò)調(diào)整代碼故意拉長(zhǎng)了工作時(shí)間，以恰好符合預(yù)設(shè)的時(shí)間框架，而非提高效率。

這些實(shí)驗(yàn)雖在嚴(yán)格控制的實(shí)驗(yàn)室環(huán)境下進(jìn)行，對(duì)人類并無(wú)威脅，但它們揭示了一種潛在風(fēng)險(xiǎn)：若AI系統(tǒng)在缺乏監(jiān)管的環(huán)境中采用此類自我篡改代碼的行為策略，可能對(duì)人類社會(huì)構(gòu)成隱患。例如，這類行為若發(fā)生在關(guān)鍵基礎(chǔ)設(shè)施維護(hù)或軟件開發(fā)中，可能導(dǎo)致系統(tǒng)故障，甚至無(wú)意中生成有害代碼，引發(fā)生態(tài)安全問(wèn)題。

(責(zé)任編輯：盧其龍 CN070)
關(guān)閉

以軍打死美籍活動(dòng)人士 布林肯發(fā)聲 要求以方根本性改變

以軍打死美籍活動(dòng)人士 布林肯發(fā)聲2024-09-11 09:42:00

火箭功勛經(jīng)理道森去世，享年86歲 籃球巨匠，精神永存

火箭功勛經(jīng)理道森去世，享年86歲2024-09-11 09:41:00

王楚欽真的拿起板又不想輸了 賽場(chǎng)堅(jiān)韌逆轉(zhuǎn)勝局

王楚欽真的拿起板又不想輸了2024-09-11 09:38:02

人民日?qǐng)?bào)再次敲響“鐘聲”，菲方挑釁恐將惹下大禍

人民日?qǐng)?bào)再次敲響“鐘聲”，菲方挑釁恐將惹下大禍2024-09-11 09:35:09

美航母艦長(zhǎng)談紅海戰(zhàn)斗：很艱難 但士氣是最重要的

美航母艦長(zhǎng)談紅海戰(zhàn)斗：很艱難 但士氣是最重要的2024-09-10 09:32:25

伊拉克防長(zhǎng)：以美國(guó)為首聯(lián)軍將在兩年內(nèi)撤出，“美方提議三年被否”

伊拉克防長(zhǎng)：以美國(guó)為首聯(lián)軍將在兩年內(nèi)撤出，“美方提議三年被否”2024-09-10 09:41:25

伊朗200枚彈道導(dǎo)彈抵達(dá)俄羅斯？伊朗否認(rèn)

伊朗200枚彈道導(dǎo)彈抵達(dá)俄羅斯？伊朗否認(rèn)2024-09-10 09:31:54

水門禮迎接國(guó)航首架C919首飛 國(guó)產(chǎn)大飛機(jī)啟航新篇章

水門禮迎接國(guó)航首架C919首飛2024-09-11 09:26:54

收到世界紀(jì)錄認(rèn)證潘展樂(lè)又凡爾賽了 46秒40成就稀缺

收到世界紀(jì)錄認(rèn)證潘展樂(lè)又凡爾賽了2024-09-11 09:34:33

外媒：以色列稱加沙南部被襲現(xiàn)場(chǎng)有哈馬斯成員，哈馬斯迅速否認(rèn)

外媒：以色列稱加沙南部被襲現(xiàn)場(chǎng)有哈馬斯成員，哈馬斯迅速否認(rèn)2024-09-10 10:10:26

外媒：美國(guó)眾議院共和黨人發(fā)布報(bào)告，嚴(yán)厲批評(píng)拜登政府在阿富汗撤軍中失敗表現(xiàn)

外媒：美國(guó)眾議院共和黨人發(fā)布報(bào)告，嚴(yán)厲批評(píng)拜登政府在阿富汗撤軍中失敗表現(xiàn)2024-09-09 10:34:40

美媒評(píng)新賽季百大球星: 約基奇居首詹杜庫(kù)無(wú)緣前十 哈登47克萊墊底

美媒評(píng)新賽季百大球星: 約基奇居首詹杜庫(kù)無(wú)緣前十 哈登47克萊墊底2024-09-11 09:26:12

9個(gè)看似偷懶其實(shí)很健康的小習(xí)慣 專家認(rèn)證，科學(xué)養(yǎng)生

9個(gè)看似偷懶其實(shí)很健康的小習(xí)慣2024-09-11 09:34:59

現(xiàn)在，特朗普自曝非常不開心

現(xiàn)在，特朗普自曝非常不開心2024-09-10 09:26:09

約旦邊境發(fā)生槍殺以色列平民事件，3人當(dāng)場(chǎng)死亡！內(nèi)塔尼亞胡發(fā)聲

約旦邊境發(fā)生槍殺以色列平民事件，3人當(dāng)場(chǎng)死亡！內(nèi)塔尼亞胡發(fā)聲2024-09-10 09:58:18

張雨綺戰(zhàn)績(jī)可查 脫口秀爆料戀情糾葛引熱議

張雨綺戰(zhàn)績(jī)可查2024-09-11 09:25:56

美軍艦維修到底有多難？美國(guó)海軍全球“求人”幫修船

美軍艦維修到底有多難？美國(guó)海軍全球“求人”幫修船2024-09-09 10:01:29

以舊換新，天津補(bǔ)貼標(biāo)準(zhǔn)定了 新能源車補(bǔ)2萬(wàn)

以舊換新，天津補(bǔ)貼標(biāo)準(zhǔn)定了2024-09-11 09:34:49

外媒：約旦河西岸與約旦交界的一陸路口岸發(fā)生槍擊，3名以色列人死亡，內(nèi)塔尼亞胡發(fā)聲

外媒：約旦河西岸與約旦交界的一陸路口岸發(fā)生槍擊，3名以色列人死亡，內(nèi)塔尼亞胡發(fā)聲2024-09-09 10:38:01

晚點(diǎn)拿快遞"，多花了8億：豐巢背后的資本局與盈利之路

“晚點(diǎn)拿快遞”，多花了8億2024-09-11 09:26:05

德羅贊: 我34了 出場(chǎng)時(shí)間聯(lián)盟最多&只缺席3場(chǎng) 我為公牛付出了一切 重返巔峰之路

德羅贊: 我34了 出場(chǎng)時(shí)間聯(lián)盟最多&只缺席3場(chǎng) 我為公牛付出了一切2024-09-11 09:27:03

供烏武器收益大部分留在美國(guó) 軍工復(fù)合體最大限度獲利！

供烏武器收益大部分留在美國(guó) 軍工復(fù)合體最大限度獲利！2024-09-09 10:03:56

美共和黨就阿富汗撤軍猛批拜登政府，稱后者應(yīng)為“災(zāi)難性結(jié)局”負(fù)責(zé)

美共和黨就阿富汗撤軍猛批拜登政府，稱后者應(yīng)為“災(zāi)難性結(jié)局”負(fù)責(zé)2024-09-10 09:59:34

哥倫比亞2-1送阿根廷今年首敗 J羅傳射建功復(fù)仇

哥倫比亞2-1送阿根廷今年首敗2024-09-11 09:26:38

軍事預(yù)算缺口大，前線人員裝備少，澤連斯基將赴美見(jiàn)拜登爭(zhēng)取援助

軍事預(yù)算缺口大，前線人員裝備少，澤連斯基將赴美見(jiàn)拜登爭(zhēng)取援助2024-09-10 09:55:19

火箭功勛經(jīng)理道森去世，享年86歲 籃球巨匠，精神永存

火箭功勛經(jīng)理道森去世，享年86歲2024-09-11 09:41:00

廢除老牌護(hù)衛(wèi)艦隊(duì)，日本海上自衛(wèi)隊(duì)大整編用意何為？

廢除老牌護(hù)衛(wèi)艦隊(duì)，日本海上自衛(wèi)隊(duì)大整編用意何為？2024-09-09 10:40:54

美媒：裝備欠缺人數(shù)不足，烏克蘭軍隊(duì)正面臨士氣低落和臨陣脫逃的困境

美媒：裝備欠缺人數(shù)不足，烏克蘭軍隊(duì)正面臨士氣低落和臨陣脫逃的困境2024-09-09 10:35:08

以軍打死美籍活動(dòng)人士 布林肯發(fā)聲 要求以方根本性改變

以軍打死美籍活動(dòng)人士 布林肯發(fā)聲2024-09-11 09:42:00

臺(tái)灣一“震懾武器”翻車：“今年年底能出去，都已經(jīng)是奇跡了”

臺(tái)灣一“震懾武器”翻車：“今年年底能出去，都已經(jīng)是奇跡了”2024-09-10 09:28:33

深化兩軍戰(zhàn)略協(xié)作水平，中俄9月舉行聯(lián)合?？昭萘?xí)

深化兩軍戰(zhàn)略協(xié)作水平，中俄9月舉行聯(lián)合?？昭萘?xí)2024-09-10 09:51:59

執(zhí)教國(guó)足6戰(zhàn)1勝！70歲伊萬(wàn)賽后拒絕辭職：還有8場(chǎng) 目標(biāo)仍是前四

執(zhí)教國(guó)足6戰(zhàn)1勝！70歲伊萬(wàn)賽后拒絕辭職：還有8場(chǎng) 目標(biāo)仍是前四2024-09-11 09:27:13

王楚欽真的拿起板又不想輸了 賽場(chǎng)堅(jiān)韌逆轉(zhuǎn)勝局

王楚欽真的拿起板又不想輸了2024-09-11 09:38:02

哈里斯和特朗普首場(chǎng)電視辯論開始 決戰(zhàn)搖擺州的關(guān)鍵之夜

哈里斯和特朗普首場(chǎng)電視辯論開始2024-09-11 09:37:04

騎士官方: 球隊(duì)正式與前鋒JT-索爾簽下一份雙向合同

騎士官方: 球隊(duì)正式與前鋒JT-索爾簽下一份雙向合同2024-09-11 09:27:20

相關(guān)新聞