前谷歌CEO反對(duì)開展“AI曼哈頓計(jì)劃” 倡導(dǎo)防御性策略

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-03-07 11:47:52 金融界

在周三發(fā)布的一份政策文件中，前谷歌首席執(zhí)行官埃里克·施密特、Scale AI公司首席執(zhí)行官亞歷山大·王以及人工智能安全中心主任丹·亨德里克斯表示，美國(guó)不應(yīng)以“曼哈頓計(jì)劃”式的方式大力推動(dòng)開發(fā)具有“超人”智能的人工智能系統(tǒng)，即通用人工智能（AGI）。這份題為《超級(jí)智能戰(zhàn)略》的文件認(rèn)為，美國(guó)若積極爭(zhēng)取獨(dú)家掌控超級(jí)智能人工智能系統(tǒng)，可能會(huì)招致同行的強(qiáng)烈報(bào)復(fù)，報(bào)復(fù)形式很可能是網(wǎng)絡(luò)攻擊，這可能會(huì)破壞國(guó)際關(guān)系的穩(wěn)定。

文件指出，“曼哈頓計(jì)劃”假定競(jìng)爭(zhēng)對(duì)手會(huì)默許一種持久的不平衡狀態(tài)或是全球性毀滅，而不會(huì)采取行動(dòng)去阻止它。一開始旨在研發(fā)超級(jí)武器并實(shí)現(xiàn)全球控制的行動(dòng)，有可能引發(fā)敵對(duì)的反制措施，并加劇緊張局勢(shì)，從而破壞這一戰(zhàn)略聲稱要維護(hù)的穩(wěn)定。這份文件由美國(guó)人工智能行業(yè)三位極具影響力的人物共同撰寫。就在幾個(gè)月前，美國(guó)國(guó)會(huì)一個(gè)委員會(huì)提議開展一項(xiàng)“曼哈頓計(jì)劃”式的行動(dòng)，為通用人工智能的開發(fā)提供資金，其模式效仿的是美國(guó)在20世紀(jì)40年代的原子彈計(jì)劃。美國(guó)能源部長(zhǎng)克里斯·賴特最近與OpenAI聯(lián)合創(chuàng)始人格雷格·布羅克曼一同站在一個(gè)超級(jí)計(jì)算機(jī)站點(diǎn)前時(shí)表示，美國(guó)正處于人工智能領(lǐng)域“新曼哈頓計(jì)劃的開端”。

《超級(jí)智能戰(zhàn)略》這份文件對(duì)近幾個(gè)月來一些美國(guó)政策制定者和行業(yè)領(lǐng)袖所倡導(dǎo)的觀點(diǎn)提出了挑戰(zhàn)，該觀點(diǎn)認(rèn)為由政府支持的通用人工智能研發(fā)項(xiàng)目是與他國(guó)競(jìng)爭(zhēng)的最佳方式。在施密特、王和亨德里克斯看來，美國(guó)在通用人工智能領(lǐng)域處于一種類似于相互確保摧毀的對(duì)峙狀態(tài)。就像全球大國(guó)不會(huì)尋求對(duì)核武器的壟斷一樣，施密特及其共同作者認(rèn)為，美國(guó)在競(jìng)相主導(dǎo)極其強(qiáng)大的人工智能系統(tǒng)時(shí)應(yīng)持謹(jǐn)慎態(tài)度。

雖然將人工智能系統(tǒng)比作核武器聽起來有些極端，但世界各國(guó)已將人工智能視為一項(xiàng)重要的軍事優(yōu)勢(shì)。美國(guó)五角大樓已經(jīng)表示，人工智能正在幫助加快軍方的“殺傷鏈”速度。施密特等人提出了一個(gè)他們稱之為“相互確保人工智能失靈”（MAIM）的概念，即各國(guó)政府可以主動(dòng)禁用具有威脅性的人工智能項(xiàng)目，而不是等待對(duì)手將通用人工智能武器化。

12 全文共 2 頁下一頁

關(guān)閉

前谷歌CEO反對(duì)開展“AI曼哈頓計(jì)劃” 倡導(dǎo)防御性策略

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)