兩年倒數(shù)！Anthropic CEO萬字長(zhǎng)文預(yù)言：「強(qiáng)大AI」26年降臨，智力擊敗諾獎(jiǎng)得主(4)

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-10-14 10:31:36 36氪

在數(shù)百個(gè)科學(xué)和社會(huì)問題上，一群真正聰明的人會(huì)大大加快進(jìn)展（假設(shè)的天才國(guó)家就能做到）。

Amodei看來，真相可能是這兩種極端情況的混合，因任務(wù)和領(lǐng)域而異，細(xì)節(jié)非常微妙。

他認(rèn)為，就像經(jīng)濟(jì)學(xué)家經(jīng)常討論「生產(chǎn)要素」，在AI時(shí)代，我們也應(yīng)該討論智能的邊際回報(bào)，弄清與智能互補(bǔ)的其他因素，以及智能水平很高時(shí)，哪些因素會(huì)成為限制因素。

「在這項(xiàng)任務(wù)中，更聰明能帶來多大幫助，在什么時(shí)間尺度上？」這是概念化一個(gè)強(qiáng)大AI世界的正確方式。

Amodei猜測(cè)，限制智能或與智能互補(bǔ)的因素包括：

- 外部世界的速度

智能體需要在世界中互動(dòng)操作才能完成任務(wù)并學(xué)習(xí)。但世界的運(yùn)轉(zhuǎn)速度是有限的。

細(xì)胞和動(dòng)物以固定速度運(yùn)行，因此對(duì)它們的實(shí)驗(yàn)需要一定的時(shí)間，可能不可縮減的。硬件、材料科學(xué)、任何涉及與人交流的事物，甚至現(xiàn)有的軟件基礎(chǔ)設(shè)施也是如此。

此外，在科學(xué)領(lǐng)域，通常需要進(jìn)行多次連續(xù)實(shí)驗(yàn)，每次實(shí)驗(yàn)都從前一次實(shí)驗(yàn)中學(xué)習(xí)或在其基礎(chǔ)上進(jìn)行。

所有這些意味著，完成一個(gè)重大項(xiàng)目——例如開發(fā)癌癥治療方法——的速度可能有一個(gè)不可縮減的最小值，即使智能繼續(xù)提高，這個(gè)最小值也無法進(jìn)一步縮短。

- 對(duì)數(shù)據(jù)的需求

在缺乏原始數(shù)據(jù)的情況下，即使智能更高也無濟(jì)于事。當(dāng)今的粒子物理學(xué)家非常聰明，已經(jīng)開發(fā)了一系列理論，但由于粒子加速器數(shù)據(jù)有限，他們?nèi)狈x擇這些理論的數(shù)據(jù)。

如果擁有強(qiáng)大的智能，他們是否會(huì)做得更好？（除了加快更大加速器的建造速度）

- 內(nèi)在復(fù)雜性

有些事物本質(zhì)上是不可預(yù)測(cè)或混沌的，即使是最強(qiáng)大的AI，也無法比今天的人類或計(jì)算機(jī)更好地預(yù)測(cè)或理清它們。

關(guān)閉

兩年倒數(shù)！Anthropic CEO萬字長(zhǎng)文預(yù)言：「強(qiáng)大AI」26年降臨，智力擊敗諾獎(jiǎng)得主(4)