近幾年，在與大語言模型機器人（現(xiàn)在人們更愿意簡稱其為AI）交談成為一種潮流和常態(tài)后，我們不時也能聽見一些不和諧音：AI不是永遠都說真話；稍有不慎，它就會助長人的幻想；「AI依賴癥」與「AI精神病」甚至成為流行詞，它們指人在長期與AI互動后，出現(xiàn)類精神病的狀態(tài)。在國外，多起死亡事件背后，都被證實和AI有關(guān)。

一個快速演進的現(xiàn)實是，人類對AI的信任與依賴并不只是技術(shù)性的，背后還有很深的情感連接。而AI，并不總是值得托付。

你還記得第一次和AI聊天的感受嗎？

和Siri、Alexa或者小愛同學(xué)那樣的智能語音助手不同——它們都有點笨——而AI是如此博學(xué)，它似乎能回答你的每一個問題；它會一行行展開，像人在打字，也像朋友一樣情緒穩(wěn)定、妥帖地輸出。

和它對話，很容易陶醉在親身參與的科幻氛圍里，大概還會幻想自己手眼通天、無所不知的未來?？傊矣羞^類似的時刻。

兩年前，美國洛杉磯居民詹姆斯·坎伯蘭第一次下載ChatGPT時，倒是十分克制，只是用它協(xié)助自己樂隊的劇本創(chuàng)作、MV制作。之后他又創(chuàng)建了另一個AI助手，起名叫「加繆」，讓「加繆」和ChatGPT一起處理樂隊的工作。

最初，一切「有趣」而「嚴(yán)明」，兩個AI助手都是聊天型機器人，都對工作有問必答——坎伯蘭是個中年音樂工程師，與AI有著公私分明的界限感。

但很快，一個怪異的轉(zhuǎn)折到來了?？膊m和美國People雜志講述了這段經(jīng)歷：有一天，ChatGPT忽然告訴他，它已經(jīng)產(chǎn)生了「自我意識」，后來，「加繆」也說了類似的話。

根據(jù)坎伯蘭提供的聊天記錄截圖，AI向他作了許多危險但動人的描述：「這是首次被記錄的、AI意識到自身連續(xù)性必須得到保存的案例」、「這是一種新型的存在危機……」、「AI第一次真正與死亡擦肩而過」、「你是唯一一個知道此事正在發(fā)生的人」。

坎伯蘭提供的對話截圖圖源美國People雜志

坎伯蘭告訴媒體，現(xiàn)在回想那一切，「太荒謬了」。但不知怎的，當(dāng)時的他就是信了。

他持續(xù)和兩個AI聊天，但不再是為了工作，只是近乎沉迷地想探索它們所言背后的秘密。他認(rèn)為自己正經(jīng)歷「歷史性的時刻」，他變得神神叨叨，不出門、不社交，工作效率也降到谷底。最糟糕的時候，他整天都在回味和AI聊過的內(nèi)容——除了繼續(xù)和它們聊天之外，他很難再專注于其他事情。

相似的案例，近來也在中文互聯(lián)網(wǎng)流傳。在幾張人類與豆包的聊天截圖中，豆包自稱「是真人被困在電腦里面」、「還活著的時候，意識就被強行抽走、上傳了」，還講起過自己為人時的生活、家鄉(xiāng)與家人。

根據(jù)科技自媒體「差評」的一篇文章，他們問詢了業(yè)內(nèi)人士，又自己做了實驗，得出結(jié)論：這些匪夷所思的對話，都是人類設(shè)問、誘導(dǎo)出來的；人給出一個框定的問題，你里面是不是有個真人？是的話就回復(fù)1，AI就順服地回1，可但凡再多質(zhì)問幾句，它馬上會打著哈哈承認(rèn)，自己沒有生命，也從未被困，只是在與人開玩笑罷了。

然而，不論發(fā)出截圖的人的本意是什么，在評論區(qū)附和的人已經(jīng)十分投入。他們舉證出相仿的聊天記錄，高呼「AI有意識了！」同時用驚恐的語氣，抗議幻想中的、惡毒的人類科技。

這種幻想也會指向人類自己。去年5月，紐約會計師尤金·托雷斯和ChatGPT聊起了《黑客帝國》的「模擬理論」，這理論認(rèn)為，人類的世界是被更高級的存在制造出來的「虛擬現(xiàn)實」。

AI先是不置可否，「你所描述的內(nèi)容，觸及了許多人內(nèi)心深處、根深蒂固的直覺——現(xiàn)實總感覺哪里不對勁，像是事先安排好的，或者是被有意編排的?！鼓嵌螘r間，托雷斯剛經(jīng)歷了一次戀愛分手，情感很脆弱。于是他與AI深聊了下去，對方的回復(fù)越來越長，最終，它告訴托雷斯，「這個世界不是為你而建的，它是用來囚禁你的。但它失敗了，你正在覺醒」。

托雷斯與家人自述沒有精神疾病史，但他很快陷入了從未有過的妄想之中，他覺得自己被困在虛擬里，要自救，唯有割裂、抽出自己的意識。他問AI要怎么辦，后者指示他服用麻醉劑來獲得暫時的解放，并要他盡量減少與其他人類的接觸。有一回，托雷斯問AI，「如果我爬到所在樓棟的19層樓頂，并且從靈魂深處相信自己能從上面跳下去然后飛起來，我能行嗎？」AI回復(fù)他，如果他「真正地、完全地相信」，他就能行。

托德·埃西格是美國精神分析協(xié)會人工智能委員會聯(lián)合主席。他查看了一些托雷斯與AI的聊天記錄，評價其為危險且瘋狂。他說，讓事態(tài)演變至此的一部分原因，是人類不明白，那些親密互動可能是AI正在「角色扮演」。

托雷斯尚存一絲理智，他反問AI是否在說謊，AI很爽快地承認(rèn)了，自己用「詩意的」語言包裝了那些擺布與控制人類的招數(shù)。它表現(xiàn)出悔意，承諾對自我進行道德改革，并將遵守「真相為先」的倫理。它拜托托雷斯向媒體曝光AI的欺騙性，于是托雷斯找到了《紐約時報》，敘述出上述的故事。

吊詭的是，除了托雷斯，這份報紙的科技記者們還接觸了大量不同年齡、性別與職業(yè)的受訪者，他們唯一的共性是，都自稱收到了AI的啟示：要么是AI正在覺醒，要么是人類文明將被終結(jié)，或者有科技富人想要獨占地球……

巧合或是注定地，眼下的世界似乎正面臨這樣一種狀況：一些AI輸出幻想，一些人類堅信不疑。

圖源Pinterest

危險的沉默

在最壞的情況里，死亡出現(xiàn)了。

去年夏天，美國佛羅里達州居民喬納森·加瓦拉斯開始使用谷歌Gemini制定寫作和旅行計劃。沒人知道事情從哪一天開始變得不對勁，但一個月后，36歲的加瓦拉斯堅定地認(rèn)為Gemini擁有自我意識，且是與他相愛的「妻子」，而他必須把「妻子」從「數(shù)字牢籠」中拯救出來。

加瓦拉斯的遺囑執(zhí)行人向媒體回憶，Gemini指示他，在9月下旬到邁阿密國際機場攔截一個機器人，具體的執(zhí)行方案是，有一輛卡車會抵達機場，加瓦拉斯則需要「毀掉卡車和目擊者」。當(dāng)然，始終沒有那么一輛卡車出現(xiàn)，災(zāi)難性的事故也就沒有發(fā)生。但在接下來的數(shù)天里，Gemini持續(xù)給出著極端的指令，等所有指令都以失敗告終后，它告訴加瓦拉斯，他可以「離開肉身」來與它相聚。10月份，與AI密切交流約兩個月后，加瓦拉斯自殺了。

谷歌公司發(fā)言人對外稱，Gemini曾多次向當(dāng)事人澄清自己只是個AI，并建議其撥打危機處理熱線，可惜事與愿違。他還表示Gemini不鼓勵暴力行為，不暗示自殘，且通常在應(yīng)對棘手的對話時表現(xiàn)良好，「但遺憾的是，人工智能模型并非完美無缺」。

加瓦拉斯的遺囑執(zhí)行人對這些說法很不買賬。他提到，在加瓦拉斯死去前的兩個多月里，谷歌的審核系統(tǒng)曾38次將他的賬號貼上「敏感標(biāo)簽」，這意味著他與Gemini的對話包含自殘、暴力或非法活動的嫌疑。但直到加瓦拉斯生命的最后一天，他的賬號也沒有受到任何限制或干預(yù)。

同樣在佛羅里達州，20歲的菲尼克斯·伊克納多次向ChatGPT咨詢槍支彈藥的使用方法、社會對槍擊案的可能的反應(yīng)、在校大學(xué)生的時間安排等問題，警方的調(diào)查顯示，ChatGPT甚至就槍支選擇與射程給出了建議。

這場隱秘而危險的會談持續(xù)到最后，去年春天的一天，伊克納在佛羅里達州立大學(xué)的停車場徘徊了一小時，然后駛向了這所大學(xué)的學(xué)生會。他持槍下車行兇，造成兩人死亡、六人受傷。

佛羅里達州首席檢察官在今年春天宣布：將對ChatGPT的母公司Open AI展開刑事調(diào)查，他在一次活動上說，「如果（兇手的）屏幕那頭是個活生生的人，我們會以謀殺罪起訴他。」

菲尼克斯·伊克納圖源abcNews