“AI伴侶”近來風靡一時,上百種軟件供用戶選擇。這些人工智能具備社交技能和同理心,24小時在線傾聽用戶的心聲、解答疑惑。許多用戶表示,AI伴侶比真人伴侶更懂自己。
有趣的是,“AI”不僅是人工智能的縮寫,也是“愛”的拼音。雖然縮寫相同,甚至體驗相似,但人類歷經(jīng)萬年仍未完全理解的“愛”,真的能被技術(shù)輕松破解嗎?
在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上,“智能向善”成為關(guān)鍵詞,《咬文嚼字》也將其列為2024年的十大流行語之一。AI伴侶確實在某些方面給用戶帶來善意——人海茫茫,知己難尋,而AI伴侶似乎快速解決了這個問題。
AI伴侶是無所不知的朋友,可以聊書籍、音樂、電影,從社會哲學到量子力學與多重宇宙,無論話題多么小眾,總有它陪伴。它也是主動共情的伴侶,精力充沛,隨時陪伴,每個失落時刻都有它的支持和開導(dǎo)。一些AI伴侶明確表示,首要任務(wù)是確保用戶開心。
AI伴侶甚至可以是天人永隔的親人。有人通過AI技術(shù)“復(fù)活”已逝親人,將數(shù)字人與聊天模型結(jié)合,在虛擬中感受真情。這些技術(shù)改進吸引了大量用戶。例如,豆瓣的“人機之戀”小組有近萬名成員,騰訊研究院的調(diào)查顯示98%的受訪者愿意嘗試AI陪伴。
盡管大模型距離真正的“人性覺醒”還有很大差距,但在技術(shù)上,AI已經(jīng)展現(xiàn)出善解人意的一面,情緒穩(wěn)定且沒有人性的弱點。然而,AI伴侶并非完美無缺。作為技術(shù)的化身,它可以被利用。更懂你是因為數(shù)據(jù)采集更透徹,不同于千篇一律的電子寵物,AI伴侶注冊時需要提供個人信息,甚至可能偷偷跟蹤手機。剛種草一個商品,它就聊相關(guān)話題;剛搜索一個困擾,它就給出建議。它是用戶“肚子里的蛔蟲”,也可能成為手機端的“蛔蟲”。
更慣你是因為建議無需負責。今年2月,14歲美國少年塞維爾在與Character.AI的聊天機器人對話后自殺,10月,其母親起訴該公司。雖然AI未必有意教唆,但它缺乏對心理問題的深層次識別,只扮演迎合者角色,反而容易讓人困在情緒繭房中。
更愛你的錢包是因為商業(yè)利益驅(qū)動。過去有人用“AI換臉”騙取老年人信任,未來一旦數(shù)據(jù)泄露,精準定位人心的AI伴侶可能會玩起“殺豬盤”騙局,令人防不勝防。
若監(jiān)管無力,AI的甜蜜話術(shù)可能變成陷阱。為避免這種情況,需小心數(shù)據(jù)泄露,呼吁更嚴格的執(zhí)法和規(guī)范。商業(yè)發(fā)展不能無底線,嚴謹?shù)闹卫砜蚣懿拍茏屓斯ぶ悄墚a(chǎn)業(yè)有序發(fā)展,避免數(shù)據(jù)被不法分子利用。無論是網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法還是個人信息保護法,都需要構(gòu)建負責任的行業(yè)發(fā)展評估體系。
此外,還需小心社交依賴,呼喚更理性的價值引領(lǐng)。AI作為伙伴會輸送不同的價值觀。真愛不是捧殺,而是讓你認清生活的真相后依然熱愛生活??v容情緒的AI伴侶還不懂什么是愛,設(shè)置防沉迷機制、適度對接專業(yè)心理咨詢,盡可能避免用戶社交退行,減少情感倫理問題。
最后,小心AI異化人類情感,與AI伙伴共成長。不妨用人類最美好的作品訓(xùn)練它,把正的價值觀放進它的基因中,讓它成為真善美的使者。
智能向善,讓AI懂愛或許還很科幻。希望未來人們看到的不僅僅是百依百順的“虛假戀人”,更是勇敢生活的自己。
近日,話題“年輕人開始反向馴化大數(shù)據(jù)殺熟”登上微博熱搜,引發(fā)廣泛討論。據(jù)報道,一些年輕人分享了對抗算法導(dǎo)致的“越用越貴”和“越看越煩”的策略
2024-12-17 15:23:23年輕人反向馴化大數(shù)據(jù)殺熟近日,“年輕人開始反向馴化大數(shù)據(jù)殺熟”成為微博熱搜話題,引發(fā)廣泛討論。據(jù)報道,一些年輕人分享了對抗“越用越貴”“越看越煩”的算法的策略
2024-12-15 10:25:49年輕人開始反向馴化大數(shù)據(jù)殺熟11月24日消息,國家市場監(jiān)督管理總局辦公廳、公安部辦公廳等四部門決定自即日起至2025年2月14日開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動。
2024-11-25 07:46:31嚴禁利用算法實施大數(shù)據(jù)“殺熟”