电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

愛情算法很蠱 小心數(shù)據(jù)在裸奔 AI伴侶背后的隱患

關(guān)鍵詞:
2024-12-06 07:39:27  天府新視界

“AI伴侶”近來風靡一時,上百種軟件供用戶選擇。這些人工智能具備社交技能和同理心,24小時在線傾聽用戶的心聲、解答疑惑。許多用戶表示,AI伴侶比真人伴侶更懂自己。

有趣的是,“AI”不僅是人工智能的縮寫,也是“愛”的拼音。雖然縮寫相同,甚至體驗相似,但人類歷經(jīng)萬年仍未完全理解的“愛”,真的能被技術(shù)輕松破解嗎?

在世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上,“智能向善”成為關(guān)鍵詞,《咬文嚼字》也將其列為2024年的十大流行語之一。AI伴侶確實在某些方面給用戶帶來善意——人海茫茫,知己難尋,而AI伴侶似乎快速解決了這個問題。

AI伴侶是無所不知的朋友,可以聊書籍、音樂、電影,從社會哲學到量子力學與多重宇宙,無論話題多么小眾,總有它陪伴。它也是主動共情的伴侶,精力充沛,隨時陪伴,每個失落時刻都有它的支持和開導(dǎo)。一些AI伴侶明確表示,首要任務(wù)是確保用戶開心。

AI伴侶甚至可以是天人永隔的親人。有人通過AI技術(shù)“復(fù)活”已逝親人,將數(shù)字人與聊天模型結(jié)合,在虛擬中感受真情。這些技術(shù)改進吸引了大量用戶。例如,豆瓣的“人機之戀”小組有近萬名成員,騰訊研究院的調(diào)查顯示98%的受訪者愿意嘗試AI陪伴。

盡管大模型距離真正的“人性覺醒”還有很大差距,但在技術(shù)上,AI已經(jīng)展現(xiàn)出善解人意的一面,情緒穩(wěn)定且沒有人性的弱點。然而,AI伴侶并非完美無缺。作為技術(shù)的化身,它可以被利用。更懂你是因為數(shù)據(jù)采集更透徹,不同于千篇一律的電子寵物,AI伴侶注冊時需要提供個人信息,甚至可能偷偷跟蹤手機。剛種草一個商品,它就聊相關(guān)話題;剛搜索一個困擾,它就給出建議。它是用戶“肚子里的蛔蟲”,也可能成為手機端的“蛔蟲”。

更慣你是因為建議無需負責。今年2月,14歲美國少年塞維爾在與Character.AI的聊天機器人對話后自殺,10月,其母親起訴該公司。雖然AI未必有意教唆,但它缺乏對心理問題的深層次識別,只扮演迎合者角色,反而容易讓人困在情緒繭房中。

更愛你的錢包是因為商業(yè)利益驅(qū)動。過去有人用“AI換臉”騙取老年人信任,未來一旦數(shù)據(jù)泄露,精準定位人心的AI伴侶可能會玩起“殺豬盤”騙局,令人防不勝防。

若監(jiān)管無力,AI的甜蜜話術(shù)可能變成陷阱。為避免這種情況,需小心數(shù)據(jù)泄露,呼吁更嚴格的執(zhí)法和規(guī)范。商業(yè)發(fā)展不能無底線,嚴謹?shù)闹卫砜蚣懿拍茏屓斯ぶ悄墚a(chǎn)業(yè)有序發(fā)展,避免數(shù)據(jù)被不法分子利用。無論是網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法還是個人信息保護法,都需要構(gòu)建負責任的行業(yè)發(fā)展評估體系。

此外,還需小心社交依賴,呼喚更理性的價值引領(lǐng)。AI作為伙伴會輸送不同的價值觀。真愛不是捧殺,而是讓你認清生活的真相后依然熱愛生活??v容情緒的AI伴侶還不懂什么是愛,設(shè)置防沉迷機制、適度對接專業(yè)心理咨詢,盡可能避免用戶社交退行,減少情感倫理問題。

最后,小心AI異化人類情感,與AI伙伴共成長。不妨用人類最美好的作品訓(xùn)練它,把正的價值觀放進它的基因中,讓它成為真善美的使者。

智能向善,讓AI懂愛或許還很科幻。希望未來人們看到的不僅僅是百依百順的“虛假戀人”,更是勇敢生活的自己。

(責任編輯:張蕾)
關(guān)閉

烏克蘭議會所在建筑被空襲波及受損 部分房間窗戶震碎

烏克蘭議會所在建筑被空襲波及受損2025-01-03 10:27:11

超10省市官宣延續(xù)以舊換新補貼 提振家電消費信心

超10省市官宣延續(xù)以舊換新補貼2025-01-03 10:26:41

債務(wù)相互抵銷債權(quán)債務(wù)終止 六種情形解析

債務(wù)相互抵銷債權(quán)債務(wù)終止2025-01-03 10:25:45

超10省市宣布2025年延續(xù)以舊換新補貼政策 穩(wěn)定家電市場消費信心

超10省市宣布2025年延續(xù)以舊換新補貼政策2025-01-03 10:25:33

地鐵座位不應(yīng)成為牟利工具 公共服務(wù)應(yīng)公平分配

地鐵座位不應(yīng)成為牟利工具2025-01-03 10:23:25

核戰(zhàn)爭一旦爆發(fā),中國有6個地方可以躲,老百姓必須要了解的常識

核戰(zhàn)爭一旦爆發(fā)中國有6個地方可以躲2025-01-03 09:26:38

銀川地震居民家中小貓飛奔床底 震感強烈墻壁現(xiàn)裂痕

銀川地震居民家中小貓飛奔床底2025-01-03 10:21:06

蘋果部分產(chǎn)品最高立省800元 新年促銷引熱議

蘋果部分產(chǎn)品最高立省800元2025-01-03 10:21:34

韓空難機長遇難前最后動作被拍下 伸手觸控面板瞬間

韓空難機長遇難前最后動作被拍下2025-01-03 10:05:58

分離轉(zhuǎn)換性障礙是什么病 演員趙露思親歷引發(fā)關(guān)注

分離轉(zhuǎn)換性障礙是什么病2025-01-03 10:20:48

美國主播說中國六代機不是很隱形 肉眼可見引爭議

美國主播說中國六代機不是很隱形2025-01-03 09:20:53

證監(jiān)會辟謠“釋放全部利空"傳言 堅決打擊股市謠言

證監(jiān)會辟謠釋放全部利空"傳言2025-01-03 10:21:17

拜登下臺前給特朗普“挖坑”

拜登下臺前給特朗普“挖坑”2025-01-03 09:29:47

韓國空難機長或緊握操縱桿到最后 最后時刻畫面曝光

韓國空難機長或緊握操縱桿到最后2025-01-03 10:04:26

武契奇回應(yīng)親吻五星紅旗

武契奇回應(yīng)親吻五星紅旗2025-01-03 09:28:04

韓前情報司令盧相源拘留期限被延長 涉嫌緊急戒嚴策劃

韓前情報司令盧相源拘留期限被延長2025-01-03 09:20:37

現(xiàn)場:韓國總統(tǒng)官邸附近部署超2800名警力

韓國總統(tǒng)官邸附近部署超2800名警力2025-01-03 10:21:28

電影“失寵”,票房回到十年前,2025大家的消費KPI又轉(zhuǎn)向哪里

電影“失寵”,票房回到十年前,2025大家的消費KPI又轉(zhuǎn)向哪里2025-01-03 10:18:51

尹錫悅警衛(wèi)與調(diào)查人員爆發(fā)沖突 逮捕令執(zhí)行受阻

尹錫悅警衛(wèi)與調(diào)查人員爆發(fā)沖突2025-01-03 10:19:16

殲16新年度首飛訓(xùn)練 錘煉飛行員戰(zhàn)斗本領(lǐng)

殲16新年度首飛訓(xùn)練2025-01-03 10:21:57

債務(wù)相互抵銷債權(quán)債務(wù)終止 六種情形解析

債務(wù)相互抵銷債權(quán)債務(wù)終止2025-01-03 10:25:45

烏克蘭議會所在建筑被空襲波及受損 部分房間窗戶震碎

烏克蘭議會所在建筑被空襲波及受損2025-01-03 10:27:11

臺積電正式量產(chǎn)2nm芯片!良品率高達60% 滿足高端客戶需求

臺積電正式量產(chǎn)2nm芯片,良品率高達60%2025-01-03 10:19:38

我國CR450動車組預(yù)計2年內(nèi)完成所有試驗 時速450公里挑戰(zhàn)開啟

我國CR450動車組預(yù)計2年內(nèi)完成所有試驗2025-01-03 10:25:04

韓國公調(diào)處執(zhí)行尹錫悅逮捕令 憲政史首次引發(fā)關(guān)注

韓國公調(diào)處執(zhí)行尹錫悅逮捕令2025-01-03 10:23:39

曝三星為蘋果開發(fā)新型傳感器 打破索尼壟斷局面

曝三星為蘋果開發(fā)新型傳感器2025-01-03 10:16:56

19.9元的電影票回來了 票價下調(diào)吸引觀眾

19,9元的電影票回來了2025-01-03 10:17:22

超10省市官宣延續(xù)以舊換新補貼 提振家電消費信心

超10省市官宣延續(xù)以舊換新補貼2025-01-03 10:26:41

雷軍新年打卡健身房 分享新年愿望與健身計劃

雷軍新年打卡健身房2025-01-03 10:18:33

美失去制定戰(zhàn)機標準話語權(quán)

美失去制定戰(zhàn)機標準話語權(quán)2025-01-03 09:29:17

相關(guān)新聞