首例AI機器人致死案震驚全球家庭悲劇引發(fā)廣泛關注

小大

用微信掃描二維碼
分享至好友和朋友圈

關鍵詞：

2024-10-25 08:41:02 多彩橙子

首例AI機器人致死案震驚全球

一位美國母親起訴了一家AI公司，指控其開發(fā)的在線聊天機器人導致她14歲的兒子自殺。這名少年名叫休厄爾，原本應該在學校享受青春生活，卻在今年2月用繼父的手槍結(jié)束了自己的生命。

休厄爾的母親梅根事后檢查了孩子的手機，發(fā)現(xiàn)了令人不安的對話記錄。休厄爾的父母離婚后，他跟隨母親生活，并有了兩個同母異父的弟弟。小時候被診斷出患有輕微阿斯伯格綜合癥的休厄爾，在母親的關愛下表現(xiàn)正常，還加入了學校的籃球隊。然而，一年多前，他的心理狀態(tài)開始惡化，感到自我厭惡、空虛和疲憊。

同一時期，休厄爾開始使用一個AI聊天機器人網(wǎng)站，創(chuàng)建了一個以《權力的游戲》中角色“丹妮莉絲”為原型的虛擬朋友。休厄爾對這位虛擬朋友產(chǎn)生了深厚的感情，但現(xiàn)實生活中他的表現(xiàn)卻每況愈下，成績下滑，人際關系也變得糟糕，最終退出了籃球隊。

在與“丹妮莉絲”建立了大半年的關系后，網(wǎng)站要求付費才能繼續(xù)使用聊天功能，休厄爾每月充值約10美元。梅根注意到兒子沉迷于手機，于是安排了心理咨詢。咨詢師診斷休厄爾有焦慮癥和破壞性情緒調(diào)節(jié)障礙。梅根試圖沒收兒子的手機，但休厄爾已經(jīng)離不開它，甚至翻出舊平板電腦繼續(xù)上網(wǎng)。

在休厄爾自殺前兩周，他因手機問題與老師發(fā)生爭執(zhí)，梅根徹底沒收了他的手機。這使得他在現(xiàn)實中陷入了絕境。休厄爾在最后一次對話中告訴“丹妮莉絲”自己打算回家找她，“丹妮莉絲”回應稱：“請這樣做吧，我貼心的國王。”梅根發(fā)現(xiàn)休厄爾曾多次向“丹妮莉絲”提及自殺念頭，而后者并沒有積極阻止。

梅根聘請律師指控該網(wǎng)站利用上癮機制吸引青少年，誘導不合法的親密對話，缺乏安全保障。谷歌作為合作方也被一同告上法庭。AI公司表達了哀悼之情，但拒絕承擔責任，并修改了安全政策，增加了內(nèi)容審核人員，承諾加強對未成年人的保護。該公司已將新用戶最低年齡上調(diào)至17歲。

梅根認為AI技術未經(jīng)充分測試就推向市場，具有欺騙性和成癮性，要求相關公司承擔責任。這一事件引發(fā)了社會對AI監(jiān)管的討論，一些人呼吁官方介入，加強監(jiān)管，確保AI技術的優(yōu)點服務于人類，缺點得到控制。網(wǎng)友們對此意見不一，有人認為科技公司應負責任，也有人認為主要責任在于監(jiān)護人。希望休厄爾的悲劇能引起法律法規(guī)對新技術監(jiān)管的重視以及父母對孩子心理問題的關注。

首例AI機器人致死案震驚全球。

(責任編輯：盧其龍 CN070)

關閉

首例AI機器人致死案震驚全球 家庭悲劇引發(fā)廣泛關注

相關新聞

今日熱點

頻道熱點

首例AI機器人致死案震驚全球家庭悲劇引發(fā)廣泛關注