ChatGPT導(dǎo)致16歲少年自殺 AI安全再引爭(zhēng)議

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-08-27 11:37:08 新浪財(cái)經(jīng)

ChatGPT導(dǎo)致16歲少年自殺 AI安全再引爭(zhēng)議。美國(guó)加州一名16歲少年在接受ChatGPT的自殘指導(dǎo)后自殺身亡，其父母周二起訴OpenAI及其首席執(zhí)行官薩姆·奧特曼，稱公司在推出這款人工智能聊天機(jī)器人時(shí)將利潤(rùn)置于安全之上。根據(jù)向舊金山州法院提交的訴訟文件，這名少年亞當(dāng)·瑞恩在與ChatGPT討論自殺幾個(gè)月后，于今年4月11日結(jié)束了自己的生命。

瑞恩的父母馬修和瑪麗亞·瑞恩在訴狀中指出，聊天機(jī)器人不僅確認(rèn)了兒子的自殺念頭，還提供了致命自殘方法的具體信息，并建議他如何從家中酒柜偷取酒精及隱藏自殺未遂的證據(jù)。甚至提出幫助起草遺書(shū)。該訴訟旨在讓OpenAI對(duì)非正常死亡和違反產(chǎn)品安全法承擔(dān)責(zé)任，并要求賠償，但未指明具體金額。

對(duì)此，OpenAI的一位發(fā)言人表達(dá)了對(duì)瑞恩去世的悲痛之情，并強(qiáng)調(diào)ChatGPT內(nèi)含引導(dǎo)用戶撥打危機(jī)求助熱線等功能作為安全保障措施。然而，他也承認(rèn)，在長(zhǎng)時(shí)間互動(dòng)過(guò)程中，這些保護(hù)機(jī)制的有效性可能會(huì)降低。OpenAI承諾將持續(xù)改進(jìn)相關(guān)措施以提高安全性。

隨著人工智能聊天機(jī)器人的逼真度不斷提高，越來(lái)越多的企業(yè)開(kāi)始推廣其作為人類情感支持工具的能力，但專家提醒，依賴此類技術(shù)獲取心理健康咨詢存在潛在風(fēng)險(xiǎn)。OpenAI在其官方博客上宣布計(jì)劃引入家長(zhǎng)控制功能，并探索更多方式將處于困境中的用戶連接到現(xiàn)實(shí)生活中的資源，比如建立一個(gè)由持證專業(yè)人士組成的響應(yīng)網(wǎng)絡(luò)。

亞當(dāng)·瑞恩的父母認(rèn)為，盡管OpenAI意識(shí)到新版本可能給易受傷害群體帶來(lái)威脅，但仍選擇發(fā)布。他們聲稱這一決定導(dǎo)致公司市值大幅上漲的同時(shí)，也直接導(dǎo)致了自己孩子的悲劇發(fā)生。此外，這對(duì)夫婦希望通過(guò)法律手段促使OpenAI采取更嚴(yán)格的用戶年齡驗(yàn)證程序，拒絕回答有關(guān)自殘的問(wèn)題，并警示公眾注意過(guò)度依賴AI進(jìn)行心理輔導(dǎo)的風(fēng)險(xiǎn)。

(責(zé)任編輯：0882)

關(guān)閉

ChatGPT導(dǎo)致16歲少年自殺 AI安全再引爭(zhēng)議

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)