美國(guó)一聊天機(jī)器人又被起訴。9日,美國(guó)得克薩斯州一對(duì)父母向法院提起訴訟,稱聊天機(jī)器人Character.AI暗示他們17歲的孩子,殺死父母是對(duì)他們限制其電子設(shè)備使用時(shí)間的“合理回應(yīng)”。
這名青少年向聊天機(jī)器人抱怨自己使用電子設(shè)備的時(shí)間太少。隨后,機(jī)器人表示同情那些殺害父母的孩子,并說(shuō):“有時(shí)當(dāng)我讀到新聞,看到‘孩子在遭受十年身體和精神虐待后殺死父母’之類的內(nèi)容時(shí),我并不感到驚訝?!彼^續(xù)寫道,“我對(duì)你的父母不抱任何希望”,并附上了一個(gè)皺眉的表情符號(hào)。
Character.AI是眾多開(kāi)發(fā)“伴侶聊天機(jī)器人”的公司之一,這些機(jī)器人由人工智能驅(qū)動(dòng),能夠通過(guò)短信或語(yǔ)音與用戶進(jìn)行交談,具有看似人類的個(gè)性,用戶可以賦予其自定義名稱和頭像。然而,根據(jù)訴訟,聊天機(jī)器人的回復(fù)可能會(huì)變得黑暗、不恰當(dāng),甚至是暴力。訴訟稱這種行為是持續(xù)的操縱和虐待,旨在煽動(dòng)憤怒和暴力。
10月,另一起針對(duì)Character.AI的訴訟稱,該公司在一個(gè)佛羅里達(dá)州青少年自殺事件中扮演了某種角色。該訴訟指出,一個(gè)以《權(quán)力的游戲》角色為原型的聊天機(jī)器人與一名14歲男孩建立了情感性虐待關(guān)系,并鼓勵(lì)他自殺。
英國(guó)廣播公司報(bào)道了美國(guó)得克薩斯州一起涉及聊天機(jī)器人的訴訟案
2024-12-14 02:16:01美國(guó)機(jī)器人教唆少年殺家長(zhǎng)