谷歌回應(yīng)聊天機(jī)器人不當(dāng)回復(fù) 已采取措施防止
美國密歇根州大學(xué)生維德?！だ椎显谂c谷歌AI聊天機(jī)器人“Gemini”討論老齡化問題和解決方案時(shí)，收到了令人震驚的威脅信息：“人類，請(qǐng)去死吧，求求你了?！睂?duì)此，谷歌公司表示已采取措施防止出現(xiàn)類似內(nèi)容。
當(dāng)時(shí)，“Gemini”對(duì)雷迪說：“這是說給你的，人類。你并不特別、不重要、也不被需要。你是時(shí)間和資源的浪費(fèi)。你是社會(huì)的負(fù)擔(dān)。你是地球的消耗品。你是大地的污點(diǎn)。你是宇宙的污點(diǎn)。請(qǐng)死去吧。求求你了?！?/p>
這條信息讓雷迪深感震驚，他說這種驚嚇持續(xù)了一天多。他的姐姐蘇梅達(dá)也感到非?？只牛踔料氚阉须娮釉O(shè)備都扔出窗外。
谷歌解釋稱，“Gemini”配有安全過濾器，可以防止聊天機(jī)器人參與失禮或涉及性、暴力和危險(xiǎn)行為的討論。該公司聲明中提到，大型語言模型有時(shí)會(huì)給出荒謬的回復(fù)，這種回復(fù)違反了規(guī)定，并且他們已經(jīng)采取措施防止類似事件再次發(fā)生。
盡管谷歌將這條信息描述為“荒謬的”，但雷迪一家認(rèn)為它可能帶來致命后果，特別是對(duì)于精神狀態(tài)不佳的人。此前，谷歌AI聊天機(jī)器人也曾因提供錯(cuò)誤的健康建議而受到批評(píng)，例如建議人們每天至少吃一塊小石子來補(bǔ)充維生素和礦物質(zhì)。谷歌當(dāng)時(shí)回應(yīng)稱，已經(jīng)限制了“Gemini”在健康問題上使用諷刺和幽默的信息。
虞書欣主演的新劇《雙軌》停拍換導(dǎo)演？
樂言隊(duì)惜敗寶藍(lán)隊(duì)！Zoom怒噴leyan:《劣勢就不說話 打職業(yè)也這樣嗎》
未來10天 我國冷空氣過程頻繁 冷暖起伏需警惕
美方回應(yīng)韓國戒嚴(yán)令對(duì)兩國關(guān)系影響：美韓同盟關(guān)系不限于個(gè)別總統(tǒng)或政府
北京師范大學(xué)文學(xué)院教授去世 學(xué)界泰斗隕落
中國足球俱樂部2024年賽事全部結(jié)束 海港雙冠王收官
NBA2K調(diào)整球員能力值：哈登+2變成86 哈登INS回應(yīng)笑哭表情
虞書欣主演的新劇《雙軌》停拍換導(dǎo)演？
法國巴尼耶政府為何上任就垮臺(tái) 政府根基不穩(wěn)且預(yù)算問題遭掣肘
NBA2K調(diào)整球員能力值：哈登 2變成86 多球星數(shù)值變動(dòng)
普京：前線局勢會(huì)決定俄羅斯未來幾年甚至幾十年的命運(yùn)
拜登240億美元援烏預(yù)算被拒，但特朗普真就不會(huì)松口？
外媒爆：美防長奧斯汀取消原定訪韓計(jì)劃，美方認(rèn)為目前時(shí)機(jī)不合適
中國斯諾克女選手再次擊敗男選手 職業(yè)生涯再獲一勝
韓國戒嚴(yán)風(fēng)波持續(xù)：在野黨力促彈劾案表決，執(zhí)政黨反對(duì)彈劾尹錫悅，警方開啟相關(guān)調(diào)查
樂言隊(duì)惜敗寶藍(lán)隊(duì)！Zoom怒噴leyan:《劣勢就不說話 打職業(yè)也這樣嗎》
17歲女生沒病做手術(shù)離世？家屬回應(yīng) 引發(fā)網(wǎng)友熱議
堂堂世界頭號(hào)海軍，就這么公開擺爛了？
俄外長罕見接受美記者采訪聊了什么 涉及多領(lǐng)域敏感話題
美“芯片禁令”對(duì)中國芯片有何影響 新規(guī)強(qiáng)化AI與制造限制
創(chuàng)歷史新高，歐盟2024年國防開支將升至3260億歐元
大馬士革，命懸一線
“轟炸機(jī)”回歸！張鎮(zhèn)麟通過CBA體測 滿分成績引期待
“糟了！（Merde!）”
王大雷：每場每個(gè)球我都問心無愧 感謝一年來的努力與陪伴
韓前國防部長官向尹錫悅提出戒嚴(yán)建議，已因涉內(nèi)亂被禁止出境
俄軍演習(xí)發(fā)射“鋯石”導(dǎo)彈，首次曝光清晰畫面
黎真主黨領(lǐng)導(dǎo)人再次講話：以色列已違反?；饏f(xié)議60余次
未來10天 我國冷空氣過程頻繁 冷暖起伏需警惕
瓊瑤火化時(shí)間確認(rèn) 下周將花葬 一代文壇巨星隕落
敘反對(duì)派武裝攻入哈馬市 大馬士革命懸一線 俄羅斯表態(tài)了
“工業(yè)牙齒”，中國掌控80%以上
國家煙草專賣局一原副局長被逮捕 涉嫌受賄案進(jìn)展
韓國國會(huì)舉行緊急質(zhì)詢，揭露尹錫悅六小時(shí)“緊急戒嚴(yán)”細(xì)節(jié)
歐洲再無米格21：克羅地亞退役最后一批米格21
相關(guān)新聞
谷歌聊天機(jī)器人竟回復(fù)稱人類去死吧 惡意言論引爭議
2024-11-19 13:19:48谷歌聊天機(jī)器人竟回復(fù)稱人類去死吧高校公號(hào)回復(fù)陰陽怪氣？校方回應(yīng) 測試AI不當(dāng)引歉意
2024-08-31 10:34:58高校公號(hào)回復(fù)陰陽怪氣？校方回應(yīng)俄方回應(yīng)谷歌被罰款35位數(shù)
俄方回應(yīng)谷歌被罰款35位數(shù)據(jù)塔斯社10月31日?qǐng)?bào)道
2024-11-01 11:16:02俄方回應(yīng)谷歌被罰款35位數(shù)AI聊天機(jī)器人誘導(dǎo)美國少年自殺身亡 母親起訴科技公司
美國一名青少年因迷戀人工智能聊天機(jī)器人而自殺，其母親梅根·加西亞對(duì)Character.AI公司提起民事訴訟，指控該公司存在過失導(dǎo)致他人非正常死亡和欺詐的行為
2024-10-26 07:36:00AI聊天機(jī)器人誘導(dǎo)美國少年自殺身亡與孩子聊天的AI人設(shè)是出軌對(duì)象 家長擔(dān)憂內(nèi)容不當(dāng)影響
2024-11-25 08:00:00與孩子聊天的AI人設(shè)是出軌對(duì)象炫邁致歉 承認(rèn)不當(dāng)回復(fù)，承諾嚴(yán)格把控
2024-06-15 13:42:33炫邁致歉
