电竞下注-中国电竞赛事及体育赛事平台

中華網(wǎng) china.com

新聞

對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

關(guān)鍵詞：
2025-03-24 14:43:23  新浪

近年來，隨著人工智能技術(shù)的飛速發(fā)展，各類AI產(chǎn)品已經(jīng)深度融入我們的日常生活：無論是在搜索引擎里尋求答案，還是在醫(yī)療、金融、教育等領(lǐng)域嘗試獲得專業(yè)建議，人們?cè)絹碓搅?xí)慣于“問AI”。然而，技術(shù)便利的另一面是，越來越多人開始察覺——這些智能系統(tǒng)雖然話說得頭頭是道，卻經(jīng)?！氨犙壅f瞎話”。

杜撰資料、捏造引用、邏輯混亂……AI一副信誓旦旦的語氣，卻輸出著漏洞百出的內(nèi)容，這種現(xiàn)象已經(jīng)屢見不鮮，業(yè)內(nèi)甚至給它起了個(gè)名字——“AI幻覺”（hallucination）。但問題不僅僅是術(shù)語所能涵蓋的那么簡(jiǎn)單，尤其在醫(yī)療、司法、財(cái)經(jīng)等對(duì)信息精準(zhǔn)度要求極高的場(chǎng)景中，這種“幻覺”不僅是個(gè)技術(shù)問題，更可能帶來嚴(yán)重后果。

對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

對(duì)AI的回答要保持質(zhì)疑 “胡編亂造”背后的真相值得每個(gè)人警惕

那么，AI到底是“為什么胡說八道”？它是真的在“說謊”嗎？又該如何防止被它誤導(dǎo)？

我們采訪了一位深度參與語言模型研發(fā)的工程師，試圖還原AI“胡編”的真實(shí)原因。

不是“說謊”，而是“胡猜”

“很多用戶覺得AI在說謊，但其實(shí)從技術(shù)角度看，它并不是有意欺騙?！边@位開發(fā)者解釋說，目前主流的AI語言模型，并不具備對(duì)“真實(shí)”概念的理解。它的工作原理是通過海量的訓(xùn)練數(shù)據(jù)，學(xué)習(xí)如何“預(yù)測(cè)”下一個(gè)最可能出現(xiàn)的詞句。換句話說，它只是在“猜”你想聽什么，并按概率組合出一個(gè)看起來“合理”的答案。

關(guān)閉

妹妹將自己反鎖屋內(nèi) 哥哥化身“超人”爬窗救妹妹

妹妹將自己反鎖屋內(nèi) 哥哥爬窗救妹妹2025-04-14 13:33:15

受賄數(shù)額特別巨大！60歲“老虎”被公訴 副部級(jí)官員落馬

受賄數(shù)額特別巨大,60歲老虎被公訴2025-04-14 13:31:17

申京：我們是一支優(yōu)秀的防守球隊(duì) 從防守做起

申京,我們是一支優(yōu)秀的防守球隊(duì)2025-04-14 13:30:53

巴爾德受傷 馬丁能否撐起巴薩的三冠王夢(mèng)想 年輕球隊(duì)的挑戰(zhàn)

巴爾德受傷馬丁能否撐起巴薩的三冠王夢(mèng)想2025-04-14 13:24:22

高關(guān)稅背景下中企如何“活下去” 三大策略穩(wěn)住腳跟

高關(guān)稅背景下中企如何活下去2025-04-14 11:34:34

緬甸災(zāi)區(qū)進(jìn)入防疫消殺 中方接力馳援 救援“接力棒”持續(xù)傳遞

緬甸災(zāi)區(qū)進(jìn)入防疫消殺中方接力馳援2025-04-14 11:33:08

12級(jí)大風(fēng)將蒙古獒幼崽刮到牧民家，網(wǎng)友：我想要一只牛

12級(jí)大風(fēng)將蒙古獒幼崽刮到牧民家2025-04-14 13:12:55

申京：我們是一支優(yōu)秀的防守球隊(duì) 從防守做起

申京,我們是一支優(yōu)秀的防守球隊(duì)2025-04-14 13:30:53

夫妻中千萬大獎(jiǎng)稱不告訴孩子 等待孩子成熟再告知

夫妻中千萬大獎(jiǎng)稱不告訴孩子2025-04-14 13:22:17

受賄數(shù)額特別巨大！60歲“老虎”被公訴 副部級(jí)官員落馬

受賄數(shù)額特別巨大,60歲老虎被公訴2025-04-14 13:31:17

臺(tái)媒又炒：解放軍軍機(jī)6架次、軍艦7艘持續(xù)在臺(tái)海周邊活動(dòng) 大陸回應(yīng)震懾“臺(tái)獨(dú)”

臺(tái)媒又炒,解放軍軍機(jī)6架次,軍艦7艘持續(xù)在臺(tái)海周邊活動(dòng)2025-04-14 13:23:00

專家稱關(guān)稅戰(zhàn)讓美國(guó)的盟友都不再相信它

專家稱關(guān)稅戰(zhàn)讓美國(guó)的盟友都不再相信它2025-04-14 11:29:22

妹妹將自己反鎖屋內(nèi) 哥哥化身“超人”爬窗救妹妹

妹妹將自己反鎖屋內(nèi) 哥哥爬窗救妹妹2025-04-14 13:33:15

俄稱對(duì)華石油供應(yīng)管夠 滿足中國(guó)需求

俄稱對(duì)華石油供應(yīng)管夠2025-04-14 13:22:33

嚴(yán)格依法實(shí)施各項(xiàng)對(duì)美反制措施 維護(hù)國(guó)家主權(quán)安全發(fā)展利益

嚴(yán)格依法實(shí)施各項(xiàng)對(duì)美反制措施2025-04-14 11:38:49

剖析甲亢哥中國(guó)行直播連續(xù)劇 全民狂歡的流量盛宴

剖析甲亢哥中國(guó)行直播連續(xù)劇2025-04-14 13:11:29

俄為何空襲烏克蘭蘇梅市 教堂鐘聲下的悲劇

俄為何空襲烏克蘭蘇梅市2025-04-14 13:10:43

1條朋友圈求助保住400畝葡萄！多虧了這條朋友圈

1條朋友圈求助保住400畝葡萄2025-04-14 13:26:04

美商務(wù)部長(zhǎng)：電子產(chǎn)品將歸入新的“半導(dǎo)體關(guān)稅”，一兩個(gè)月內(nèi)實(shí)施 確保產(chǎn)品回流美國(guó)制造

美商務(wù)部長(zhǎng),電子產(chǎn)品將歸入新的半導(dǎo)體關(guān)稅,一兩個(gè)月內(nèi)實(shí)施2025-04-14 13:27:10

日本發(fā)生食物中毒事件 已有1人死亡 諾如病毒成疑兇

日本發(fā)生食物中毒事件已有1人死亡2025-04-14 13:11:12

特朗普當(dāng)著孫女的面羞辱記者：看見了嗎？這些就是假新聞

特朗普當(dāng)著孫女的面羞辱記者2025-04-14 13:21:51

美軍再次空襲也門致多人死傷 建筑物遭襲被大火吞噬 硝煙中的平民悲劇

美軍再次空襲也門致多人死傷建筑物遭襲被大火吞噬2025-04-14 11:30:24

中方果斷回?fù)?美軍“六代機(jī)”F-47危！稀土管制加碼

中方果斷回?fù)裘儡娏鷻C(jī)F-47危2025-04-14 13:20:47

老板扛20斤硬幣付工資法官讓其清點(diǎn) 惡意刁難員工

老板扛20斤硬幣付工資法官讓其清點(diǎn)2025-04-14 13:19:18

美國(guó)突然宣布: 部分商品免除所謂“對(duì)等關(guān)稅” 電子產(chǎn)品獲豁免

美國(guó)突然宣布,部分商品免除所謂對(duì)等關(guān)稅2025-04-14 11:49:50

關(guān)稅博弈下A股涌現(xiàn)增持回購潮 積極信號(hào)頻現(xiàn)

關(guān)稅博弈下A股涌現(xiàn)增持回購潮2025-04-14 11:35:07

《無憂渡》裸播0廣，片方恐血本無歸？

《無憂渡》裸播0廣2025-04-14 13:30:37

余承東和工程師拼手速還贏了

余承東和工程師拼手速2025-04-14 13:14:35

韓國(guó)前總統(tǒng)尹錫悅今日受刑事審判 面臨終身監(jiān)禁風(fēng)險(xiǎn)

韓國(guó)前總統(tǒng)尹錫悅今日受刑事審判2025-04-14 13:24:37

美對(duì)等關(guān)稅這劑藥反噬自身 單邊主義終損己利

美對(duì)等關(guān)稅這劑藥反噬自身2025-04-14 13:10:24

八個(gè)有望抗住關(guān)稅沖擊的出海賽道 解鎖全球生活方式共建者新角色

八個(gè)有望抗住關(guān)稅沖擊的出海賽道2025-04-14 11:36:41

大V：烏軍在庫爾斯克損失極為慘重 俄軍反擊得勝

大V,烏軍在庫爾斯克損失極為慘重2025-04-14 13:07:18

《我的后半生》劇情有多狗血 家庭崩塌與人性覺醒

我的后半生劇情有多狗血2025-04-14 13:15:16

眉姐姐潑水節(jié)跳孔雀舞太絕了！斕曦潑水節(jié)演繹非遺孔雀舞

眉姐姐潑水節(jié)跳孔雀舞太絕了2025-04-14 13:28:31

相關(guān)新聞