警惕AI幻覺帶來的虛假編造 AI問診需謹(jǐn)慎

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2025-02-27 13:09:38 新浪財經(jīng)

警惕AI幻覺帶來的虛假編造！近日，有關(guān)“帶著DeepSeek看病”的話題引起了廣泛關(guān)注和討論。有人分享了自己使用AI問診的經(jīng)歷，稱AI給出的答案與醫(yī)生建議一致，甚至在醫(yī)院檢查報告還未出結(jié)果時，AI就已經(jīng)完成了分析。

人工智能的興起正在改變醫(yī)療行業(yè)。各地多家醫(yī)院引入DeepSeek，并將其應(yīng)用于臨床、科研和行政管理等多個場景。然而，AI能否完全替代醫(yī)生仍需質(zhì)疑。湖南省醫(yī)保局日前印發(fā)通知，明確規(guī)定禁止接收由人工智能自動生成的處方。一些醫(yī)生也指出，AI診斷結(jié)果只能作為參考，在處理復(fù)雜病例和結(jié)合患者個體差異方面仍有局限性，最終診斷仍需依靠醫(yī)生的專業(yè)判斷。盡管AI在某些情況下看起來非常準(zhǔn)確，但仍然需要醫(yī)生更為專業(yè)的判斷，更適合輔助專業(yè)醫(yī)護人員進行診療。對于普通大眾而言，在使用AI問診時，警惕“AI幻覺”帶來的虛假編造尤為重要。

很多時候，當(dāng)我們向AI提問時，可能會得到一個詳細(xì)且邏輯嚴(yán)密的回答。然而，進一步核實后會發(fā)現(xiàn)這些信息存在虛構(gòu)和編造，這就是所謂的AI幻覺。由于大模型訓(xùn)練數(shù)據(jù)可能存在偏差或不全面，AI容易生成不準(zhǔn)確的結(jié)果。此外，AI基于概率生成內(nèi)容，缺乏對個案的真實感知和事實的深度理解，容易陷入“自說自話”的境地，甚至編造看似合理實則荒謬的信息。

不少網(wǎng)友已經(jīng)發(fā)現(xiàn)了AI幻覺現(xiàn)象。有人發(fā)帖表示，在用AI進行文獻分析時，答案中會出現(xiàn)查無此文的文獻；有人發(fā)現(xiàn)，AI會把一本書的作者安到另一個人身上；還有人發(fā)現(xiàn)，AI給出的答案存在上下文不符、邏輯不一致的現(xiàn)象。這提醒我們，AI生成的內(nèi)容并非完全可靠，要理性看待和使用，特別是在醫(yī)療等嚴(yán)肅領(lǐng)域，不可完全依賴AI，以免對自身健康造成危害。

警惕AI幻覺并不意味著要因噎廢食，而是要在技術(shù)層面加以改進，并在倫理和規(guī)范層面未雨綢繆。AI的發(fā)展需要在進步中不斷反思，在反思中持續(xù)前行。只有這樣，才能讓AI成為推動社會進步的有力工具，而不是隱患之源。

(責(zé)任編輯：盧其龍 CN070)

關(guān)閉

警惕AI幻覺帶來的虛假編造 AI問診需謹(jǐn)慎

相關(guān)新聞

今日熱點

頻道熱點