當(dāng)前位置：新聞 > 熱點新聞 > 正文

“Deepseek亂編”坑慘大學(xué)生？這個話題上熱搜

2025-03-28 14:43:06 來源：中國青年網(wǎng) A+A-

在人工智能飛速發(fā)展的當(dāng)下，對于廣大學(xué)生和科研工作者而言，一個關(guān)鍵問題隨之而來：

借助這樣的前沿大模型寫論文，真的靠譜嗎？

3月28日，話題#防止DeepSeek亂編文獻(xiàn)的方法#沖上熱搜。記者注意到，用AI工具寫論文“被坑”的經(jīng)歷，并非鮮見。

問AI一個問題，它給了你一個特別詳細(xì)、豐富，看上去好有邏輯的答案。

但當(dāng)我們?nèi)ズ藢崟r，卻發(fā)現(xiàn)這些信息完全是虛構(gòu)的？

這就是著名的“AI幻覺”現(xiàn)象。

AI幻覺指的是AI會生成看似合理但實際確實錯誤的信息，最常見的表現(xiàn)就是會編造一些不存在的事實或者細(xì)節(jié)。

據(jù)“科普中國”，造成AI幻覺問題的成因很多，例如：基于統(tǒng)計關(guān)系的預(yù)測；訓(xùn)練數(shù)據(jù)的局限性；過擬合問題，即因為記住了太多錯誤或者無關(guān)緊要的東西，從而讓AI對訓(xùn)練數(shù)據(jù)中的噪聲過于敏感；有限的上下文窗口；生成流暢回答的設(shè)計等等。

近日，中國青年報邀請了3位專家學(xué)者，一起聊聊技術(shù)浪潮中如何守護年輕人的思辨能力。

中國人民大學(xué)新聞學(xué)院教授盧家銀就指出，在知識建構(gòu)上，AI生成的虛假學(xué)術(shù)成果，可能扭曲青年對科學(xué)方法論的理解，削弱其“假設(shè)-驗證”的科研邏輯訓(xùn)練。

在思維發(fā)展上，AI謠言通過算法推薦的“信息繭房”形成邏輯閉環(huán)，不利于批判性思維的培養(yǎng)。

北京師范大學(xué)教育學(xué)部教授、教育技術(shù)學(xué)北京市重點實驗室副主任李艷燕建議，年輕人可以把AI看作一位平等對話的智者，通過引導(dǎo)與AI的對話互動，促進(jìn)個體思維鏈的形成，并校準(zhǔn)認(rèn)知偏差。這種去權(quán)威化的思辨訓(xùn)練，可以幫助年輕人在與AI的對話中保持獨立判斷，實現(xiàn)認(rèn)知躍遷。

北京郵電大學(xué)馬克思主義學(xué)院副教授宋林澤認(rèn)為，AI輸出的內(nèi)容只是一個認(rèn)知起點，而不是終點。

大學(xué)生需要主動去驗證它的內(nèi)容，比如查閱權(quán)威來源、對比不同觀點，甚至直接與領(lǐng)域?qū)＜医涣?。這種驗證過程，不僅能幫助我們更全面地理解問題，還能讓我們在面對復(fù)雜信息時更有判斷力。

如何應(yīng)對AI幻覺呢？

AI工具研究者田威提到，想要獲得準(zhǔn)確答案，提問方式很關(guān)鍵。

與AI交流也需要明確和具體，避免模糊或開放性的問題，提問越具體、清晰，AI的回答越準(zhǔn)確。

總結(jié)成提示詞技巧就是下面四種問法：

1.設(shè)定邊界：“請嚴(yán)格限定在2022年《自然》期刊發(fā)表的研究范圍內(nèi)”；

示例：“介紹ChatGPT的發(fā)展歷程”→“請僅基于OpenAI官方2022-2023年的公開文檔，介紹ChatGPT的發(fā)展歷程”

2.標(biāo)注不確定：“對于模糊信息，需要標(biāo)注‘此處為推測內(nèi)容’”；

示例：“分析特斯拉2025年的市場份額”→“分析特斯拉2025年的市場份額，對于非官方數(shù)據(jù)或預(yù)測性內(nèi)容，請標(biāo)注[推測內(nèi)容]”

3.步驟拆解：“第一步列舉確定的事實依據(jù)，第二步展開詳細(xì)分析”；

示例：“評估人工智能對就業(yè)的影響”→“請分兩步評估AI對就業(yè)的影響”：