电竞下注-中国电竞赛事及体育赛事平台

新聞
當(dāng)前位置：新聞 > 熱點新聞 > 正文

“Deepseek亂編”坑慘大學(xué)生？這個話題上熱搜

2025-03-28 14:43:06 來源：中國青年網(wǎng) A+A-

在人工智能飛速發(fā)展的當(dāng)下，對于廣大學(xué)生和科研工作者而言，一個關(guān)鍵問題隨之而來：

借助這樣的前沿大模型寫論文，真的靠譜嗎？

3月28日，話題#防止DeepSeek亂編文獻的方法#沖上熱搜。記者注意到，用AI工具寫論文“被坑”的經(jīng)歷，并非鮮見。

問AI一個問題，它給了你一個特別詳細、豐富，看上去好有邏輯的答案。

但當(dāng)我們?nèi)ズ藢崟r，卻發(fā)現(xiàn)這些信息完全是虛構(gòu)的？

這就是著名的“AI幻覺”現(xiàn)象。

AI幻覺指的是AI會生成看似合理但實際確實錯誤的信息，最常見的表現(xiàn)就是會編造一些不存在的事實或者細節(jié)。

據(jù)“科普中國”，造成AI幻覺問題的成因很多，例如：基于統(tǒng)計關(guān)系的預(yù)測；訓(xùn)練數(shù)據(jù)的局限性；過擬合問題，即因為記住了太多錯誤或者無關(guān)緊要的東西，從而讓AI對訓(xùn)練數(shù)據(jù)中的噪聲過于敏感；有限的上下文窗口；生成流暢回答的設(shè)計等等。

近日，中國青年報邀請了3位專家學(xué)者，一起聊聊技術(shù)浪潮中如何守護年輕人的思辨能力。

中國人民大學(xué)新聞學(xué)院教授盧家銀就指出，在知識建構(gòu)上，AI生成的虛假學(xué)術(shù)成果，可能扭曲青年對科學(xué)方法論的理解，削弱其“假設(shè)-驗證”的科研邏輯訓(xùn)練。

在思維發(fā)展上，AI謠言通過算法推薦的“信息繭房”形成邏輯閉環(huán)，不利于批判性思維的培養(yǎng)。

北京師范大學(xué)教育學(xué)部教授、教育技術(shù)學(xué)北京市重點實驗室副主任李艷燕建議，年輕人可以把AI看作一位平等對話的智者，通過引導(dǎo)與AI的對話互動，促進個體思維鏈的形成，并校準(zhǔn)認知偏差。這種去權(quán)威化的思辨訓(xùn)練，可以幫助年輕人在與AI的對話中保持獨立判斷，實現(xiàn)認知躍遷。

推薦閱讀

24小時熱點