<dfn id="qmqas"></dfn> “參考文獻(xiàn)全是AI編的，連作者名字都查無此人！”近日，微博話題“防止DeepSeek亂編文獻(xiàn)的方法”登上熱搜，有網(wǎng)友利用AI工具輔助寫論文時(shí)，發(fā)現(xiàn)AI所給的參考文獻(xiàn)在正規(guī)的學(xué)術(shù)資料庫中根本找不到，內(nèi)容、標(biāo)題、作者都是其虛構(gòu)出來的。不少網(wǎng)友也紛紛曬出自己的“踩坑”經(jīng)歷：虛構(gòu)名著中不存在的句子、亂編醫(yī)學(xué)典籍中不存在的醫(yī)術(shù)、“發(fā)明”歷史上完全沒有發(fā)生過的“史實(shí)”……看似無所不知的AI，似乎正悄然成為偽科學(xué)信息的制造源頭。
當(dāng)下，AI工具早已成為輔助人們學(xué)習(xí)、工作的智能幫手。即使面對(duì)專業(yè)性很強(qiáng)的學(xué)術(shù)難題，它也可以提供一個(gè)有數(shù)據(jù)、有出處、有引用，邏輯自洽、內(nèi)容翔實(shí)，看上去科學(xué)合理的答案。然而當(dāng)人們?nèi)プ犯菰?、?yàn)證信息真?zhèn)螘r(shí)，往往發(fā)現(xiàn)那些看似嚴(yán)謹(jǐn)?shù)拇鸢竿耆亲犹摓跤小?/p>
不久前，一則“‘80后’死亡率突破5.2%”的消息刷屏網(wǎng)絡(luò)，聲稱“截至2024年末，每20個(gè)‘80后’中就有1人已經(jīng)去世”。這份附有翔實(shí)人口數(shù)據(jù)、死因分析的“權(quán)威報(bào)告”被眾多自媒體和網(wǎng)友廣泛轉(zhuǎn)載，然而最終卻被證實(shí)為謠言，其數(shù)據(jù)實(shí)為AI工具自編自造。類似事件并非個(gè)例，AI甚至還可以篡改專業(yè)嚴(yán)謹(jǐn)?shù)乃痉▋?nèi)容?！拔矣肈eepSeek查《中華人民共和國民法典》里一則條款，它言之鑿鑿地告訴我在第幾章第幾條，但實(shí)際上這一條的內(nèi)容和它說的完全不一樣，本想通過AI快速搜索一下法條依據(jù)，沒想到它直接開始‘立法’了?！痹谔瓘氖路晒ぷ鞯耐跣隳菘扌Σ坏玫貙?duì)記者說。她還提到，AI不僅會(huì)捏造法條，甚至還會(huì)編案例和判決文書?！叭绻@些假信息未經(jīng)核查便被采信，很可能會(huì)造成嚴(yán)重后果?！彼粺o擔(dān)憂地說。
記者調(diào)查發(fā)現(xiàn)，在醫(yī)療、法律、歷史、文學(xué)等諸多嚴(yán)肅學(xué)科領(lǐng)域都曾有過AI編造、杜撰的偽科學(xué)信息，如AI提供的診療方案最終延誤病情、荒誕的“秘史”被當(dāng)作學(xué)術(shù)成果等。隨著專業(yè)機(jī)構(gòu)的接連辟謠，不少原本對(duì)AI工具盲目信賴的用戶開始重新審視其可靠性。網(wǎng)友@請(qǐng)叫我老周就無奈調(diào)侃：“AI亂編內(nèi)容真假難辨，就連查證時(shí)，它都會(huì)繼續(xù)編造、自圓其說，徹底陷入‘信息套娃’，所以查專業(yè)知識(shí)還是老老實(shí)實(shí)翻書、查正規(guī)資料庫吧?！?/p>
“AI對(duì)科學(xué)信息的拼接和虛構(gòu)本質(zhì)上與謠言無異，只不過相較于普通的謠言，它的偽裝能力更強(qiáng)，本身就披著科技的外衣，再加上晦澀專業(yè)術(shù)語的包裝，讓其自帶一種‘權(quán)威濾鏡’，讓人誤以為科學(xué)可靠，極易誤導(dǎo)公眾認(rèn)知?！鄙轿鞴ど虒W(xué)院傳媒學(xué)院教師馮梅認(rèn)為，AI既可以成為科學(xué)傳播的得力助手，但也可能淪為偽科學(xué)滋生的溫床。為此，她提醒廣大網(wǎng)友，在進(jìn)行學(xué)術(shù)研究或科學(xué)探索時(shí)，不能過度依賴和輕信AI軟件，而應(yīng)尋求科學(xué)、正規(guī)的專業(yè)機(jī)構(gòu)、權(quán)威平臺(tái)或者有資質(zhì)的專家并進(jìn)行交叉驗(yàn)證，規(guī)避掉進(jìn)偽科學(xué)的“陷阱”。
