“論文疑似AI生成率82.54%?！?span style="display:none">rW5即熱新聞——關(guān)注每天科技社會生活新變化gihot.com
5月初，中國人民大學(xué)新聞學(xué)院副教授董晨宇將剛剛完成的研究秀場直播產(chǎn)業(yè)的論文，提交至某學(xué)術(shù)論文檢測平臺，得到的結(jié)果令他哭笑不得。他發(fā)現(xiàn)，系統(tǒng)標(biāo)紅的“高度疑似AI生成”段落，是他們研究團(tuán)隊耗時3年扎根基層、追蹤多個真實案例寫成的內(nèi)容。
近期，西南交通大學(xué)、天津科技大學(xué)、湖北大學(xué)等多所高校提出，學(xué)生的畢業(yè)論文除了要通過查重、答辯外，還需檢測AIGC（AI生成內(nèi)容）工具使用情況。這意味著，若論文的AI生成率過高，學(xué)生可能面臨重新修改、二次答辯甚至無法畢業(yè)的情況。
有學(xué)生反映，自己辛苦撰寫的論文被檢測系統(tǒng)判定為“高AI率”。還有網(wǎng)友將《滕王閣序》《岳陽樓記》等名篇輸入檢測系統(tǒng)，發(fā)現(xiàn)AI率超過50%，由此引發(fā)公眾對相關(guān)檢測工具準(zhǔn)確性和透明度的疑問。
AI檢測論文是否會造成“誤判”
談及近期論文被“誤傷”，董晨宇直言，AI檢測工具不應(yīng)成為判定論文學(xué)術(shù)性的硬性標(biāo)準(zhǔn)。
日前，中青報·中青網(wǎng)記者在社交平臺上以“論文降A(chǔ)I率”為關(guān)鍵詞進(jìn)行搜索，發(fā)現(xiàn)有不少經(jīng)驗分享帖，還有一些應(yīng)屆畢業(yè)生在評論和留言中稱，自己為了降低AI率花費達(dá)上百元。
西南交通大學(xué)3月12日發(fā)布《本科畢業(yè)設(shè)計（論文）規(guī)范使用人工智能工具的規(guī)定（試行）》，表示學(xué)校將對全部本科畢業(yè)設(shè)計（論文）使用AI工具的情況進(jìn)行AIGC檢測，原則上本科畢業(yè)設(shè)計（論文）的AIGC檢測結(jié)果不能超過30%。
該校應(yīng)屆畢業(yè)生劉昱楷（化名）告訴中青報·中青網(wǎng)記者，學(xué)校的新規(guī)對他影響不大，“AI對我來說主要是啟發(fā)思路，我不會照搬照抄”。不過，劉昱楷畢業(yè)論文的文獻(xiàn)綜述部分曾被判定AI率較高，“因為這段內(nèi)容分點、分句較多，我把這部分修改成一些長句進(jìn)行概括總結(jié)，檢測情況就好了很多”。
四川師范大學(xué)應(yīng)屆畢業(yè)生賈悅（化名）的論文同樣被誤判為AI生成。經(jīng)過一段時間的修改，她總結(jié)出一些經(jīng)驗，“使用排比句、押韻的對偶、帶冒號的并列句子，容易被判定為AI生成”。
賈悅并不擔(dān)心AI率檢測，“論文主體內(nèi)容是我自己撰寫的，使用AI更多是為了獲取靈感或求證觀點，學(xué)院老師會協(xié)助我們解決被誤判的問題”。
四川師范大學(xué)發(fā)布文件稱，如有學(xué)生及指導(dǎo)教師反饋論文確實未使用任何AI工具，但“疑似AIGC生成比例”較高，需填寫《四川師范大學(xué)學(xué)士學(xué)位論文（設(shè)計）生成式人工智能使用情況說明表》，交學(xué)院存檔，并由學(xué)院研判處理。
同濟(jì)大學(xué)法學(xué)院互聯(lián)網(wǎng)與人工智能法律研究中心主任張韜略認(rèn)為，當(dāng)前AI生成內(nèi)容檢測工具的技術(shù)成熟度存疑，若直接用于判定學(xué)生學(xué)術(shù)誠信，可能存在誤判風(fēng)險。他強(qiáng)調(diào)，學(xué)術(shù)能力培養(yǎng)需回歸教育本質(zhì)，技術(shù)檢測應(yīng)作為輔助手段，而非唯一評判標(biāo)準(zhǔn)。
張韜略表示，現(xiàn)有工具主要通過文本特征模型比對、概率閾值判定等方式識別AI生成內(nèi)容，但其技術(shù)邏輯存在局限性?！癆I本身學(xué)習(xí)的是人類表達(dá)，當(dāng)人類模仿AI寫作風(fēng)格時，雙方文本特征會逐漸趨同。”他舉例，如果檢測系統(tǒng)將工整對仗視為AI特征，可能會把《滕王閣序》等古文誤判為AI生成內(nèi)容。
“AI率”判定標(biāo)準(zhǔn)存爭議
2024年秋季學(xué)期，中國傳媒大學(xué)新聞學(xué)院教授詹新惠在為本科生開設(shè)《傳播學(xué)概論》課時，發(fā)現(xiàn)了一些異?，F(xiàn)象：一些大一學(xué)生提交的作業(yè)看起來十分專業(yè)，與平時教學(xué)中學(xué)生水平存在明顯差異。
“這會讓人懷疑這篇作業(yè)可能有AI的影子?！痹谡残禄蓍_設(shè)的課程中，期末基本以論文形式結(jié)課，“文科類課程論文使用AI撰寫的可能性相對較高”。
2023年上半年，中國傳媒大學(xué)引入AI輔助批改系統(tǒng)。詹新惠說，借助系統(tǒng)可以識別出一些可疑內(nèi)容，但她并不會完全依靠該系統(tǒng)。
董晨宇查閱了近年來國內(nèi)外有關(guān)AI檢測工具實效性的論文，發(fā)現(xiàn)絕大多數(shù)研究表明，這些工具的檢測結(jié)果并不理想，原因多種多樣，但學(xué)界已形成廣泛共識：判定論文是否由AI生成，不能將檢測工具作為唯一標(biāo)準(zhǔn)。
董晨宇反對為降低AI率而刻意修改文章的表述。他說，檢測工具常以語言是否工整、句式是否僵化作為判斷依據(jù)，而論文寫作本身就要求句式嚴(yán)謹(jǐn)，這導(dǎo)致檢測工具容易出現(xiàn)誤判，“但評價論文并不能單看形式，內(nèi)容的創(chuàng)新才是關(guān)鍵”。同時AI模型在不斷進(jìn)化，其生成的文本越來越接近人類寫作水平，使得檢測工具難以準(zhǔn)確區(qū)分。
“檢測工具的訓(xùn)練樣本可能無法跟上AI進(jìn)化的速度，不同AI模型的輸出結(jié)果也存在差異，這些都造成檢測結(jié)果具有不可靠性?！倍坑畋硎荆琌penAI在2023年因難以準(zhǔn)確檢測AI生成內(nèi)容而暫停相關(guān)檢測工具服務(wù)，而國內(nèi)一些商業(yè)公司仍在開發(fā)相關(guān)檢測工具。
一些高校對學(xué)生使用AI工具持審慎態(tài)度。
2024年4月，中國傳媒大學(xué)發(fā)布《關(guān)于加強(qiáng)2024年畢業(yè)論文（設(shè)計）中規(guī)范使用人工智能管理的通知》，規(guī)定學(xué)生須明確披露是否使用生成式人工智能。如使用，須詳述使用方式、細(xì)節(jié)，包括模型/軟件/工具名稱、版本及使用時間。
2024年12月，《復(fù)旦大學(xué)關(guān)于在本科畢業(yè)論文（設(shè)計）中使用AI工具的規(guī)定（試行）》發(fā)布，允許學(xué)生在征得指導(dǎo)教師同意的前提下，在文獻(xiàn)檢索與整理、二次創(chuàng)作圖表類型推薦與輔助制圖、參考文獻(xiàn)格式整理等方面使用AI工具。
對于部分高校設(shè)定AI率閾值的做法，詹新惠的疑問是：“如何界定‘AI率’？若學(xué)生借鑒AI思路后自行改寫，是否應(yīng)計入‘AI率’？”她表示，文獻(xiàn)綜述、框架結(jié)構(gòu)、觀點提煉均可能涉及AI，無法簡單規(guī)定“可用”與“禁用”，“是否要采納AI提出的觀點，取決于使用者的判斷，這本身就是學(xué)術(shù)能力的體現(xiàn)”。
學(xué)術(shù)研究如何駕馭AI“雙刃劍”
“有檢測平臺一邊收費檢測AI率，一邊兜售‘降A(chǔ)I率’服務(wù)?！倍坑钫J(rèn)為，當(dāng)前檢測AI率的做法并不能有效解決問題，因為學(xué)術(shù)不端行為遠(yuǎn)不止讓AI寫論文這么簡單。
張韜略表示，同濟(jì)大學(xué)目前并未出臺檢測論文AI率的相關(guān)規(guī)定，學(xué)校在制定相關(guān)政策時應(yīng)持審慎態(tài)度。一方面，AIGC檢測技術(shù)尚處于不穩(wěn)定且快速迭代的階段，不宜以其結(jié)論作為判定學(xué)生學(xué)術(shù)誠信的依據(jù)；另一方面，與查重系統(tǒng)相比，AIGC檢測缺乏明確且穩(wěn)定的比對基礎(chǔ)，容易導(dǎo)致誤判。
他建議，在技術(shù)成熟之前，高校應(yīng)避免將AIGC檢測作為強(qiáng)制性畢業(yè)環(huán)節(jié)，而應(yīng)更多關(guān)注如何引導(dǎo)學(xué)生合理使用AI工具，將其融入學(xué)習(xí)和研究過程中，培養(yǎng)學(xué)生與AI建立協(xié)同的智慧生態(tài)，注重培養(yǎng)學(xué)生的創(chuàng)新思維與能力。
張韜略在法學(xué)課程中取消了期末論文作業(yè)，改為現(xiàn)場開卷考試，要求學(xué)生脫離電子設(shè)備完成作答。他認(rèn)為，法學(xué)教育仍應(yīng)強(qiáng)化基礎(chǔ)能力培養(yǎng)，“扎實掌握專業(yè)知識才能評估AI生成內(nèi)容正確與否，這是人機(jī)共存時代的核心競爭力”。
詹新惠注重引導(dǎo)學(xué)生正確使用AI，培養(yǎng)其邏輯思維能力，“如果學(xué)生上交的課程論文缺乏個人思考，無論是否使用AI，都可能拿不到高分；如果借鑒AI后產(chǎn)生了自己的思考，也有可能獲得高分”。
“堵不如疏?！闭残禄菡f，“中國傳媒大學(xué)鼓勵學(xué)生探索AI應(yīng)用，關(guān)鍵在于建立使用規(guī)范?！彼ㄗh借鑒國際期刊經(jīng)驗，允許學(xué)生合理使用AI輔助文獻(xiàn)整理、數(shù)據(jù)處理。對于直接生成核心內(nèi)容的情況，要明確標(biāo)注工具及使用范圍，對于具體問題具體分析。
董晨宇明確反對學(xué)生用AI直接撰寫論文，“這違背學(xué)術(shù)規(guī)范”。他認(rèn)為，應(yīng)當(dāng)認(rèn)識到AI在學(xué)術(shù)研究中的輔助作用，教會學(xué)生合理使用AI，如使用AI搜索工具和專業(yè)文獻(xiàn)閱讀工具，幫助檢索相關(guān)研究、提煉論文核心內(nèi)容等。同時要讓學(xué)生清楚AI的局限性，避免過度神化技術(shù)。他建議高校將考核從結(jié)果導(dǎo)向轉(zhuǎn)向過程導(dǎo)向，關(guān)注學(xué)生在論文寫作過程中閱讀、思考以及與AI深層次互動的表現(xiàn)，有利于培養(yǎng)學(xué)生的綜合思考和協(xié)同思維能力。
本文鏈接：http://m.enbeike.cn/news-4-7565-0.html論文AI率檢測如何避免“誤傷”
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
