央視網訊息（記者/杜安琪）：近期，幾起借助生成式AI寫學術論文的事件引發關註：教授姓名標示的論文中出現ChatGPT常用提示語，醫生用AI制作論文插圖疑似違反常識……網友評價「抄答案連名字都抄上了」「用AI之後不會檢查一下嗎」「醫生自己不覺得圖片離譜嗎」，更有網友懷疑這屬於造假、抄襲等學術不端行為。
「據了解，目前已經有學生在用AI，特別是生成式AI去寫論文和課程作業了。不一定用的是ChatGPT，可能是一些其他中低端的生成式AI產品。」同濟大學馬克思主義學院副教授、博士生導師王少向【新聞+】記者表示。作為省部級和國家級學術不端治理研究計畫的主持人，王少已經在ChatGPT與學術不端領域撰寫多篇論文。「照目前的發展情況看，將AI作為輔助研究工具，很有可能會成為一個流行的趨勢。」
用AI做學術，利弊並存
某高校法學院研究生張立清是AI的「輕度使用者」。「我一般用它來做檢索，AI比網頁檢索更方便、快捷，而且更有效率。」張同學向記者表示，「當你想要去涉及一個新領域，比如了解從來沒有研究過的東西，或者是你從來沒聽過的概念，可以讓AI用簡單的話講給你。」
在嘗試過AI的各種用法之後，張立清認為效果最好的是用AI做潤色。「在寫英文論文的時候，把文字輸進去，讓它幫你改成更加標準的英語，這個體驗是非常好的。因為AI檢索英文能力比較強，如果我的論文涉及國外的判例法等資訊，我就會使用AI。目前，我認為AI的正面作用大於負面作用。」
不過，也有研究者並不看好生成式AI的功能。一年後即將從某高校博士畢業的楊佑宜表示，生成式AI對於要求較高的博士論文用途不大。「AI生成的內容比較淺顯且準確率不高，會編造不存在的論文，或者把相同意思的內容反復去說。我2023年用過一次之後就沒有再用過了」。
另一所高校在讀本科生鄔小涵也認為，用AI寫論文有點大材小用了。「平時的作業主要是相對基礎的思考和研究，比如一些思考題、主觀題和1000字的小論文。自己查查資料、看看書就可以完成。」鄔小涵說，「做學術的比較專業的人，或者未來在工作上可能會用得到。目前本科裏面很少有同學用AI，我個人就沒有用過。」
「生成式AI對於學術研究的影響，我覺得是利弊並存的。」王少表示，「對於推動創意完善，實作重復內容的大規模創造，生成式AI都具有極大的價值。這些工具在加深人與人工智慧互動的同時，也會給學術研究等各種知識生產工作帶來新的發展機遇。我們的學術研究人員，包括教師、學生，都可以從一些重復性的閱讀和材料整理工作當中解放出來，從而將更多的時間放到創新之上。所以有利之處也是比較多的。」
但是，生成式AI的弊端同樣很明顯，比如它對學術不端治理造成了很大的沖擊。王少介紹，學術不端通常是指違背學術倫理、科研誠信的行為，或者是侵害著作權、誤導科研界的行為。從外延的角度看，經典的學術不端行為主要是「FFP」，也就是捏造、篡改和剽竊，此外，還有不當姓名標示、重復發表、侵占他人研究成果、數據管理不善、未披露利益沖突等一些表現形式。
生成式AI會助長學術不端嗎？
「在ChatGPT等生成式AI興起之前，AI在學術研究中的主要功能是輔助，像輔助繪圖、輔助整理文獻等等。雖然也可能涉及學術不端，但總的來說風險不大。但是生成式AI，無論是ChatGPT還是GPT-4，都是以內容生產為核心功能，它直接指向論文撰寫，這樣就使得學術不端的風險增大了。」王少介紹。
王少認為，理論上，使用AI可能發生全部型別的學術不端行為，其中最可能的是剽竊和捏造。首先，AI產出的文本並不是他人未曾表達或未充分表達的觀點，而是對於他人的觀點做了一些統合梳理、歸納總結，然後以改頭換面的方式表達出來而已，這就直接指向了剽竊。此外，現在的生成式AI有一個非常重要的功能——基於人類反饋的學習。AI透過反饋學習獲得使用者的思想內容，再向其他使用者進行二次創作的時候，就有可能涉嫌剽竊先前使用者的思想。
「從捏造的角度來看，生成式AI在數據收集、處理和輸出過程當中，存在一個幻覺效應。它生成的文本往往會出現編造錯誤的文獻、出現錯誤的引註等問題。如果我們不加分辨地使用生成的內容，肯定會影響學術論文的真實性，降低學術論文的價值，產生一種捏造行為。」王少介紹。
生成式AI：只能是輔助工具
既然AI增加了學術不端的風險，是否應該在寫論文時使用AI呢？王少表示：「一般來說，我們不應當直接使用AI寫學術論文，這是不被接受的。因為在現有的技術條件和學術不端治理的政策框架之下，直接使用AI去撰寫論文無法規避學術不端風險。」
王少介紹，目前對於AI所導致的學術不端，相關規範仍然不太健全。國際上通常是一些研究機構或期刊做出規定，比如【Science】雜誌還有中國的一些期刊，都明確拒絕接受生成式AI撰寫的論文。「有研究表明，人們很難辨別論文是否由AI撰寫。美國北密西根大學一位教授就曾讀到一篇他認為‘全班最好的論文’，而這篇論文卻是學生用ChatGPT生成的。」王少表示。
2023年7月，國家網信辦聯合國家發展改革委、教育部等七部門釋出的【生成式人工智慧服務管理暫行辦法】，對提供和使用生成式AI服務進行了規定。這是目前中國規制生成式人工智慧的主要規範。不過，王少指出，這些政策基本都沒有提到生成式AI參與的學術不端問題。「當技術發展得更為完善之後，比如能夠更準確地去分析文獻資訊數據的真偽，具有學術不端預警和追蹤功能，可以獲取所使用作品的部份著作權的時候，才可以有限地用於撰寫學術論文。」王少表示。
王少表示：「目前我們只能將AI作為研究輔助工具，而不應該直接用於撰寫論文。」他認為，學術論文一個非常重要的特點就是原創性和獨創性。對於學術工作者來說，特別是一些年輕的學者和學生，論文寫作是學術研究能力最核心的一環。如果把這一環交由AI去做，對於個人的學術的發展，對於整個學術事業的發展都是有害的。
不過，完全禁止使用AI也是一種因噎廢食的做法。「我覺得面對這樣一個新興技術，我們既不能夠憂懼、恐慌，也不能不假思索地敞開懷抱。一方面我們要積極去面對它，另一方面也要主動去防範它。在大學裏可以開設一些相關的課程，不僅要教學生怎麽去使用生成式AI，還要教會學生怎麽用才是合理的、規範的，才是合乎學術倫理的。我覺得後面這一點可能更重要。」
張立清也支持在學術研究中合理地使用AI。「我覺得寫論文並不是一件事情，它是一個過程。第一步肯定要先檢索，先要去了解一下這個概念和背景知識。第二步是需要知道最近有哪些文章、研究成果可以看。然後第三步再去看，再去整合。」張立清說，「我認為，使用AI可能在第三步、第四步的效果並不是很好，但是在第一步、第二步，在檢索階段可以給我們提供很多參考，節省一些時間。」
（應受訪者要求，文中張立清、楊佑宜、鄔小涵皆為化名）
