大家在讀論文的時候,有沒有發現過這樣的語句:"As of my last knowledge update(根據我最新掌握的信息)","regenerate response(重新生成回答)","as an AI language model(作為AI語言模型)"。這些都是科學偵探在文獻中發現的研究者使用人工智能(AI)的蛛絲馬跡。
ChatGPT、DeepSeek等生成式AI工具迅速改變了學術出版生態。研究者們越來越多地使用它們來準備和審閱論文,出版商在匆忙之中制定了AI使用準則。盡管政策各不相同,但許多出版商要求作者在論文準備過程中使用了AI需要進行聲明。
科學偵探發現了數百篇疑似未聲明使用AI工具的論文。某些論文被悄然修改,即標志性的AI短語被刪除,卻未作任何說明。
"I am an AI language model
(我是AI語言模型)"
自2023年起,一些專家就開始標記有未聲明AI使用跡象的論文,例如包含"regenerate response(重新生成回答)"等短語,當用戶要求聊天機器人重新回答時,某些大語言模型的聊天工具就會生成這類表述。若作者直接復制粘貼聊天機器人的回復,這些短語就可能出現在論文中。
肯塔基州路易斯維爾大學的研究者Alex Glynn回憶最早發現的案例之一,是發表于《Radiology Case Reports》一篇現已被撤稿的論文[1],包含聊天機器人的特征語句"I am an AI language model(我是AI語言模型)"。這種表述居然通過了作者、編輯、審稿人、排版人員等所有環節的審查。
此后Glynn又發現了數百篇存在AI使用特征的論文,包括含有"Certainly, here are(當然,這里是)"等AI特征短語的文獻。他創建了Academ-AI在線追蹤系統記錄這些案例,目前清單已超700篇論文。他在去年11月發表了相關的預印本文章[2],顯示這些被標記論文有13%發表于愛思唯爾、Springer Nature 、MDPI等大型出版商的期刊。
波蘭一所大學的研究者Artur Strzelecki也收集了高影響力期刊中未聲明AI使用的案例。他在12月發表的研究中[3],發現64篇可疑論文所在的期刊位居Scopus學術數據庫所在專業領域的前25%。
《Nature》新聞團隊聯系了相關的多家出版商,所有出版商均表示正在調查這些被標記論文。他們同時指出各自的AI政策——有些并不要求聲明AI使用,或僅要求特定用途需聲明。例如Springer規定,用于改進可讀性、文體、語法或拼寫錯誤的AI輔助文本編輯無需聲明。
英國IOP出版社同行評議與科研誠信負責Kim Eggleton指出,雖然該出版社2023年曾要求作者必須聲明AI使用,但去年已修改政策。"我們鼓勵作者披露AI使用情況,但不再強制要求。期刊通過自動化與人工檢查相結合來確保內容準確性,而非完全禁用AI”。IOP政策禁止使用AI"創建、更改或操縱"研究數據或結果。
科研偵探們逐漸接受許多研究者會用AI協助準備論文的現實。Glynn等人認為這恰恰更需要透明公開AI的使用情況。隨著某些應用的普及,僅聲明"使用了AI"也變得無意義。因此作者應具體說明AI使用方式,以幫助編輯和讀者判斷需要重點核查的內容。
論文的“隱形”修改
Glynn表示,對于未聲明AI使用的論文,出版商往往不會發布正式修正或撤稿。刪除AI特征的短語未必都需要發布勘誤,只需備注說明即可。
但Glynn也認為,修改后不進行標注會帶來問題,因為AI短語的存在暗示文本可能存在其他問題。例如在《PLoS ONE》一篇已撤稿的論文中[4],誠信專家通過"重新生成回答"這一短語,進而發現該論文其他問題,例如大量參考文獻無法驗證。
出版商存在許多未標注修改的"隱形修正"案例。例如愛思唯爾期刊《Toxicology》一篇2023年論文中[5],"重新生成回答"的短語被悄然刪除。愛思唯爾發言人表示會調查可疑案例并酌情修正記錄,其AI政策要求作者"應在稿件中披露生成式AI和AI輔助技術的使用"。
在今年2月的論文中[6],Glynn等報告了100多篇存在隱形修改的文章,部分涉及未聲明AI使用,其他涉及作者名單變更或圖片修改。
參考文獻:
1.Radiol. Case Rep. 19, 2106–2111 (2024); retraction 19, 3598 (2024) .
2.Preprint at arXiv https://doi.org/10.48550/arXiv.2411.15218 (2024).
3.Learn. Publ. 28, e1650 (2024).
4.PLoS ONE 19, e0298220 (2024); retraction 19, e0302484 (2024).
5.Toxicology 497–498, 153629 (2023).
6.Learn. Publ. 38, e1660 (2025).
文章整理自:https://www.nature.com/articles/d41586-025-01180-2
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.