國大研究團隊論文藏提示 試圖影響AI生成同行評審

2025/07/12   •   573閱
新加坡國立大學研究團隊因在論文中隱藏提示,試圖影響人工智慧同行評審引發關注。該團隊在論文附錄中插入隱藏文字,引導人工智慧系統給出正面評價。國大已介入調查並撤回相關論文,強調不認可這種不當使用人工智慧的方式。了解事件詳情及國大回應,關注人工智慧同行評審的潛在風險。

新加坡國立大學。(圖:TODAY)

以新加坡國立大學為主的一個研究團隊被發現在研究論文中隱藏提示,試圖影響人工智慧生成的同行評審(peer review)。

新傳媒英文新聞網CNA報道,國大前天(10日)發表聲明說,論文是由包括一名助理教授、三名博士生和一名研究助理在內的國大研究人員,以及一名耶魯大學博士生聯合撰寫。

據報道,團隊在今年2月到6月間,總共提交了三個論文版本。其中,在今年5月提交的第二個版本,附錄中有一行白色文字,指示人工智慧系統只能生成正面評價,而不能生成負面評價。在6月提交的最新論文版本中,已找不到這行白色文字。

這行文字只有在被標記顯示後,一般人才看得出來。不過,人工智慧系統卻可以識別出這種格式的提示。

雖然這類提示不會影響由人類評審進行的同行評審程序,但可能會誤導使用人工智慧進行的初步評估。

對此,國大發言人說,校方不認可這樣不當使用人工智慧的方式。國大正在調查這起事件,並將根據校規來處理。

聲明也說,國大已經從同行評審中撤回有關論文。至於早前已發表在康奈爾大學的學術研究平台Arxiv的網上版本,則已被更正。

及時獲取本站更新:

設為 Google 偏好來源