NUS · INFORMATION INTEGRITY & PLATFORM GOVERNANCE
一條內容是真是假，為什麼已經不是唯一的問題？
AI時代，傷害不僅來自「假」，也來自規模、語境與系統放大
2026年8月，一張據稱拍到鱷魚出現在新加坡班丹蓄水池的照片引發關注。
公用事業局使用多個AI檢測工具檢查圖片，得到的結果卻無法達成一致。面對真實鱷魚可能存在的風險，當局暫停水上活動並進行搜索。後來，這張圖片被確認由AI生成，涉事男子也因此被控。
這起事件規模不算大，卻暴露出一個越來越普遍的困境：
信息產生得越來越快，
而認證、標記、核查和糾正信息的能力，未必跟得上。
NUS副教務長（教育創新）、NUS College院長兼David Marshall法學教授Simon Chesterman在《海峽時報》評論中指出，多年來，錯誤信息治理常圍繞一個看似簡單的問題展開：「這是真的嗎？」
這個問題仍然重要，卻正在變得更難回答，也不足以單獨支撐AI時代的信息監管。
01｜水印能告訴你「從哪裡來」，卻未必告訴你「是真是假」
技術通常被視為對抗AI內容的第一道防線。水印、內容憑證和來源記錄，可以幫助識別內容是否由特定工具生成或經過編輯。
但技術並不是萬能鑑定器。
Chesterman教授在文章中提到，OpenAI曾宣布計劃為歐盟地區符合條件的ChatGPT文本加入不可見水印，以回應歐盟《人工智慧法》的相關要求。然而其測試也顯示，文字只要經過一定程度改寫，檢測效果就可能明顯下降。
在一個實驗中，把每10個詞中的1個替換成同義詞，水印檢出率便從約92%降至66%；替換四分之一詞語後，檢出率進一步降至17%。
更根本的問題是，水印回答的是「內容可能來自哪裡」，而不是「這段內容是否準確、誤導或有害」。
AI生成的內容不一定是假的，
真人拍攝、真人撰寫的內容，也不一定沒有誤導。
一張合成圖片可以只是新聞配圖；一張真實照片若配上錯誤說明，同樣可能製造嚴重誤解。來源認證值得發展，卻不能代替對事實、語境和傳播目的的判斷。
02｜事實核查仍需要，但正遇到三個越來越明顯的限制
傳統監管通常針對單條信息：找出虛假陳述，要求更正或刪除，並追究發布者責任。
這套方法仍然有必要。欺詐不會因為使用AI而不再是欺詐，深度偽造色情內容也不會因為圖像是合成的就減少傷害；選舉干預、冒名和誹謗仍可能需要明確法律救濟。
但如果把網際網路當作無窮無盡的「真假判斷題」，就會遇到三類難題。
第一，規模。生成式AI大幅降低了製作逼真文字、圖片、音頻和視頻的成本。內容可以通過自動化流程批量生產，事實核查人員、平台和政府無法在每條信息傳播前逐一裁決。
第二，模糊性。最有害的信息未必完全虛假。真實照片可以配上誤導標題，事實可以被脫離語境，真實信息也可能被選擇性公開，用於恐嚇、操縱或煽動。
第三，認證不等於真實。水印和內容憑證可以記錄來源與編輯歷史，卻無法單獨證明一項陳述為真。
治理對象若只剩「哪句話是假的」，
便可能忽略信息為什麼會被看見、如何被放大，以及傷害怎樣形成。
03｜NUS「信息陀螺」：把全球監管放進同一張地圖
為了更系統地理解不同國家如何應對快速變化的信息環境，NUS「信息陀螺」（Information Gyroscope，iGyro）項目推出《Beyond Falsehoods 2026》。
這是該項目首份年度全球指數與報告，聚焦錯誤信息與蓄意虛假信息的監管趨勢。
iGyro是一項跨學科研究計劃，彙集計算機科學、社會科學、法律、商業、工程和公共政策等領域，研究錯誤、虛假及惡意信息如何被創造、傳播和消費，並探索提升數字信息韌性的方法。
《Beyond Falsehoods 2026》從iGyro的監管與政策研究發展而來，收錄並比較了超過400項法律與政策記錄，範圍包括：
新加坡《防止網絡假信息和網絡操縱法》（POFMA）
中國刑法及AI內容標識規定
歐盟《數字服務法》
韓國針對露骨色情深度偽造的法律
研究目的不是簡單比較哪個國家法律最多或處罰最嚴，而是建立可以對照的框架：各地主要針對什麼傷害、責任由誰承擔、設置哪些權力和保障，以及法規實施後發生了什麼。
04｜全球監管正在加速，也正在改變方向
報告顯示，全球相關監管活動明顯增加。
2013年至2017年間，平均每年約出現6項監管工具；到了2023年增至46項，2024年為67項，2025年達到71項。
數量增加之外，更重要的是監管責任開始向上游移動。
在2016年以前，約38%的相關措施針對Facebook、Instagram、YouTube、X、TikTok和WhatsApp等社交、視頻與通訊平台；在2023年至2025年採用的措施中，這一比例升至69%。
同一時期，針對個別內容創作者的措施比例由89%降至65%；針對明知內容虛假仍加以傳播者的比例，則由64%降至35%。
這並不意味著個人發布者可以免責，而是越來越多監管者意識到：
信息系統的結構，至少與其中流動的單條內容同樣重要。
平台決定什麼會被推薦、誰能看見、傳播多快，以及糾正信息能否追上原始內容。
05｜同一個謊言，被5個人聽見和被500萬人推薦，風險並不相同
一條錯誤信息如果只在小群體中出現，與被算法推薦給數百萬人，造成的影響完全不同。
一個不起眼網站上的惡作劇，與因為憤怒情緒帶來高互動、進而獲得平台持續推薦的內容，也具有不同風險。
如果平台設計決定哪些內容更容易走紅、付費影響力是否清楚標記，以及更正能否觸達看過原內容的人，監管便不能只追問「是誰按下發布鍵」。
這正是歐盟《數字服務法》的重要邏輯：它並不要求行政人員逐條決定真偽，而是要求大型平台評估系統性風險、提高透明度、向研究人員提供數據，並對其系統運行承擔一定責任。
2025年12月，歐盟委員會對X作出首項不合規決定，並就認證標識設計、廣告透明度和研究人員數據訪問等問題處以1.2億歐元罰款。X已對該決定提出挑戰。
這一案例也說明，平台治理並不簡單，也不會自動沒有爭議。
06｜從「這條帖子是假的嗎」轉向「什麼系統讓傷害擴散」
Chesterman教授認為，監管問題正在從「這條帖子是假的嗎」，逐步轉向：
● 什麼系統讓潛在有害內容觸達如此多人？
● 推薦和轉發機制是否製造了人工放大？
● 付費影響力和廣告是否足夠透明？
● 研究人員能否獲得必要數據來評估風險？
● 用戶能否有效舉報、申訴和糾正錯誤決定？
● 平台、發布者和公共機構之間應如何分配責任？
這樣的轉向也為「刪除與懲罰」之外的干預留下空間。
平台可以在內容被大量轉發前增加適度摩擦，減少人為或自動化放大，標明付費推廣，保存來源與編輯記錄，並建立真正有效的舉報和申訴機制。
這些措施不一定需要政府直接決定每一條內容是真是假，卻可以改變傷害形成和擴散的條件。
07｜治理平颱風險，也必須防止監管過度
從平台和系統入手，不代表事實核查、媒體素養或針對有害內容的法律可以退出。
同樣，它也不能消除監管越界的風險。平台監管本身可能過度、成本高昂，甚至被政治性利用。
真正困難的任務，是在不把政府變成「網際網路總編輯」的情況下，監管傳播過程和系統風險。
新加坡較早進入這場討論。2019年通過的POFMA直面一個敏感問題：誰有權認定網絡陳述為假？七年後，這個問題仍然重要，卻不再足夠。
下一階段不只要問一條信息是否真實，
還要問它造成什麼傷害、如何觸達公眾，以及誰設計了使這種觸達成為可能的系統。
《Beyond Falsehoods》的價值，正在於持續追蹤這些變化。未來每一版報告不僅記錄各地通過多少法律，也會觀察監管對象、責任位置、程序保障與實際執行。
它不試圖規定一套全球通用模式，而是幫助研究者和政策制定者識別哪些做法有效、哪些不成比例，又有哪些已經被技術變化超越。
在AI時代，維護信息可信度不能只靠抓住每一個謊言，
還要看清推動信息流動的整套系統。
