NUS · INFORMATION INTEGRITY & PLATFORM GOVERNANCE
一条内容是真是假，为什么已经不是唯一的问题？
AI时代，伤害不仅来自“假”，也来自规模、语境与系统放大
2026年8月，一张据称拍到鳄鱼出现在新加坡班丹蓄水池的照片引发关注。
公用事业局使用多个AI检测工具检查图片，得到的结果却无法达成一致。面对真实鳄鱼可能存在的风险，当局暂停水上活动并进行搜索。后来，这张图片被确认由AI生成，涉事男子也因此被控。
这起事件规模不算大，却暴露出一个越来越普遍的困境：
信息产生得越来越快，
而认证、标记、核查和纠正信息的能力，未必跟得上。
NUS副教务长（教育创新）、NUS College院长兼David Marshall法学教授Simon Chesterman在《海峡时报》评论中指出，多年来，错误信息治理常围绕一个看似简单的问题展开：“这是真的吗？”
这个问题仍然重要，却正在变得更难回答，也不足以单独支撑AI时代的信息监管。
01｜水印能告诉你“从哪里来”，却未必告诉你“是真是假”
技术通常被视为对抗AI内容的第一道防线。水印、内容凭证和来源记录，可以帮助识别内容是否由特定工具生成或经过编辑。
但技术并不是万能鉴定器。
Chesterman教授在文章中提到，OpenAI曾宣布计划为欧盟地区符合条件的ChatGPT文本加入不可见水印，以回应欧盟《人工智能法》的相关要求。然而其测试也显示，文字只要经过一定程度改写，检测效果就可能明显下降。
在一个实验中，把每10个词中的1个替换成同义词，水印检出率便从约92%降至66%；替换四分之一词语后，检出率进一步降至17%。
更根本的问题是，水印回答的是“内容可能来自哪里”，而不是“这段内容是否准确、误导或有害”。
AI生成的内容不一定是假的，
真人拍摄、真人撰写的内容，也不一定没有误导。
一张合成图片可以只是新闻配图；一张真实照片若配上错误说明，同样可能制造严重误解。来源认证值得发展，却不能代替对事实、语境和传播目的的判断。
02｜事实核查仍需要，但正遇到三个越来越明显的限制
传统监管通常针对单条信息：找出虚假陈述，要求更正或删除，并追究发布者责任。
这套方法仍然有必要。欺诈不会因为使用AI而不再是欺诈，深度伪造色情内容也不会因为图像是合成的就减少伤害；选举干预、冒名和诽谤仍可能需要明确法律救济。
但如果把互联网当作无穷无尽的“真假判断题”，就会遇到三类难题。
第一，规模。生成式AI大幅降低了制作逼真文字、图片、音频和视频的成本。内容可以通过自动化流程批量生产，事实核查人员、平台和政府无法在每条信息传播前逐一裁决。
第二，模糊性。最有害的信息未必完全虚假。真实照片可以配上误导标题，事实可以被脱离语境，真实信息也可能被选择性公开，用于恐吓、操纵或煽动。
第三，认证不等于真实。水印和内容凭证可以记录来源与编辑历史，却无法单独证明一项陈述为真。
治理对象若只剩“哪句话是假的”，
便可能忽略信息为什么会被看见、如何被放大，以及伤害怎样形成。
03｜NUS“信息陀螺”：把全球监管放进同一张地图
为了更系统地理解不同国家如何应对快速变化的信息环境，NUS“信息陀螺”（Information Gyroscope，iGyro）项目推出《Beyond Falsehoods 2026》。
这是该项目首份年度全球指数与报告，聚焦错误信息与蓄意虚假信息的监管趋势。
iGyro是一项跨学科研究计划，汇集计算机科学、社会科学、法律、商业、工程和公共政策等领域，研究错误、虚假及恶意信息如何被创造、传播和消费，并探索提升数字信息韧性的方法。
《Beyond Falsehoods 2026》从iGyro的监管与政策研究发展而来，收录并比较了超过400项法律与政策记录，范围包括：
新加坡《防止网络假信息和网络操纵法》（POFMA）
中国刑法及AI内容标识规定
欧盟《数字服务法》
韩国针对露骨色情深度伪造的法律
研究目的不是简单比较哪个国家法律最多或处罚最严，而是建立可以对照的框架：各地主要针对什么伤害、责任由谁承担、设置哪些权力和保障，以及法规实施后发生了什么。
04｜全球监管正在加速，也正在改变方向
报告显示，全球相关监管活动明显增加。
2013年至2017年间，平均每年约出现6项监管工具；到了2023年增至46项，2024年为67项，2025年达到71项。
数量增加之外，更重要的是监管责任开始向上游移动。
在2016年以前，约38%的相关措施针对Facebook、Instagram、YouTube、X、TikTok和WhatsApp等社交、视频与通讯平台；在2023年至2025年采用的措施中，这一比例升至69%。
同一时期，针对个别内容创作者的措施比例由89%降至65%；针对明知内容虚假仍加以传播者的比例，则由64%降至35%。
这并不意味着个人发布者可以免责，而是越来越多监管者意识到：
信息系统的结构，至少与其中流动的单条内容同样重要。
平台决定什么会被推荐、谁能看见、传播多快，以及纠正信息能否追上原始内容。
05｜同一个谎言，被5个人听见和被500万人推荐，风险并不相同
一条错误信息如果只在小群体中出现，与被算法推荐给数百万人，造成的影响完全不同。
一个不起眼网站上的恶作剧，与因为愤怒情绪带来高互动、进而获得平台持续推荐的内容，也具有不同风险。
如果平台设计决定哪些内容更容易走红、付费影响力是否清楚标记，以及更正能否触达看过原内容的人，监管便不能只追问“是谁按下发布键”。
这正是欧盟《数字服务法》的重要逻辑：它并不要求行政人员逐条决定真伪，而是要求大型平台评估系统性风险、提高透明度、向研究人员提供数据，并对其系统运行承担一定责任。
2025年12月，欧盟委员会对X作出首项不合规决定，并就认证标识设计、广告透明度和研究人员数据访问等问题处以1.2亿欧元罚款。X已对该决定提出挑战。
这一案例也说明，平台治理并不简单，也不会自动没有争议。
06｜从“这条帖子是假的吗”转向“什么系统让伤害扩散”
Chesterman教授认为，监管问题正在从“这条帖子是假的吗”，逐步转向：
● 什么系统让潜在有害内容触达如此多人？
● 推荐和转发机制是否制造了人工放大？
● 付费影响力和广告是否足够透明？
● 研究人员能否获得必要数据来评估风险？
● 用户能否有效举报、申诉和纠正错误决定？
● 平台、发布者和公共机构之间应如何分配责任？
这样的转向也为“删除与惩罚”之外的干预留下空间。
平台可以在内容被大量转发前增加适度摩擦，减少人为或自动化放大，标明付费推广，保存来源与编辑记录，并建立真正有效的举报和申诉机制。
这些措施不一定需要政府直接决定每一条内容是真是假，却可以改变伤害形成和扩散的条件。
07｜治理平台风险，也必须防止监管过度
从平台和系统入手，不代表事实核查、媒体素养或针对有害内容的法律可以退出。
同样，它也不能消除监管越界的风险。平台监管本身可能过度、成本高昂，甚至被政治性利用。
真正困难的任务，是在不把政府变成“互联网总编辑”的情况下，监管传播过程和系统风险。
新加坡较早进入这场讨论。2019年通过的POFMA直面一个敏感问题：谁有权认定网络陈述为假？七年后，这个问题仍然重要，却不再足够。
下一阶段不只要问一条信息是否真实，
还要问它造成什么伤害、如何触达公众，以及谁设计了使这种触达成为可能的系统。
《Beyond Falsehoods》的价值，正在于持续追踪这些变化。未来每一版报告不仅记录各地通过多少法律，也会观察监管对象、责任位置、程序保障与实际执行。
它不试图规定一套全球通用模式，而是帮助研究者和政策制定者识别哪些做法有效、哪些不成比例，又有哪些已经被技术变化超越。
在AI时代，维护信息可信度不能只靠抓住每一个谎言，
还要看清推动信息流动的整套系统。
