新加坡：樟宜机场一片废墟、滨海湾花园大火、滨海湾金沙附近的桥梁坍塌——这些场景在现实中从未发生，但就在一天之内，任何人只需输入一句简单的AI指令，就能生成如此逼真的图像。
周五（7月31日），谷歌撤回了其在24小时前刚刚推出的新功能。该功能允许用户在 Google Earth 卫星图像网站中，直接调用谷歌自家的 AI 图像生成器 Nano Banana 来创建此类图像。
在周四的最初公告中，谷歌将该功能的定位为“激发想象力与规划”，例如将该功能用于构思一个新的社区或创建房地产蓝图。
然而，这一举动迅速引发了来自新闻界、AI 领域和开源情报专家的猛烈批评。专家警告称，该功能会让虚假信息的制造变得更加简单且快速。知名开源调查员 Henk van Ess 是首批发出警告的人之一，他在周五早些时候的博文中指出，此举带来的危害将远超益处。
虽然 AI 生成的伪造图像并非新鲜事，但专家指出，Google Earth 的这一更新将使本就紧张的局势进一步恶化。卫星图像长期以来被认为具有更高的可信度，且常被用于揭穿谎言；而这项新功能竟将这个领域内一个免费、便捷且领先的工具，变成了传播极具说服力的谎言的利器。
谷歌并未公布 Google Earth 的活跃用户数，但多年来的报道显示，其总下载量在 5 亿到 10 亿之间。
周五，谷歌表示将撤回该新功能，并致力于实施“更强大的护栏”。
谷歌在声明中称：“我们深知人们对 Google Earth 观察世界的可靠性有着独特的信任。我们看到地理空间专业人士将此功能用于多种有用目的，但我们也发现有人分享的生成图像截图违反了我们的政策。”
在功能被移除之前，CNA 进行了测试，在 Google Earth 的新加坡地点生成了上述三个虚构场景。在输入 AI 指令时，系统没有任何拒绝或限制。
虽然公开的 Google Earth 地图没有被修改，其他用户也看不到这些伪造示例，但 CNA 能够轻松截屏，并将其上传至 Facebook、Instagram 和 TikTok 等主流社交平台，且过程中无需声明这些图像是由 AI 生成的。
CNA 还将这些截图提交给了四款商业 AI 检测工具。其中两款工具认为其中两张图片是真实的，操纵可能性较低；另一款工具则标记其中一张图片很可能是真实的。
而当这些图像通过谷歌的 Gemini AI 应用运行时，系统检测出它们部分、大部分或全部是由谷歌 AI 创建或编辑的。
在功能移除前，使用 Google Earth 集成的 Nano Banana 工具生成的滨海湾花园火灾 AI 图像。为什么 AI 生成的地图图像至关重要
二十年来，Google Earth 一直被视为验证地点样貌的标准参考。它也是全球调查员的可靠工具，例如在乌克兰和中东的冲突报道中被广泛使用。
近期，Google Earth 的图像也成为了 AI 操纵的目标，并产生了严重后果。今年 2 月，一家伊朗官方新闻机构发布了一组 Google Earth 卫星图像的“前后对比图”，声称伊朗无人机袭击摧毁了卡塔尔基地的美国雷达设备。但最终证明，这其实是一张巴林美国基地的 Google Earth 图像经过 AI 操纵而成的。然而此时，该图片已在全球社交媒体上获得数百万次浏览。
正是因为使用了真实的 Google Earth 图像，才赋予了伪造图更高的可信度。专家指出，如果 AI 生成工具直接内置在 Google Earth 界面中，此类造谣行为将不再需要花费太多精力。
除了 van Ess 之外，其他专家称此举“不负责任”，并可能对“卫星图像的可信度造成灾难性破坏”。
在 LinkedIn 上，来自非营利组织信息韧性中心（Centre for Information Resilience）的开源调查员兼 AI 专家 Tom Jarvis 在功能撤回前写道：“谷歌创造了一个让情况恶化的功能。那些本可以通过卫星图像被追究责任的人，现在可以用同一个工具更轻松地扰乱信息空间。”
新加坡 S Rajaratnam 国际研究学院（RSIS）国家安全卓越中心负责人 Benjamin Ang 告诉 CNA：“研究表明，几十年来，人类习惯于认为卫星图像比地面拍摄的照片更可信，因为它们看起来来自客观视角，且更难篡改。”
他补充道：“过去，要以令人信服的方式制作伪造卫星图需要相对较高的资源、技术和技能，但现在几乎任何人都能创建出引发恐慌、愤怒或欺骗接收者的伪造图。”
谷歌在早前的一份声明中试图为该功能辩护，指出所有通过 Google Earth 中的 Nano Banana 创建的图像都包含 SynthID 数字水印——这是谷歌开发的一款帮助人们识别 AI 生成内容的工具。
该公告当时称：“因此，如果有人对图像不确定，可以通过 Gemini 应用或使用搜索中的 Lens 来查看图像是否由 AI 生成。此外，我们禁止创建有害主题的图像，并不断更新我们的保护措施。”
然而，Ang 先生指出，一旦一张图片“进入普通的 WhatsApp、Telegram 或微信家庭群或好友群，几乎没有人会在转发给他人之前，特意去经历上传图片到验证门户的繁琐步骤”。
