新加坡：樟宜機場一片廢墟、濱海灣花園大火、濱海灣金沙附近的橋樑坍塌——這些場景在現實中從未發生，但就在一天之內，任何人只需輸入一句簡單的AI指令，就能生成如此逼真的圖像。
周五（7月31日），谷歌撤回了其在24小時前剛剛推出的新功能。該功能允許用戶在 Google Earth 衛星圖像網站中，直接調用谷歌自家的 AI 圖像生成器 Nano Banana 來創建此類圖像。
在周四的最初公告中，谷歌將該功能的定位為「激發想像力與規劃」，例如將該功能用於構思一個新的社區或創建房地產藍圖。
然而，這一舉動迅速引發了來自新聞界、AI 領域和開源情報專家的猛烈批評。專家警告稱，該功能會讓虛假信息的製造變得更加簡單且快速。知名開源調查員 Henk van Ess 是首批發出警告的人之一，他在周五早些時候的博文中指出，此舉帶來的危害將遠超益處。
雖然 AI 生成的偽造圖像並非新鮮事，但專家指出，Google Earth 的這一更新將使本就緊張的局勢進一步惡化。衛星圖像長期以來被認為具有更高的可信度，且常被用於揭穿謊言；而這項新功能竟將這個領域內一個免費、便捷且領先的工具，變成了傳播極具說服力的謊言的利器。
谷歌並未公布 Google Earth 的活躍用戶數，但多年來的報道顯示，其總下載量在 5 億到 10 億之間。
周五，谷歌表示將撤回該新功能，並致力於實施「更強大的護欄」。
谷歌在聲明中稱：「我們深知人們對 Google Earth 觀察世界的可靠性有著獨特的信任。我們看到地理空間專業人士將此功能用於多種有用目的，但我們也發現有人分享的生成圖像截圖違反了我們的政策。」
在功能被移除之前，CNA 進行了測試，在 Google Earth 的新加坡地點生成了上述三個虛構場景。在輸入 AI 指令時，系統沒有任何拒絕或限制。
雖然公開的 Google Earth 地圖沒有被修改，其他用戶也看不到這些偽造示例，但 CNA 能夠輕鬆截屏，並將其上傳至 Facebook、Instagram 和 TikTok 等主流社交平台，且過程中無需聲明這些圖像是由 AI 生成的。
CNA 還將這些截圖提交給了四款商業 AI 檢測工具。其中兩款工具認為其中兩張圖片是真實的，操縱可能性較低；另一款工具則標記其中一張圖片很可能是真實的。
而當這些圖像通過谷歌的 Gemini AI 應用運行時，系統檢測出它們部分、大部分或全部是由谷歌 AI 創建或編輯的。
在功能移除前，使用 Google Earth 集成的 Nano Banana 工具生成的濱海灣花園火災 AI 圖像。為什麼 AI 生成的地圖圖像至關重要
二十年來，Google Earth 一直被視為驗證地點樣貌的標準參考。它也是全球調查員的可靠工具，例如在烏克蘭和中東的衝突報道中被廣泛使用。
近期，Google Earth 的圖像也成為了 AI 操縱的目標，並產生了嚴重後果。今年 2 月，一家伊朗官方新聞機構發布了一組 Google Earth 衛星圖像的「前後對比圖」，聲稱伊朗無人機襲擊摧毀了卡達基地的美國雷達設備。但最終證明，這其實是一張巴林美國基地的 Google Earth 圖像經過 AI 操縱而成的。然而此時，該圖片已在全球社交媒體上獲得數百萬次瀏覽。
正是因為使用了真實的 Google Earth 圖像，才賦予了偽造圖更高的可信度。專家指出，如果 AI 生成工具直接內置在 Google Earth 介面中，此類造謠行為將不再需要花費太多精力。
除了 van Ess 之外，其他專家稱此舉「不負責任」，並可能對「衛星圖像的可信度造成災難性破壞」。
在 LinkedIn 上，來自非營利組織信息韌性中心（Centre for Information Resilience）的開源調查員兼 AI 專家 Tom Jarvis 在功能撤回前寫道：「谷歌創造了一個讓情況惡化的功能。那些本可以通過衛星圖像被追究責任的人，現在可以用同一個工具更輕鬆地擾亂信息空間。」
新加坡 S Rajaratnam 國際研究學院（RSIS）國家安全卓越中心負責人 Benjamin Ang 告訴 CNA：「研究表明，幾十年來，人類習慣於認為衛星圖像比地面拍攝的照片更可信，因為它們看起來來自客觀視角，且更難篡改。」
他補充道：「過去，要以令人信服的方式製作偽造衛星圖需要相對較高的資源、技術和技能，但現在幾乎任何人都能創建出引發恐慌、憤怒或欺騙接收者的偽造圖。」
谷歌在早前的一份聲明中試圖為該功能辯護，指出所有通過 Google Earth 中的 Nano Banana 創建的圖像都包含 SynthID 數字水印——這是谷歌開發的一款幫助人們識別 AI 生成內容的工具。
該公告當時稱：「因此，如果有人對圖像不確定，可以通過 Gemini 應用或使用搜索中的 Lens 來查看圖像是否由 AI 生成。此外，我們禁止創建有害主題的圖像，並不斷更新我們的保護措施。」
然而，Ang 先生指出，一旦一張圖片「進入普通的 WhatsApp、Telegram 或微信家庭群或好友群，幾乎沒有人會在轉發給他人之前，特意去經歷上傳圖片到驗證門戶的繁瑣步驟」。
