新加坡警方在周六（5月16日）表示，他們已獲取一段由AI生成的Zoom視頻會議錄像。該錄像被用於一場冒充包括總理黃循財在內的高級政府官員的詐騙案。
警方此前透露，在其中一起案件中，一名受害者在所謂的「荷姆茲海峽相關資金援助」騙局中，損失了至少490萬新元（約380萬美元）。
通常情況下，受害者會收到一條來自詐騙者的WhatsApp消息，對方冒充內閣秘書，邀請他們參加一場與總理黃循財的會議。
隨後，他們會被邀請進入一個利用Deepfake（深度偽造）AI技術偽造的Zoom視頻會議。會議畫面中出現了黃循財總理以及其他本地和海外政府官員。
警方獲取的錄像顯示，這場偽造的Zoom會議主題圍繞荷姆茲海峽局勢展開，參會人員表面上包括黃循財總理、總統尚達曼、拉賈部長以及新加坡金融管理局的代表。
此外，會議中還據稱包括加拿大外交部長、阿聯總統高級外交顧問等外國政府官員，以及貝萊德（Blackrock）和杜拜國際金融中心等私營部門參與者。
警方表示：「受害者在會議中被介紹為私營部門參與者之一。」
「視頻會議隨後由各政府官員簡要介紹荷姆茲海峽的局勢，最後由一段Deepfake視頻中的黃循財總理髮表結束語，其中還特意點名感謝受害者的出席。」
隨後，一名偽裝成律師的詐騙者會單獨聯繫受害者，說服他們轉帳。
警方在周四發布的一份警示中警告稱，此類案件正在增加，詐騙者似乎將目標鎖定在那些此前與政府官員有過接觸的商業專業人士身上。
關於這段錄像，警方在周六指出，其中有明顯的Deepfake技術痕跡。
例如，語音與說話者的口型不同步。這表明音頻是後期疊加的，而說話者的視頻是預先錄製好的。
其次，在整個通話過程中，所有語音都通過同一個帳戶播出，而不是由不同的參會者發出。
警方表示：「這表明預先錄製的虛假語音被疊加在冒充官員的視頻上，並通過一個主帳戶進行廣播。」
此外，錄像中的背景出現扭曲，且Zoom標誌部分被遮擋且與前景不協調，證明視頻經過了AI技術篡改。
警方呼籲公眾保持警惕，尤其是在通過虛擬方式被聯繫時要格外小心。
「Deepfake AI偽造技術非常先進，很難區分真實內容與虛假內容。」
警方強調，新加坡政府官員絕不會通過電子郵件、電話或視頻通話進行以下操作：
要求您轉帳
要求您披露銀行登錄詳情
要求您從非官方應用商店安裝移動應用
將您的電話轉接給警方或任何其他政府官員
公眾可以將社交媒體上可能的詐騙、假新聞或廣告舉報給平台管理員或警方。如需核實，可撥打ScamShield熱線 1799。
