新加坡警方在周六（5月16日）表示，他们已获取一段由AI生成的Zoom视频会议录像。该录像被用于一场冒充包括总理黄循财在内的高级政府官员的诈骗案。
警方此前透露，在其中一起案件中，一名受害者在所谓的“霍尔木兹海峡相关资金援助”骗局中，损失了至少490万新元（约380万美元）。
通常情况下，受害者会收到一条来自诈骗者的WhatsApp消息，对方冒充内阁秘书，邀请他们参加一场与总理黄循财的会议。
随后，他们会被邀请进入一个利用Deepfake（深度伪造）AI技术伪造的Zoom视频会议。会议画面中出现了黄循财总理以及其他本地和海外政府官员。
警方获取的录像显示，这场伪造的Zoom会议主题围绕霍尔木兹海峡局势展开，参会人员表面上包括黄循财总理、总统尚达曼、拉贾部长以及新加坡金融管理局的代表。
此外，会议中还据称包括加拿大外交部长、阿联酋总统高级外交顾问等外国政府官员，以及贝莱德（Blackrock）和迪拜国际金融中心等私营部门参与者。
警方表示：“受害者在会议中被介绍为私营部门参与者之一。”
“视频会议随后由各政府官员简要介绍霍尔木兹海峡的局势，最后由一段Deepfake视频中的黄循财总理发表结束语，其中还特意点名感谢受害者的出席。”
随后，一名伪装成律师的诈骗者会单独联系受害者，说服他们转账。
警方在周四发布的一份警示中警告称，此类案件正在增加，诈骗者似乎将目标锁定在那些此前与政府官员有过接触的商业专业人士身上。
关于这段录像，警方在周六指出，其中有明显的Deepfake技术痕迹。
例如，语音与说话者的口型不同步。这表明音频是后期叠加的，而说话者的视频是预先录制好的。
其次，在整个通话过程中，所有语音都通过同一个账户播出，而不是由不同的参会者发出。
警方表示：“这表明预先录制的虚假语音被叠加在冒充官员的视频上，并通过一个主账户进行广播。”
此外，录像中的背景出现扭曲，且Zoom标志部分被遮挡且与前景不协调，证明视频经过了AI技术篡改。
警方呼吁公众保持警惕，尤其是在通过虚拟方式被联系时要格外小心。
“Deepfake AI伪造技术非常先进，很难区分真实内容与虚假内容。”
警方强调，新加坡政府官员绝不会通过电子邮件、电话或视频通话进行以下操作：
要求您转账
要求您披露银行登录详情
要求您从非官方应用商店安装移动应用
将您的电话转接给警方或任何其他政府官员
公众可以将社交媒体上可能的诈骗、假新闻或广告举报给平台管理员或警方。如需核实，可拨打ScamShield热线 1799。
