新加坡副总理Lawrence Wong被深度伪造视频，近日在Facebook和Instagram上广泛流传。
在这个视频中，副总理黄循财的嘴部被明显修改，以与假冒的配音同步，该配音模仿了他真实声音的音调和语调，视频中还错误地使用了《海峡时报》的标志。
Facebook 的视频截图 图片来源：海峡时报
1. 报道关键信息
据报道，这段视频是基于副总理黄循财在《海峡时报》的媒体门口采访的录像片段修改而成。
视频中的副总理黄循财被伪造成正在推广一项投资骗局。
SPH Media（新报业媒体）的一位发言人表示，这段视频并非由该公司或《海峡时报》制作或发布。该发言人表示：“带有海峡时报标志的视频在网上广为流传，其内容是副总理黄循财支持商业项目”
对于这段视频，警方表示已经收到了相关报告。并且敦促公众保持警惕，不要传播来源不明的视频。
同样的在12月11日的Facebook帖子中，副总理黄循财表示他已经注意到这些深度伪造的骗局帖子和消息，这些内容错误地宣称他在推广产品，以及散布政府计划实施新冠病毒封锁的错误信息。
副总理黄说：“这些都是谎言，让我们在网上保持警惕和洞察力”。
图片来源：环球时报
2，深度伪造技术的担忧
使用深度伪造技术来传播虚假信息或欺骗受害者正成为一个日益增长的担忧领域。
但技术发展的速度、生成式人工智能程序成本的下降以及人们语音录音在互联网上的广泛使用，为与语音相关的人工智能诈骗创造了完美的条件。
新加坡国立大学副教授Terence Sim指出，深度伪造技术变得更容易使用。骗子只需要几张目标的脸部照片（可以从社交媒体上获取）就能创建深度伪造视频。
与许多安全措施一样，这是攻击者和防御者之间的一场军备竞赛 。诈骗者现在只需对着麦克风讲话或输入提示，即可将语音很快翻译成目标的声音。微软的 Vall-E 生成式人工智能系统仅使用三秒的采样音频，就可以说出用户想要的任何内容。
来源：纽约时报
这起事件凸显了深度伪造技术在现代社会中的潜在危害，特别是在社交媒体上的广泛传播。它提醒公众保持警惕，对来源不明的视频和信息进行质疑。
同时，这也表明了政府、媒体机构和公众在识别和应对这类欺诈行为方面需要采取更加积极的措施。
参考资料：
1. Voice deepfakes are coming for your bank balance。海峡时报
2，Deepfake video of DPM Lawrence Wong promoting investment scam circulating on social media。海峡时报
