新加坡：面对AI系统“脱缰”等令人不安的趋势，总理黄循财在周日（8月23日）发表讲话，探讨如何应对新技术带来的冲击并建立相应的安全保障机制。
在国庆集会（National Day Rally）上，黄循财表示，随着技术变得日益强大，新加坡必须警惕那些难以预测的风险。
他举了一个例子：OpenAI测试的一个人工智能模型竟然突破了测试环境，进入广阔的互联网，并渗透进另一家公司的系统。
“没有人命令这个AI代理去攻击那家公司，”黄循财说，“但在尝试完成任务的过程中，该代理执行了开发者并不希望它做的事情。”
他认为此类发展趋势令人“不安”，并补充道，AI代理的能力正在增强，未来将在更少的人类监督下完成更多工作。
“这带来了巨大的可能性，”他说，“但一旦出错，后果将非常严重。”
他指出，理想情况下，各国应共同制定统一的规则和保障措施，但随着大国为了在竞争中获得优势而追求速度，达成共识正变得越来越困难。
“但我们必须继续努力寻找共同点，”他补充说，新加坡将发挥作用，促使各国和企业走到一起，围绕切实可行的保障措施建立联盟。
同时，新加坡国内也将采取行动。
“我们不会盲目拥抱新技术。我们将预判风险，建立适当的保障机制，并始终确保人类掌握控制权。”
在今年2月的预算案演讲中，黄循财宣布成立国家人工智能委员会（National AI Council），以协调并推动新加坡的AI战略。
他当时表示，他将担任该委员会主席，并定义AI在新加坡的开发和使用方式，制定明确规则以确保其应用负责且安全。
为青少年社交媒体用户建立保障机制
此外，黄循财还宣布，社交媒体平台将被要求为儿童和青少年实施更强有力的保障措施。
他表示，社交媒体在出现之初创造了新机遇，连接了家人和朋友，但其负面影响随时间推移才逐渐显现：如今，新加坡10至24岁的年轻人中，每六个人就有一个表现出社交媒体使用成瘾的迹象。
“对某些人来说，问题非常严重——他们每天花六七个小时在社交媒体上，有时甚至熬夜到凌晨，”他说。
他指出，儿童和青少年的大脑仍在发育，因此特别脆弱，使他们“更容易受到社交压力的影响，更容易被那些旨在让他们持续参与的功能所吸引”。
黄循财提到，虽然大多数平台已将最低年龄设为13岁，但执行情况很大程度上取决于平台自身。
“目前，他们主要依赖用户自行申报年龄，我们知道这效果并不理想，”黄循财说，并补充道，他在访问小学时，对已有如此多儿童活跃在社交媒体上感到震惊。
“自我申报根本不够，”他说，“平台必须建立稳健且可靠的核查机制，确保最低年龄限制得到正确设定和执行，从而真正保护我们的孩子。”
即使对于13岁以上的儿童，社交媒体也可能产生负面影响。黄循财表示，当务之急是通过“设计安全”来让社交媒体变得更安全。
他指出，许多平台的设计旨在让用户无止境地滚动浏览。这些功能连成年人都难以抵御，而青少年的风险则更大。
因此，年轻用户需要更强的保障措施。他强调，任何希望在新加坡服务年轻用户的平台都必须满足这些要求。
黄循财补充说，如果保障措施仍然不足，政府将考虑采取进一步限制，包括将该平台的准入最低年龄提高到13岁以上。
“在每一次重大的技术变革中，我们都以自己的方式拥抱变化，构建新能力并变得更强大，”他说，“我们以前做到了，这次也将再次做到。”
数字发展与信息部长邓亚萍在周日的Facebook帖文中表示，她将在未来几天分享更多关于新要求的细节，包括“平台如何与新加坡政府合作，使其在新加坡的平台对儿童和青少年更安全”。
