新加坡提出全球首个针对生成式人工智能（AI）系统测试方法的国际标准建议，以使相关应用更安全、可靠。（法新社档案照）
（新加坡讯）新加坡提出全球首个针对生成式人工智能（AI）系统测试方法的国际标准建议。
资讯通讯媒体发展局和新加坡企业发展局，周一（20日）在新加坡主办国际标准化组织（ISO）和国际电工委员会（IEC）的人工智能分技术委员会全会，并在会上提出这项编号为ISO/IEC 42119-8的标准建议。
这项新标准主要围绕两种测试方法：基准测试（benchmarking），以及红队演练（red teaming）。
据新加波媒体报导，这项标准为AI测试建立统一框架，有助提高测试结果的可重复性与可比性，让不同系统之间更容易对照评估，以使相关应用更安全、可靠，从而增强业界与用户对AI的信任。
值得一提的是，所谓“红队演练”，是通过模拟攻击的方式，找出AI系统可能存在的漏洞和弱点，从而评估系统的安全性与应对能力。这类演练通常由模拟攻击的一方“红队”，与负责防御的“蓝队”共同进行。
推动技术大规模应用
报道称，新标准建立在新加坡既有基础之上，包括资媒局推出的AI Verify工具包、大语言模型测试入门套件，以及全球AI保障沙盒等项目。同时，企发局也推动AI管理系统的采用与认证计划。这些尝试为AI测试与认证提供实践经验。
资媒局局长黄子鹏在会上说，AI标准对整个生态系统至关重要，有助推动技术更大规模应用。
“更重要的是，越来越多企业已看到制定AI标准的价值，并主动寻求认证。”
