新加坡提出全球首個針對生成式人工智慧（AI）系統測試方法的國際標準建議，以使相關應用更安全、可靠。（法新社檔案照）
（新加坡訊）新加坡提出全球首個針對生成式人工智慧（AI）系統測試方法的國際標準建議。
資訊通訊媒體發展局和新加坡企業發展局，周一（20日）在新加坡主辦國際標準化組織（ISO）和國際電工委員會（IEC）的人工智慧分技術委員會全會，並在會上提出這項編號為ISO/IEC 42119-8的標準建議。
這項新標準主要圍繞兩種測試方法：基準測試（benchmarking），以及紅隊演練（red teaming）。
據新加波媒體報導，這項標準為AI測試建立統一框架，有助提高測試結果的可重複性與可比性，讓不同系統之間更容易對照評估，以使相關應用更安全、可靠，從而增強業界與用戶對AI的信任。
值得一提的是，所謂「紅隊演練」，是通過模擬攻擊的方式，找出AI系統可能存在的漏洞和弱點，從而評估系統的安全性與應對能力。這類演練通常由模擬攻擊的一方「紅隊」，與負責防禦的「藍隊」共同進行。
推動技術大規模應用
報道稱，新標準建立在新加坡既有基礎之上，包括資媒局推出的AI Verify工具包、大語言模型測試入門套件，以及全球AI保障沙盒等項目。同時，企發局也推動AI管理系統的採用與認證計劃。這些嘗試為AI測試與認證提供實踐經驗。
資媒局局長黃子鵬在會上說，AI標準對整個生態系統至關重要，有助推動技術更大規模應用。
「更重要的是，越來越多企業已看到制定AI標準的價值，並主動尋求認證。」
