
為了讓消費者和企業在使用生成式人工智慧時感到更有信心和更安全,數碼發展及新聞部將發布安全指南,建議生成式人工智慧開發者向用戶透明公開所使用的數據來源,以及可能涉及的風險和限制等。
全新安全指南將在人工智慧驗證系統(AI Verify)的框架下推出,通過強調信息公開透明和安全測試建立生成式人工智慧模型的基準。
數碼發展及新聞部長楊莉明表示,安全指南將建議開發和部署人員向用戶提供有關生成式人工智慧模型和應用程式如何運作的信息,例如:所使用的數據、測試和評估結果,以及模型或應用程式可能存在的風險和限制,讓用戶可以更放心使用這項技術。指南也會列出部署模型或應用程式前應該測試的安全屬性。
資訊通信媒體發展局將展開行業諮詢工作,確保指南內容是完善和與時俱進的。
楊莉明在個人資料保護周開幕儀式上也宣布個人資料保護委員會發布了合成數據生成指南草案,有助企業善用這項新興的隱私增強科技。合成數據不包含敏感的個人信息,可安全用於人工智慧模型訓練。
「如果這些風險沒有得到緩解,企業和消費者可能難以信任人工智慧產品和服務。新加坡會以主動、保護和務實的方式應對這些挑戰。」
楊莉明指出我國作為今年東協數碼部長會議主辦國努力促進東協區域的數據治理和整合,新的東協數據匿名化指南將在明年初推出,推動區域更大規模和更負責任地使用數據。