
(圖:取自維基百科)
(新加坡訊)新加坡老字號美珍香的員工因操作人工智慧(AI)工具不當,導致超過9萬5000名顧客的電郵地址被泄露。這是新加坡首起與AI有關的資料泄露事故。
《聯合早報》報道,根據個人資料保護委員會上星期一(9月21日)在官網上發布的文告,這起資料泄露事件發生在今年4月25日,美珍香於4月27日通報個資委。
資料顯示,一名美珍香員工原想利用AI工具生成一串編碼,將公司宣傳內容同時發送給大批顧客。不過,員工的Python編程有誤,其中兩個括號出現在錯誤的位置,導致同一批電郵收件者能看到彼此的電郵地址。
雖然事件共涉及9萬5364名顧客,但電郵是分批發送,每一批電郵含1000名收件人。換言之,每一名顧客的電郵地址,在未經同意的情況下,泄露給同一批收件者中的另999名顧客,而非對所有的9萬5000多人顯示。
文告指出,這起泄露事件只涉及個人電郵地址,後續也沒有證據顯示被泄露的電郵地址遭濫用。
美珍香發現問題後,立刻停止與群發營銷電郵相關的程序,並通知所有受影響的個人。公司也糾正了編碼中的錯誤,同時實施雙層認證檢查流程,要求群發電郵須由多兩名員工檢查才可發出。
文告指出,這是美珍香首次嘗試在業務運作中使用AI工具,整體上欠缺監管框架或政策來指引員工使用生成式AI工具。
「這起事件的導因,相信是因為公司未能在執行腳本前,進行足夠全面的測試,且僅依賴一名員工執行,缺乏審查流程。」
資料顯示,涉事員工沒有在實際執行這項指示前,審查測試郵件中的內容,只是檢查操作記錄,因而沒有發現這個問題。
在考慮了事件的具體情況後,個資委接受公司提呈的自願承諾書,包括就AI輔助編程落實監管框架、採用全面的軟體開發程序,並加強部署前的審查工作;針對事件應對措施制定規範;實施自動技術限制,限制多個收件人電郵地址在同一則電郵中顯現;以及為所有涉及開發、審查和部署系統的技術人員制定意識培訓計劃。
這系列措施從9月2日起落實,若美珍香未能遵守其中的條件,個資委可發出指令,要求公司堅守承諾。
記者已聯繫美珍香,但截稿前未獲得回應。