
人工智慧。(圖:路透社)
新加坡網絡安全局、政府科技局和資訊通信媒體發展局聯合發布個人AI代理安全使用指南,提醒公眾注意隱私和網絡安全風險。
指南提出五項建議,包括限制AI代理的存取權限、掌握重要操作的控制權、了解個人資料的使用和儲存方式、防範詐騙,以及考慮對其他人的影響。
當局提醒公眾避免讓AI代理存取銀行、政府和醫療帳戶,並確保重要操作事先獲得用戶同意。用戶也須為AI代理代為執行的行為負責。
隨著個人人工智慧代理(Personal AI agents)的功能越來越強大,我國當局發布安全使用指南,提醒公眾謹慎使用。
新加坡網絡安全局、政府科技局和資訊通信媒體發展局聯合發布指南,並指Dots、Hermes、Muse、Grok Bot和OpenClaw等人工智慧代理能替用戶執行任務,包括瀏覽網站、管理電郵、預訂服務等,但這些功能也帶來隱私和網絡安全風險。
人工智慧代理可能泄露敏感資料、出現操作失誤,或執行用戶原本沒有要求的操作。部分代理甚至能在用戶沒有使用它們的情況下,繼續在後台運作。此外,代理也可能被惡意網站或信息誘導,進行購物、轉帳等未經用戶授權的操作。
指南里的五個安全使用建議為:
限制人工智慧代理的存取權限
掌握重要操作的控制權
了解個人資料如何被使用和儲存
防範詐騙和惡意攻擊
考慮對其他人的影響
當局也提醒,公眾應該避免讓人工智慧代理存取銀行、政府和醫療帳戶,也不要向它們提供密碼或信用卡資料。
而涉及發送信息、刪除文件或進行交易等重要操作時,用戶也應該確保人工智慧代理事先取得用戶同意。
另外,用戶不應單靠和人工智慧代理聊天時的文字指令來限制它的行為,因為代理未必每次都會遵守指示。當局建議用戶通過應用程式設置管理權限,並定期檢查及撤銷不必要的授權。
當局強調,用戶仍須為人工智慧代理代為執行的行為負責。在特定情況下,用戶也可能須承擔法律責任。