
人工智能。(图:路透社)
新加坡网络安全局、政府科技局和资讯通信媒体发展局联合发布个人AI代理安全使用指南,提醒公众注意隐私和网络安全风险。
指南提出五项建议,包括限制AI代理的存取权限、掌握重要操作的控制权、了解个人资料的使用和储存方式、防范诈骗,以及考虑对其他人的影响。
当局提醒公众避免让AI代理存取银行、政府和医疗账户,并确保重要操作事先获得用户同意。用户也须为AI代理代为执行的行为负责。
随着个人人工智能代理(Personal AI agents)的功能越来越强大,我国当局发布安全使用指南,提醒公众谨慎使用。
新加坡网络安全局、政府科技局和资讯通信媒体发展局联合发布指南,并指Dots、Hermes、Muse、Grok Bot和OpenClaw等人工智能代理能替用户执行任务,包括浏览网站、管理电邮、预订服务等,但这些功能也带来隐私和网络安全风险。
人工智能代理可能泄露敏感资料、出现操作失误,或执行用户原本没有要求的操作。部分代理甚至能在用户没有使用它们的情况下,继续在后台运作。此外,代理也可能被恶意网站或信息诱导,进行购物、转账等未经用户授权的操作。
指南里的五个安全使用建议为:
限制人工智能代理的存取权限
掌握重要操作的控制权
了解个人资料如何被使用和储存
防范诈骗和恶意攻击
考虑对其他人的影响
当局也提醒,公众应该避免让人工智能代理存取银行、政府和医疗账户,也不要向它们提供密码或信用卡资料。
而涉及发送信息、删除文件或进行交易等重要操作时,用户也应该确保人工智能代理事先取得用户同意。
另外,用户不应单靠和人工智能代理聊天时的文字指令来限制它的行为,因为代理未必每次都会遵守指示。当局建议用户通过应用程序设置管理权限,并定期检查及撤销不必要的授权。
当局强调,用户仍须为人工智能代理代为执行的行为负责。在特定情况下,用户也可能须承担法律责任。