新加坡：使用个人人工智能（AI）代理的消费者被警告，在授予其访问在线账户权限时要格外谨慎，因为诈骗者可能会操纵这项技术来转移资金或泄露敏感信息。
与传统的AI聊天机器人不同，个人AI代理可以代表用户执行任务，包括管理电子邮件、进行预订以及访问网站和在线账户。
然而，根据网络安全局（CSA）、政府科技局（GovTech）和资讯通信媒体发展局（IMDA）周五（11月6日）发布的咨询公告，这些功能也让用户面临隐私和安全风险。
AI代理的例子包括 Dots、Hermes、Muse、Grok Bot 和 OpenClaw。
当局表示：“根据你授予的权限，AI代理可能会读取并泄露敏感的个人信息，可能会犯错，或者采取你并非本意的行动。”
一些代理即使在用户没有积极使用它们时，也能在后台继续运行。它们还可能被恶意行为者、网站或消息欺骗，从而执行有害操作。
当局警告称：“AI代理非常有用，但你不能像对待人类助手那样对待它们，给它们同样广泛的信息访问权限并给予默认信任。”
相反，用户应限制授予的权限，对重要操作保持控制，并了解如何撤销访问权限。
当局还提醒，用户对其使用AI代理的方式承担责任，包括代表其采取的行动，并可能根据具体情况和适用法律承担法律责任。
限制对敏感账户的访问
个人AI代理可能会请求访问用户的电子邮件、日历、联系人、消息、文件和其他在线账户。
当局警告称，一旦连接，它们可能能够检索、处理和共享来自这些服务的信息，包括属于他人的个人信息。
因此，用户应仅连接AI代理执行任务所必需的应用和账户，并在可能的情况下限制其可访问的信息。
他们还应避免授予代理访问敏感账户（如银行、政府或医疗服务账户）的权限，并避免分享信用卡详情。
当局建议用户不要向AI代理透露用户名、密码、通行码、一次性密码（OTP）或其他身份验证凭据。
对于使用 Singpass 的服务，消费者应默认选择通行密钥（passkey）验证，自行完成验证过程，并避免批准意外的请求。
在使用其他数字服务时，他们还应选择需要人工操作的验证方法。
对重要操作保持控制
根据授予的权限，一些AI代理可能能够代表用户发送消息、购物或执行其他操作。
当局建议消费者在可能的情况下，从有限的或仅限读取的权限开始，并要求代理在执行可能产生重大后果的操作前寻求批准。
这些操作包括发送消息、删除或共享文件以及发布公开内容。
用户应选择一次性批准，而不是允许代理在无需重复寻求许可的情况下执行类似操作。
在使用AI代理进行高风险交易时应格外小心，用户在批准任何操作前应核对详情。
当局还建议消费者通过应用设置管理权限，而不是仅仅依赖于通过聊天给AI代理的指令，因为此类指令并不总是能被一致地执行。
用户应定期审查并撤销不必要的权限，并监控代理的活动，以确保其按预期工作。
检查个人信息的使用方式
消费者还被敦促了解AI代理提供商如何收集、存储和使用其个人信息。
当局表示：“你与AI代理分享的信息，包括来自连接账户的信息，可能会被代理提供商及其合作公司处理和存储。”
用户应了解收集了哪些数据、与谁共享以及保留时间多长。
他们还应检查其信息（包括聊天记录和来自连接账户的数据）是否被用于训练AI模型或个性化广告，并相应地调整设置。
许多个人AI代理具有持久记忆，可以根据过去的交互和文件创建用户及其联系人的画像。
当局建议消费者定期审查这些信息，并删除任何不准确或不希望被存储或使用的内容。
警惕针对AI代理的诈骗
当局还警告称，诈骗者可能会直接针对AI代理，而不是试图欺骗用户本人。
例如，隐藏在网站、电子邮件、日历邀请、消息、文档或图像中的恶意指令，可能会诱导代理执行用户未授权的操作。
这些操作可能包括购物、转移资金或泄露个人信息。
由于一些AI代理可以在后台运行，用户可能无法立即意识到出了问题。
建议消费者在浏览网站时监控其代理，确保其未登录重要账户，并在其尝试访问非预期网站或执行未经授权的操作时将其停止。
他们还应使用强身份验证方法，仅从官方渠道下载AI代理，并避免使用不可信的第三方插件。
如果AI代理被入侵该怎么办
怀疑AI代理被入侵的消费者应立即停止其活动并断开受影响的账户连接。
他们还应审查代理的活动历史记录，寻找可疑操作，如未经授权的付款、账户设置更改、陌生设备或新收款人。
受影响的用户应更改密码，撤销不必要的权限，并通知任何可能受到影响的人员。
怀疑资金面临风险的人应激活银行应用的“紧急开关”（kill switch）或锁定卡片，并通过官方热线联系银行。
不确定是否遇到诈骗的消费者可以拨打 24 小时 ScamShield 热线 1799 或使用 ScamShield 应用。
损失资金或怀疑发生犯罪行为的人应向警方报案。
当局还提醒消费者考虑使用AI代理如何影响他人，因为该技术可能会访问其联系人的个人信息。
用户应避免不必要地分享他人的敏感信息，并在外部通信由AI代理发送时予以注明。
