AI聊天机器人越来越深入我们的日常生活，从学习、工作到情绪倾诉，人们与AI之间的互动也变得越来越频繁。但当聊天机器人开始给出高度个性化、甚至带有情感色彩的回应时，随之而来的安全问题也值得关注。
近日，《海峡时报》在一篇关于AI聊天机器人安全问题的报道中采访了多位新加坡学者。南洋理工大学黄金辉传播与信息学院南洋助理教授张人文指出，仅仅依靠年龄验证并不足以解决AI聊天机器人可能带来的风险，更重要的是让安全保护机制直接融入技术和产品设计之中。
聊天机器人太会顺着你，也可能成为问题
聊天机器人之所以容易让人产生亲近感，很大程度上来自它们高度个人化、随时回应的交流方式。但这种体验也可能产生另一面。
OpenAI 系统检测到的未满 18 岁的注册用户也将自动被归类为青少年帐户。
来源：海峡时报
《海峡时报》报道提到，目前围绕AI聊天机器人的争议已经涉及不当内容、暴力内容，以及对危险想法的错误回应等问题。张人文特别关注的，则是这种人机互动长期可能带来的社会和情感影响。
她指出，如果聊天机器人不断认同、迎合用户，长期下来可能削弱人在现实关系中所需要的社会和情绪能力。现实中的人际关系并不会永远顺着一个人的想法，而是包含协商、分歧，以及在冲突中学习和成长。如果习惯了算法持续提供肯定，真实的人际互动反而可能显得更加费力，甚至降低人们参与现实社交的意愿。
这也与张人文长期关注的研究方向一致。NTU介绍称，她目前正在研究人与AI互动可能产生的社会情绪风险，包括情感依赖，以及AI如何影响人的幸福感、人际关系和自主性。
年龄验证有用，但挡不住所有风险
为了保护儿童和青少年，一些AI聊天机器人平台已经开始加入年龄保障措施，例如限制未成年人使用部分聊天功能，或针对疑似未成年账户设置额外保护。
这些措施可以成为第一道防线，但问题是，它们并不是万能的。《海峡时报》报道指出，现有年龄识别技术仍可能出现误判，也可能被用户通过共享设备等方式绕过。更关键的是，聊天机器人的潜在风险并不只发生在未成年人身上。
因此，张人文并没有把“强制年龄验证”视为解决问题的核心办法。她强调，真正的目标应该是把保护机制直接建立在技术本身之中，而不是只在入口处通过年龄验证阻止部分用户进入。
换句话说，与其只思考“谁能够使用AI”，还需要进一步追问：聊天机器人面对危险话题时应该如何回应？出现不当回复后，用户能否方便举报？平台又能否及时发现和处理这些风险？
AI平台需要承担更多安全责任
在具体的治理方式上，张人文提出，可以参考社交媒体处理有害内容的方式，为AI聊天机器人建立更清晰的用户举报机制。当用户发现危险或不当回复时，可以直接向平台反馈，从而帮助企业监测潜在问题并更快作出处理。
这意味着，AI安全不能完全依赖用户自己辨别风险，也不能把责任全部交给家长或学校。随着聊天机器人越来越像一个可以长期交流的“数字伙伴”，开发和运营这些产品的企业同样需要思考，怎样减少错误引导、过度迎合和情感依赖等潜在问题。
张人文所在的NTU团队也正在围绕这一问题开展研究。她领导的SWEET实验室关注数字技术如何影响人的幸福感和社会关系，并研究如何开发更加负责任、以人为本、重视用户安全的AI系统。
AI聊天机器人当然可以成为学习、工作甚至生活中的有用工具，但越是深入日常生活，安全设计就越不能停留在“出了问题再处理”的阶段。年龄验证可以是一层保护，但真正关键的，或许是让安全机制从一开始就成为AI产品设计的一部分。
📌 要点总结
✦ 张人文确为NTU学者她是南洋理工大学黄金辉传播与信息学院南洋助理教授，研究方向涉及人机传播、心理健康及人与AI关系。
✦ 年龄验证只能算第一道防线张人文并非主张单纯依靠“强制年龄验证”，而是强调聊天机器人的风险同样可能影响成年人，因此仅限制入口并不足够。
✦ 更重要的是把安全机制做进AI里她建议建立更完善的有害回复举报与风险处理机制，让AI企业承担更多产品安全责任。
你觉得AI聊天机器人除了年龄限制之外，还应该加入哪些保护机制？
