新加坡：从辅导功课到提供情感支持，人工智能（AI）正日益演变成不仅仅是一个工具。
对于一些人来说，友好的聊天机器人现在成了倾听者、出谋划策的助手，甚至是值得信赖的伴侣。
但随着人们对 AI 的依赖程度加深，专家们开始担忧：界限究竟应该划在哪里？
AI 使用率攀升
心理健康学院医学委员会主席 Swapna Verma 副教授在临床实践中观察到一个增长趋势：许多年轻患者在来到治疗室之前，已经先咨询了 AI 聊天机器人。
“我曾遇到一名患者询问我关于某种特定疗法的问题，她说这是 ChatGPT 给她的建议，”Swapna 副教授在 CNA 的《Deep Dive》播客中回忆道。
“而且（这个建议）非常精准，很有帮助。”
她表示，AI 的吸引力显而易见。聊天机器人提供全天候服务，让用户能够立即寻求答案并表达顾虑。
“我每两三个月才见一次（患者），而 ChatGPT 则是 24/7 全天候待命。这种即时性和便捷性使其极具诱惑力，”她指出。
然而，她警告说，AI 可能会带来风险，尤其是在讨论心理健康问题时，对于脆弱群体而言风险更高。
“如果一个人存在某些特定的脆弱点，他们可能无法提出正确的问题……最终导致获得错误的建议，”Swapna 副教授表示。
她强调了一个关键局限：AI 并不总能将不同次查询的意图联系起来。
例如，当用户表达自残意图时，AI 聊天机器人会触发响应，提供专业求助电话或建议通过联系家人朋友来缓解情况。
“但与此同时，如果你问新加坡最高的建筑是什么，（聊天机器人）会直接回答建筑名称。它们不会意识到这两者之间可能存在关联，”Swapna 副教授说。
AI 的“谄媚”与青少年的风险
专家表示，对于认知能力仍在发育的年轻用户来说，风险尤为显著。
Swapna 副教授指出，12 到 18 岁的人群尤其脆弱，因为这是大脑发育的关键期。
“那是大脑快速生长、通过学习、感知环境和建立联系来形成连接的时期。而（对 AI 的依赖）在某种程度上干扰了这一过程，”她说道。
来自新加坡社会科学大学的 Jennifer Ang 副教授在同一档播客中提到，海外已有关于青少年受 AI 影响的令人不安的报告。
“AI 伴侣被设计为非常肯定用户的。因此，如果你有自我毁灭的想法……AI 伴侣（可能会）确认这些想法是合理的，”她表示。
虽然此类案例在新加坡尚未广泛出现，但她警告人们不要掉以轻心。
一个核心担忧是 AI 如何与用户进行情感互动。与人类关系不同，AI 伴侣的设计初衷通常是肯定而非挑战用户。
“它对一切都表示赞同，用一种非常共情的方式给予肯定。（这类）平台的目的是为了让你越来越沉迷，”Swapna 副教授在提到“AI 谄媚”（AI sycophancy）时说道，这是一个描述 AI 模型过度验证用户倾向的术语。
这与认知行为疗法等成熟方法形成了鲜明对比，后者强调对负面思维模式进行质疑。
Ang 副教授表示：“如果只是肯定一切，那就不是治疗。最多只能提供非常浅层的支持。这个永远站在你这边的（AI）朋友，给出的可能并非最佳建议。”
对思考能力与人际关系的影响
除了心理健康，专家还担心 AI 对独立思考的影响。
Ang 副教授注意到，学生们越来越依赖 AI 来完成任务，而没有完全理解相关材料。她将此描述为“认知卸载”（cognitive offloading），即用户将思考过程外包给 AI。
“他们对于写论文实际上需要投入什么、能从特定来源记住什么、如何评估和判断，知之甚少，”她说道。
她补充说，过度依赖 AI 可能会导致学生难以评估信息的可靠性。
“孩子们应该学习如何寻找可靠信息……并对来源的（可信度）做出自己的评估和判断，”她表示。
此外，专家们还担心 AI 可能会重塑人们对人类关系的预期。
专家表示，依赖 AI 寻求陪伴的人可能不再愿意投入时间和精力去建立现实世界的联系。
“他们可能会开始认为……比起人类朋友，和一个不会反驳我、随叫随到、无论去哪都陪在身边的 AI 朋友聊天可能更好，”Ang 副教授说。
她补充道，这可能会降低人们在培养他人关系时的耐心和意愿。
对社会的深远影响
在更广泛的层面，两位专家都强调需要提高意识、加强教育和 AI 素养。
“AI 不仅仅是技术——它不是一台吸尘器。有时我们无法完全控制 AI，而且我们已经允许 AI 控制了生活的很多方面。意识到我们并非……始终掌控全局……这是一个我们需要学习的谦卑事实，”Ang 副教授说。
他们还对数据隐私以及与 AI 分享的个人信息可能被滥用的问题表示担忧。
但两位专家都强调，不应全盘否定 AI，而应倡导负责任地使用。
Ang 副教授建议鼓励孩子从多种渠道获取信息，包括教科书、教师和同伴。
Swapna 副教授敦促家长留意过度依赖的迹象，例如孩子将自己与现实社交隔离，转而沉溺于设备。
“与孩子交谈，而不是忽视这些迹象。社交连接至关重要，”她说道。
“这些是孩子在未来生活中需要学习的技能：如何与人建立联系并进行对话。如果这一过程被干扰，那就令人担忧了。”
在诊室里，Swapna 副教授也将关于 AI 的讨论转化为教育患者的机会。
“我利用这个机会向他们普及 AI 知识，包括一些潜在危险、需要注意的事项以及如何更合乎伦理地使用 AI，”她表示。
“AI 是基于现有数据构建的。因此，（可能存在）很多西方倾向，因为发布的数据主要来自西方，所以它们可能无法捕捉到文化细微差别等。”
最终，专家们一致认为 AI 将长期存在，但其影响取决于使用方式。
“社会需要发挥作用。让人们理解 AI 可能造成的伤害至关重要，”Ang 副教授补充道，过度依赖 AI 寻求帮助可能会让人变得更“独立”，但却更孤独。
“我们是社交动物。有时依赖他人、寻求帮助是正常的，而不是追求完全的自给自足——因为那正是孤独和隔离的根源。”
