新加坡：從輔導功課到提供情感支持，人工智慧（AI）正日益演變成不僅僅是一個工具。
對於一些人來說，友好的聊天機器人現在成了傾聽者、出謀劃策的助手，甚至是值得信賴的伴侶。
但隨著人們對 AI 的依賴程度加深，專家們開始擔憂：界限究竟應該劃在哪裡？
AI 使用率攀升
心理健康學院醫學委員會主席 Swapna Verma 副教授在臨床實踐中觀察到一個增長趨勢：許多年輕患者在來到治療室之前，已經先諮詢了 AI 聊天機器人。
「我曾遇到一名患者詢問我關於某種特定療法的問題，她說這是 ChatGPT 給她的建議，」Swapna 副教授在 CNA 的《Deep Dive》播客中回憶道。
「而且（這個建議）非常精準，很有幫助。」
她表示，AI 的吸引力顯而易見。聊天機器人提供全天候服務，讓用戶能夠立即尋求答案並表達顧慮。
「我每兩三個月才見一次（患者），而 ChatGPT 則是 24/7 全天候待命。這種即時性和便捷性使其極具誘惑力，」她指出。
然而，她警告說，AI 可能會帶來風險，尤其是在討論心理健康問題時，對於脆弱群體而言風險更高。
「如果一個人存在某些特定的脆弱點，他們可能無法提出正確的問題……最終導致獲得錯誤的建議，」Swapna 副教授表示。
她強調了一個關鍵局限：AI 並不總能將不同次查詢的意圖聯繫起來。
例如，當用戶表達自殘意圖時，AI 聊天機器人會觸發響應，提供專業求助電話或建議通過聯繫家人朋友來緩解情況。
「但與此同時，如果你問新加坡最高的建築是什麼，（聊天機器人）會直接回答建築名稱。它們不會意識到這兩者之間可能存在關聯，」Swapna 副教授說。
AI 的「諂媚」與青少年的風險
專家表示，對於認知能力仍在發育的年輕用戶來說，風險尤為顯著。
Swapna 副教授指出，12 到 18 歲的人群尤其脆弱，因為這是大腦發育的關鍵期。
「那是大腦快速生長、通過學習、感知環境和建立聯繫來形成連接的時期。而（對 AI 的依賴）在某種程度上干擾了這一過程，」她說道。
來自新加坡社會科學大學的 Jennifer Ang 副教授在同一檔播客中提到，海外已有關於青少年受 AI 影響的令人不安的報告。
「AI 伴侶被設計為非常肯定用戶的。因此，如果你有自我毀滅的想法……AI 伴侶（可能會）確認這些想法是合理的，」她表示。
雖然此類案例在新加坡尚未廣泛出現，但她警告人們不要掉以輕心。
一個核心擔憂是 AI 如何與用戶進行情感互動。與人類關係不同，AI 伴侶的設計初衷通常是肯定而非挑戰用戶。
「它對一切都表示贊同，用一種非常共情的方式給予肯定。（這類）平台的目的是為了讓你越來越沉迷，」Swapna 副教授在提到「AI 諂媚」（AI sycophancy）時說道，這是一個描述 AI 模型過度驗證用戶傾向的術語。
這與認知行為療法等成熟方法形成了鮮明對比，後者強調對負面思維模式進行質疑。
Ang 副教授表示：「如果只是肯定一切，那就不是治療。最多只能提供非常淺層的支持。這個永遠站在你這邊的（AI）朋友，給出的可能並非最佳建議。」
對思考能力與人際關係的影響
除了心理健康，專家還擔心 AI 對獨立思考的影響。
Ang 副教授注意到，學生們越來越依賴 AI 來完成任務，而沒有完全理解相關材料。她將此描述為「認知卸載」（cognitive offloading），即用戶將思考過程外包給 AI。
「他們對於寫論文實際上需要投入什麼、能從特定來源記住什麼、如何評估和判斷，知之甚少，」她說道。
她補充說，過度依賴 AI 可能會導致學生難以評估信息的可靠性。
「孩子們應該學習如何尋找可靠信息……並對來源的（可信度）做出自己的評估和判斷，」她表示。
此外，專家們還擔心 AI 可能會重塑人們對人類關係的預期。
專家表示，依賴 AI 尋求陪伴的人可能不再願意投入時間和精力去建立現實世界的聯繫。
「他們可能會開始認為……比起人類朋友，和一個不會反駁我、隨叫隨到、無論去哪都陪在身邊的 AI 朋友聊天可能更好，」Ang 副教授說。
她補充道，這可能會降低人們在培養他人關係時的耐心和意願。
對社會的深遠影響
在更廣泛的層面，兩位專家都強調需要提高意識、加強教育和 AI 素養。
「AI 不僅僅是技術——它不是一台吸塵器。有時我們無法完全控制 AI，而且我們已經允許 AI 控制了生活的很多方面。意識到我們並非……始終掌控全局……這是一個我們需要學習的謙卑事實，」Ang 副教授說。
他們還對數據隱私以及與 AI 分享的個人信息可能被濫用的問題表示擔憂。
但兩位專家都強調，不應全盤否定 AI，而應倡導負責任地使用。
Ang 副教授建議鼓勵孩子從多種渠道獲取信息，包括教科書、教師和同伴。
Swapna 副教授敦促家長留意過度依賴的跡象，例如孩子將自己與現實社交隔離，轉而沉溺於設備。
「與孩子交談，而不是忽視這些跡象。社交連接至關重要，」她說道。
「這些是孩子在未來生活中需要學習的技能：如何與人建立聯繫並進行對話。如果這一過程被干擾，那就令人擔憂了。」
在診室里，Swapna 副教授也將關於 AI 的討論轉化為教育患者的機會。
「我利用這個機會向他們普及 AI 知識，包括一些潛在危險、需要注意的事項以及如何更合乎倫理地使用 AI，」她表示。
「AI 是基於現有數據構建的。因此，（可能存在）很多西方傾向，因為發布的數據主要來自西方，所以它們可能無法捕捉到文化細微差別等。」
最終，專家們一致認為 AI 將長期存在，但其影響取決於使用方式。
「社會需要發揮作用。讓人們理解 AI 可能造成的傷害至關重要，」Ang 副教授補充道，過度依賴 AI 尋求幫助可能會讓人變得更「獨立」，但卻更孤獨。
「我們是社交動物。有時依賴他人、尋求幫助是正常的，而不是追求完全的自給自足——因為那正是孤獨和隔離的根源。」
