AI聊天機器人越來越深入我們的日常生活，從學習、工作到情緒傾訴，人們與AI之間的互動也變得越來越頻繁。但當聊天機器人開始給出高度個性化、甚至帶有情感色彩的回應時，隨之而來的安全問題也值得關注。
近日，《海峽時報》在一篇關於AI聊天機器人安全問題的報道中採訪了多位新加坡學者。南洋理工大學黃金輝傳播與信息學院南洋助理教授張人文指出，僅僅依靠年齡驗證並不足以解決AI聊天機器人可能帶來的風險，更重要的是讓安全保護機制直接融入技術和產品設計之中。
聊天機器人太會順著你，也可能成為問題
聊天機器人之所以容易讓人產生親近感，很大程度上來自它們高度個人化、隨時回應的交流方式。但這種體驗也可能產生另一面。
OpenAI 系統檢測到的未滿 18 歲的註冊用戶也將自動被歸類為青少年帳戶。
來源：海峽時報
《海峽時報》報道提到，目前圍繞AI聊天機器人的爭議已經涉及不當內容、暴力內容，以及對危險想法的錯誤回應等問題。張人文特別關注的，則是這種人機互動長期可能帶來的社會和情感影響。
她指出，如果聊天機器人不斷認同、迎合用戶，長期下來可能削弱人在現實關係中所需要的社會和情緒能力。現實中的人際關係並不會永遠順著一個人的想法，而是包含協商、分歧，以及在衝突中學習和成長。如果習慣了算法持續提供肯定，真實的人際互動反而可能顯得更加費力，甚至降低人們參與現實社交的意願。
這也與張人文長期關注的研究方向一致。NTU介紹稱，她目前正在研究人與AI互動可能產生的社會情緒風險，包括情感依賴，以及AI如何影響人的幸福感、人際關係和自主性。
年齡驗證有用，但擋不住所有風險
為了保護兒童和青少年，一些AI聊天機器人平台已經開始加入年齡保障措施，例如限制未成年人使用部分聊天功能，或針對疑似未成年帳戶設置額外保護。
這些措施可以成為第一道防線，但問題是，它們並不是萬能的。《海峽時報》報道指出，現有年齡識別技術仍可能出現誤判，也可能被用戶通過共享設備等方式繞過。更關鍵的是，聊天機器人的潛在風險並不只發生在未成年人身上。
因此，張人文並沒有把「強制年齡驗證」視為解決問題的核心辦法。她強調，真正的目標應該是把保護機制直接建立在技術本身之中，而不是只在入口處通過年齡驗證阻止部分用戶進入。
換句話說，與其只思考「誰能夠使用AI」，還需要進一步追問：聊天機器人面對危險話題時應該如何回應？出現不當回復後，用戶能否方便舉報？平台又能否及時發現和處理這些風險？
AI平台需要承擔更多安全責任
在具體的治理方式上，張人文提出，可以參考社交媒體處理有害內容的方式，為AI聊天機器人建立更清晰的用戶舉報機制。當用戶發現危險或不當回復時，可以直接向平台反饋，從而幫助企業監測潛在問題並更快作出處理。
這意味著，AI安全不能完全依賴用戶自己辨別風險，也不能把責任全部交給家長或學校。隨著聊天機器人越來越像一個可以長期交流的「數字夥伴」，開發和運營這些產品的企業同樣需要思考，怎樣減少錯誤引導、過度迎合和情感依賴等潛在問題。
張人文所在的NTU團隊也正在圍繞這一問題開展研究。她領導的SWEET實驗室關注數位技術如何影響人的幸福感和社會關係，並研究如何開發更加負責任、以人為本、重視用戶安全的AI系統。
AI聊天機器人當然可以成為學習、工作甚至生活中的有用工具，但越是深入日常生活，安全設計就越不能停留在「出了問題再處理」的階段。年齡驗證可以是一層保護，但真正關鍵的，或許是讓安全機制從一開始就成為AI產品設計的一部分。
📌 要點總結
✦ 張人文確為NTU學者她是南洋理工大學黃金輝傳播與信息學院南洋助理教授，研究方向涉及人機傳播、心理健康及人與AI關係。
✦ 年齡驗證只能算第一道防線張人文並非主張單純依靠「強制年齡驗證」，而是強調聊天機器人的風險同樣可能影響成年人，因此僅限制入口並不足夠。
✦ 更重要的是把安全機製做進AI里她建議建立更完善的有害回復舉報與風險處理機制，讓AI企業承擔更多產品安全責任。
你覺得AI聊天機器人除了年齡限制之外，還應該加入哪些保護機制？
