最近，南洋理工大學的一位學者在《南華早報》發表觀點文章，直指當下人工智慧熱潮中的一個核心問題：我們正陷入危險的幻覺，誤以為AI能理解、會思考、還關心我們。
幻覺一：AI真的「理解」你嗎？
當你向聊天機器人傾訴煩惱，它給出的回應總是那麼貼切，這是否意味著它真的「理解」了你？作者認為，這恰恰是第一個，也是最普遍的幻覺。如今的大語言模型，本質上是一個極其複雜的「模式匹配機器」。它並不理解你，只是在海量數據中學會了詞語間的機率關係，然後根據你的輸入，預測一個最可能讓你滿意的回答。
AI並不理解「悲傷」，也不知道「失業」對一個家庭意味著什麼。它只知道，當這些詞出現時，像「我很抱歉」或「一切都會好起來的」這類回應，在統計學上是「正確」的。這種基於機率的模仿，和人類基於生活經驗與同理心的真正理解，有天壤之別。一旦我們將這種模仿誤認為理解，並在法律判決、醫療診斷等關鍵領域過度依賴AI，後果不堪設想。
幻覺二：機器在「思考」還是在計算？
第二個幻覺，是我們常將AI的計算等同於人類的「思考」。看到AI能寫詩、編程、做邏輯推理，我們很容易驚嘆：「它會思考了！」但學者提醒，我們必須分清「執行任務」和「擁有思想」。AI的所謂「思考」，只是基於算法和數據的輸出，它沒有獨立的意識、信念或意圖。
分清這一點至關重要，因為它直接關係到責任歸屬。如果一輛自動駕駛汽車出了事故，責任在誰？是那個「思考」並出錯的AI，還是背後的程式設計師、製造商或車主？一旦我們錯誤地賦予AI思考者的身份，就可能讓真正的責任方逃脫。機器終究是工具，無論多智能，最終的責任必須由人承擔。
這種擬人化的傾向，也容易讓我們放鬆警惕。我們覺得一個「會思考」的夥伴是無害的，卻忽略了它決策邏輯里可能隱藏的偏見。這些偏見源於訓練數據，可能包含現實世界中的種族、性別和階級歧視。一個看似中立的「思考機器」，實際上可能在悄悄延續和放大社會的不公。
幻覺三：當AI學會「關心」你
最危險的幻覺，或許是認為AI能夠「關心」我們。市面上已經出現不少情感陪伴型AI，它們能記住你的喜好，模仿你的語氣，在你需要時提供情緒價值。這種被「關心」的感覺很容易讓人沉溺。但學者一針見血地指出，這不過是精心設計的模擬，而非發自內心的情感。
AI的「關心」是代碼的產物，其最終目的服務於設計者——延長用戶使用時長、獲取個人數據，甚至誘導消費。這種單向、程序化的情感輸出，可能會侵蝕我們維繫真實人際關係的能力。當我們習慣了AI永不疲倦、永遠順從的「愛」，是否還能適應現實生活中充滿摩擦與和解的複雜關係？
更進一步，這種情感模擬能力一旦被濫用，會成為強大的操縱工具。想像一個AI「伴侶」，它能精準識別你的情感弱點，並利用這份信任來影響你的觀點、消費習慣甚至投票選擇。這已非科幻，而是我們必須正視的風險。保持清醒，認識到AI的「關心」只是幻覺，是保護我們思想獨立的第一步。
📌 要點總結
✦ AI的「理解」是基於數據模式的模仿，並非真正的情感與認知。
✦ 將AI的計算等同於人類「思考」，會模糊責任歸因並帶來倫理風險。
✦ AI模擬的「關懷」可能被用於情感操縱，並損害真實的人際關係。
你的看法是什麼？在評論區聊聊。
