AI的繁榮背後，隱藏著被忽視的代價
新加坡經濟學家、學者唐納德·洛（Donald Low）對人工智慧（AI）的長期效益表達了日益增長的懷疑。他警告稱，目前的討論過於集中在技術的經濟收益上，而嚴重忽視了其帶來的高昂成本和潛在風險。
洛教授曾任李光耀公共政策學院副院長，現任職於香港科技大學。
在周五（6月5日）發布的一篇Facebook帖子中，洛教授指出，經濟學家們大多關注AI革命的宏觀影響，特別是潛在的生產力提升和對勞動力市場的衝擊。然而，他認為AI在微觀經濟層面產生的影響更值得深究。
「認知投降」：AI是否在剝奪我們的學習能力？
洛教授重點強調了AI開發帶來的環境成本。他指出，人們對經濟學所謂的「負外部性」關注不足，特別是運行數據中心和訓練日益複雜的AI模型所需的巨額能源。
在承認AI強大能力的同時，洛教授認為：「毫無疑問，AI在很多工作上比我們做得更好」，但他也強調，「一個熟練/經驗豐富的專業人士在使用AI時，會比沒有AI的專業人士或單純依賴AI的人更高效。」
他進一步質疑，過度依賴AI工具是否與專業能力的培養相兼容。
「幾乎可以肯定，AI並不一定能幫助我們學習，」他寫道，並引用研究表明，依賴大語言模型（LLM）可能會損害學習能力。洛教授稱，目前的調研結果相當一致，認為依賴LLM會導致所謂的「認知投降」（cognitive surrender），從而破壞學習過程。
對於學校和職場能夠快速適應這一新現實的說法，洛教授也持懷疑態度。
他表示：「在我看來，認為教育者和僱主能引導學生和員工負責任地使用AI，並找到鼓勵學習的新方法，這種觀點過於輕率且簡單化。」
在他看來，對某一學科的精通不能外包給技術。
「如果個人不學習，而僅僅依賴AI來完成工作，那麼他將永遠無法獲得那種能夠分辨AI何時有用、何時沒用的精通程度，」洛教授寫道。
警惕：AI可能成為不平等的放大器
除了個人學習，洛教授認為AI還帶來了一個更廣泛的「集體行動問題」。雖然個體為了獲得個人優勢而最大化使用AI是理性的，但其累積效應可能會導致整個社會學習能力和技能開發能力的下降。
在企業層面，他注意到公司正競相採用AI以提高效率並獲得競爭優勢。但由於競爭對手可能採取同樣策略，相對競爭地位可能基本保持不變。
結果是，公司可能會在AI上投入巨額資金，同時削減對員工的支出。洛教授質疑，AI驅動的生產力增長是否能在社會中公平分配。
他警告稱，儘管政府有強烈的動力推廣AI以提升國家競爭力和生產力，但「由於人們採用AI的能力分布不均，AI可能會加劇不平等」。
同時，他認為AI不太可能創造大量新就業崗位。這意味著AI革命帶來的生產力提升可能僅限於少數群體，而無法像第二次工業革命那樣讓整個社會廣泛受益。
引用諾貝爾經濟學獎得主羅伯特·索洛（Robert Solow）關於計算機的著名觀察，洛教授預測AI承諾的收益最終可能低於預期。
他寫道：「套用索洛的話，我預測幾年後，『我們會看到AI時代無處不在，但唯獨在生產力統計數據中看不到』。」
像核軍備競賽一樣：Anthropic呼籲全球暫停AI開發
這位學者的擔憂不僅限於經濟，還延伸到了圍繞強大AI系統的全球競爭。他引用AI公司Anthropic最近的警告，認為構建更先進AI的競賽就像歷史上最著名的集體行動問題之一：核軍備競賽。
「像大多數經濟學家一樣，我曾經是一個技術樂觀主義者，」他寫道，「但現在我不那麼確定了。」
洛教授的觀點恰逢Anthropic呼籲全球協調暫停開發最先進AI系統。該公司警告稱，最新一代的模型開始展現出可能最終超出人類監管的能力。
這家位於舊金山、開發了Claude系列模型的公司在周四（6月4日）發布的一份報告中主張，世界應當具備在必要時減緩或暫時停止前沿AI開發的能力，以便政府、機構和研究人員有更多時間解決安全問題，確保日益強大的系統與人類利益保持一致。
Anthropic表示，減緩前沿AI開發「可能是一件好事」，但承認只有在多個國家的各大AI開發商同時採取行動時，暫停才有效。該公司警告稱，如果單一組織停止推進而競爭對手繼續，將面臨在激烈競爭中落後的風險。
該公司表示，任何有意義的暫停都需要領先AI公司與政府（特別是美國和中國）之間的合作，以及能夠獨立驗證合規性的機制。
「如果沒有全球協調機制，公司和政府在競爭和地緣政治壓力下，將不得不就安全性做出艱難決定，」Anthropic稱。
剎車還是油門？AI行業的困局
這一提議正值科技公司競相開發更強大AI模型的激烈競爭時期。它可能會遭到那些業務與AI快速進步緊密相關的行業領袖的抵制，包括億萬富翁埃隆·馬斯克（Elon Musk）。馬斯克的AI公司xAI由SpaceX所有，而SpaceX預期的上市讓人們猜測他可能成為全球首位萬億富翁。
Anthropic的立場也並非沒有爭議。科技界的一些批評者和華盛頓的部分官員指責該公司誇大了最壞情況，並利用安全擔憂來拖慢競爭對手。
儘管如此，白宮已認可Anthropic強大的Mythos模型的性能。由於該系統具備網絡安全相關能力，目前尚未向公眾開放，僅限少數經過審核的組織使用。
該公司的提議也與美國政策制定者和科技高管的觀點相悖，後者認為減緩AI開發可能會在這一世紀最重要的技術競爭中給中國帶來戰略優勢。
然而，美國總統唐納德·特朗普最近表示，AI安全是他訪問北京期間討論的話題之一，他提出了在管理先進AI系統相關風險方面與中國合作的可能性。
類比核武器控制協議，Anthropic認為監管AI可能會更加困難。與飛彈發射井或核設施不同，AI訓練活動可以進行得非常隱秘，難以驗證組織是否遵守限制。該公司還警告，秘密開發更強大系統的誘惑將非常巨大。
Anthropic聯合創始人傑克·克拉克（Jack Clark）在周四接受BBC Newsnight採訪時表示，目前行業缺乏在出現安全擔憂時減緩開發的機制。
「你希望擁有在必要時鬆開油門、踩下剎車的選項，」克拉克說，「但現在的情況是，AI行業只有油門，沒有剎車。」
Anthropic表示，計劃在未來幾個月內召集政府代表、科學家、公民社會團體和競爭對手AI公司，探討如何建立協調的全球框架。
該公司還透露，內部研究表明，AI系統正在加速新AI模型的開發。Anthropic認為，這種趨勢正在創造一個反饋循環，最終可能導致研究人員所描述的「遞歸自我改進」（recursive self-improvement）——即AI系統能夠在人類參與度降低的情況下，大幅提升自身能力。
雖然Anthropic強調這種發展並非不可避免，也不是迫在眉睫，但警告稱，這種情況出現的速度可能會快於政府和機構的準備速度。
報告稱：「我們還沒有到那個地步，遞歸自我改進並非必然。」
與此同時，該公司認為，證據日益表明，人類在AI開發過程中的角色正在不斷縮小。
