AI的繁荣背后，隐藏着被忽视的代价
新加坡经济学家、学者唐纳德·洛（Donald Low）对人工智能（AI）的长期效益表达了日益增长的怀疑。他警告称，目前的讨论过于集中在技术的经济收益上，而严重忽视了其带来的高昂成本和潜在风险。
洛教授曾任李光耀公共政策学院副院长，现任职于香港科技大学。
在周五（6月5日）发布的一篇Facebook帖子中，洛教授指出，经济学家们大多关注AI革命的宏观影响，特别是潜在的生产力提升和对劳动力市场的冲击。然而，他认为AI在微观经济层面产生的影响更值得深究。
“认知投降”：AI是否在剥夺我们的学习能力？
洛教授重点强调了AI开发带来的环境成本。他指出，人们对经济学所谓的“负外部性”关注不足，特别是运行数据中心和训练日益复杂的AI模型所需的巨额能源。
在承认AI强大能力的同时，洛教授认为：“毫无疑问，AI在很多工作上比我们做得更好”，但他也强调，“一个熟练/经验丰富的专业人士在使用AI时，会比没有AI的专业人士或单纯依赖AI的人更高效。”
他进一步质疑，过度依赖AI工具是否与专业能力的培养相兼容。
“几乎可以肯定，AI并不一定能帮助我们学习，”他写道，并引用研究表明，依赖大语言模型（LLM）可能会损害学习能力。洛教授称，目前的调研结果相当一致，认为依赖LLM会导致所谓的“认知投降”（cognitive surrender），从而破坏学习过程。
对于学校和职场能够快速适应这一新现实的说法，洛教授也持怀疑态度。
他表示：“在我看来，认为教育者和雇主能引导学生和员工负责任地使用AI，并找到鼓励学习的新方法，这种观点过于轻率且简单化。”
在他看来，对某一学科的精通不能外包给技术。
“如果个人不学习，而仅仅依赖AI来完成工作，那么他将永远无法获得那种能够分辨AI何时有用、何时没用的精通程度，”洛教授写道。
警惕：AI可能成为不平等的放大器
除了个人学习，洛教授认为AI还带来了一个更广泛的“集体行动问题”。虽然个体为了获得个人优势而最大化使用AI是理性的，但其累积效应可能会导致整个社会学习能力和技能开发能力的下降。
在企业层面，他注意到公司正竞相采用AI以提高效率并获得竞争优势。但由于竞争对手可能采取同样策略，相对竞争地位可能基本保持不变。
结果是，公司可能会在AI上投入巨额资金，同时削减对员工的支出。洛教授质疑，AI驱动的生产力增长是否能在社会中公平分配。
他警告称，尽管政府有强烈的动力推广AI以提升国家竞争力和生产力，但“由于人们采用AI的能力分布不均，AI可能会加剧不平等”。
同时，他认为AI不太可能创造大量新就业岗位。这意味着AI革命带来的生产力提升可能仅限于少数群体，而无法像第二次工业革命那样让整个社会广泛受益。
引用诺贝尔经济学奖得主罗伯特·索洛（Robert Solow）关于计算机的著名观察，洛教授预测AI承诺的收益最终可能低于预期。
他写道：“套用索洛的话，我预测几年后，‘我们会看到AI时代无处不在，但唯独在生产力统计数据中看不到’。”
像核军备竞赛一样：Anthropic呼吁全球暂停AI开发
这位学者的担忧不仅限于经济，还延伸到了围绕强大AI系统的全球竞争。他引用AI公司Anthropic最近的警告，认为构建更先进AI的竞赛就像历史上最著名的集体行动问题之一：核军备竞赛。
“像大多数经济学家一样，我曾经是一个技术乐观主义者，”他写道，“但现在我不那么确定了。”
洛教授的观点恰逢Anthropic呼吁全球协调暂停开发最先进AI系统。该公司警告称，最新一代的模型开始展现出可能最终超出人类监管的能力。
这家位于旧金山、开发了Claude系列模型的公司在周四（6月4日）发布的一份报告中主张，世界应当具备在必要时减缓或暂时停止前沿AI开发的能力，以便政府、机构和研究人员有更多时间解决安全问题，确保日益强大的系统与人类利益保持一致。
Anthropic表示，减缓前沿AI开发“可能是一件好事”，但承认只有在多个国家的各大AI开发商同时采取行动时，暂停才有效。该公司警告称，如果单一组织停止推进而竞争对手继续，将面临在激烈竞争中落后的风险。
该公司表示，任何有意义的暂停都需要领先AI公司与政府（特别是美国和中国）之间的合作，以及能够独立验证合规性的机制。
“如果没有全球协调机制，公司和政府在竞争和地缘政治压力下，将不得不就安全性做出艰难决定，”Anthropic称。
刹车还是油门？AI行业的困局
这一提议正值科技公司竞相开发更强大AI模型的激烈竞争时期。它可能会遭到那些业务与AI快速进步紧密相关的行业领袖的抵制，包括亿万富翁埃隆·马斯克（Elon Musk）。马斯克的AI公司xAI由SpaceX所有，而SpaceX预期的上市让人们猜测他可能成为全球首位万亿富翁。
Anthropic的立场也并非没有争议。科技界的一些批评者和华盛顿的部分官员指责该公司夸大了最坏情况，并利用安全担忧来拖慢竞争对手。
尽管如此，白宫已认可Anthropic强大的Mythos模型的性能。由于该系统具备网络安全相关能力，目前尚未向公众开放，仅限少数经过审核的组织使用。
该公司的提议也与美国政策制定者和科技高管的观点相悖，后者认为减缓AI开发可能会在这一世纪最重要的技术竞争中给中国带来战略优势。
然而，美国总统唐纳德·特朗普最近表示，AI安全是他访问北京期间讨论的话题之一，他提出了在管理先进AI系统相关风险方面与中国合作的可能性。
类比核武器控制协议，Anthropic认为监管AI可能会更加困难。与导弹发射井或核设施不同，AI训练活动可以进行得非常隐秘，难以验证组织是否遵守限制。该公司还警告，秘密开发更强大系统的诱惑将非常巨大。
Anthropic联合创始人杰克·克拉克（Jack Clark）在周四接受BBC Newsnight采访时表示，目前行业缺乏在出现安全担忧时减缓开发的机制。
“你希望拥有在必要时松开油门、踩下刹车的选项，”克拉克说，“但现在的情况是，AI行业只有油门，没有刹车。”
Anthropic表示，计划在未来几个月内召集政府代表、科学家、公民社会团体和竞争对手AI公司，探讨如何建立协调的全球框架。
该公司还透露，内部研究表明，AI系统正在加速新AI模型的开发。Anthropic认为，这种趋势正在创造一个反馈循环，最终可能导致研究人员所描述的“递归自我改进”（recursive self-improvement）——即AI系统能够在人类参与度降低的情况下，大幅提升自身能力。
虽然Anthropic强调这种发展并非不可避免，也不是迫在眉睫，但警告称，这种情况出现的速度可能会快于政府和机构的准备速度。
报告称：“我们还没有到那个地步，递归自我改进并非必然。”
与此同时，该公司认为，证据日益表明，人类在AI开发过程中的角色正在不断缩小。
