# 反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？ URL: https://www.shicheng.news/v/3xzq2 Published: 2023-05-05 Source: 狮城新闻 ![反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？](https://www.shicheng.news/images/image/1721/17212373.avif?1683205216) AI科技的飞速发展让人乍喜还忧。（路透社） **作者 李国豪** **要**说当今显学，人工智能（AI）绝对榜上有名。 自去年底，生成式人工智能聊天机器人“ChatGPT”横空出世，对于AI的讨论便不曾止息。 人们像发现新大陆一样，饶有兴致地将各种难题抛给ChatGPT，但随着ChatGPT愈来愈显示出“能人所不能”的能耐，人们也从一开始的兴趣盎然，逐渐变得忧心忡忡： ***既要担心工作被AI抢走，又要担心AI带来真假难辨的信息，更有甚者，还得担心假以时日AI变得比人类聪明，最终反噬人类社会。*** ![反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？](https://www.shicheng.news/images/image/1721/17212374.avif?1683205216) ChatGPT的问世，刷新了世人对AI能力的认知。（路透社） 被誉为“AI教父”的电脑科学家辛顿（Geoffrey Hinton）近日接受《纽约时报》访问时毫不讳言，AI的进步将对“社会和人类构成极大风险”。 包括特斯拉老板马斯克等在内的逾千位专家也联署呼吁暂停开发AI系统，以便有时间确保这项科技是安全的。 此外，据外媒报道，在AI技术发展最旺盛的美国，政府当局决定不再坐以待毙。以美国副总统哈里斯为首的高级官员将与谷歌、微软、OpenAI、Anthropic等科技公司的高管会面，会谈内容预计将包含呼吁相关公司确保AI产品安全性等课题。 在AI火速发展且频频刷新人们认知之际，对于AI究竟该限制还是该放任？该中止其发展，还是采取比较平衡的规管，人们或许可从以下三大面向加以探讨。 **一、AI会不会抢走所有人类的工作？** ***“AI会不会抢走我的工作”？*** 相信这是大部分人见识AI之强大后心中冒出的第一个念头，毕竟AI已开始展现出[取代人力](http://mp.weixin.qq.com/s?__biz=Mzg3MDIwOTEwNw==&mid=2247590237&idx=4&sn=d4c062df31cb38775047779b5b82ab4b&chksm=ce926261f9e5eb77f1c64f72e71b68b7370e723c7f0cc70fed181f7fb34b99e5914a35de66e7&scene=21#wechat_redirect)的能耐。 根据世界经济论坛最新发行的未来工作研究报告，全球在未来五年恐怕将有多达23%的工作消失，而类似ChatGPT这类的生成式AI工具将取代大量人力。 最新的例子是国际商业机器公司（IBM）的执行长克里希纳（Arvind Krishna）在周一（1日）宣布，该公司未来几年将暂停招聘人力资源等后勤部门人员，原因是这类工作“可以被AI胜任”，单是在IBM，这类未来恐被AI取代的工作岗位就有可能多达7800个。 AI导致人类失业，不再是危言耸听。 新加坡副总理黄循财在劳动节集会献词中也强调，随着AI算法越来越精进，人们的工作将迎来翻天覆地的改变，一些现有的技能或许将被淘汰，国人必须迎合AI的发展趋势，学习新技能。 这番论调也是全球社会应对AI崛起的主流说法，但这种说法必须打上问号，毕竟哪些职业在AI时代仍有必要，目前都还仅是相对抽象的概念，而AI科技的发展速度，更让人无法断定AI的极限究竟在哪里。 没人说得准，一旦放任AI发展，原本还被认为不易被取代的工作，是否会被以惊人速度发展的AI取而代之。 在这种情况下，我们是否还应无止尽地让AI发展？抑或是适时划下一道底线，让情势不至于演变成所有人都无工可做？ ![反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？](https://www.shicheng.news/images/image/1721/17212375.avif?1683205216) 黄循财在劳动节集会提及AI发展对未来工作性质可能带来的改变。（联合早报） **二、AI加剧人类社会真假难辨的现象** 同样让人忧心的是，AI领域或将成为散播诈骗与错误信息的温床。 从以假乱真的AI生成图，再到真假难辨的信息，AI某种程度上已开始侵蚀人类社会的信任基础。 例如早前德国一家杂志用AI生成“F1车神舒马克专访”的恶趣味，便凸显了AI可能带来的道德风险。 安全隐私风险则是生成式AI的另一隐患，这包括了对个人敏感数据的收集与使用。 韩国科技大厂三星电子日前以员工“不当使用”AI科技为由，禁止员工在公司电脑使用ChatGPT等生成式AI服务便是一例。 在三星之前，包括高盛（Goldman Sachs）等重要金融公司也都推出了类似禁令。 AI的泛滥，是否造成人类社会陷入“假作真时真亦假”的混沌状况，不可不察。 **三、AI最终凌驾人类？** 最令人担心的是，AI的智慧有没有可能凌驾于人脑之上，最终反噬人类社会？ 在1984年《魔鬼终结者》（Terminator）和2004年《机械公敌》（I, Robot）等科幻电影中，人类研发的人工智能都因产生了自我智能而与人类为敌，意图使人类灭绝。 让人不寒而栗的是，科幻电影的场景在当今AI技术的火速发展下，恐怕已非天方夜谭。 “AI教父”辛顿直言，如今的AI和五年前相比，其差异及成长“真的很吓人”。 他说，由于AI能透过分析巨量数据学习到令人无法预测的行为，他担心长此以往所谓的“杀人机器”恐将成为现实。 他还强调，他认为现阶段人们没有办法预防“坏人利用AI来做坏事”。 ![反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？](https://www.shicheng.news/images/image/1721/17212376.avif?1683205215) 人工智能反噬人类社会是不少科幻电影的题材。（《机械公敌》剧照） 各家科技公司眼见AI有利可图，竞相投入相关领域，有竞争就有进步，这是自由市场的不变定律。可以预见，若无全球性的规范介入，AI超越人类智慧的日子恐怕不远矣。 面对AI的飞速发展，我们或许该省思，AI所带来的便利，是否是以剥夺某些人类存在的意义与价值作为代价？有没有必要在人类自己都还不确定如何控管AI带来的风险前，加以约束之？ ![反噬人类社会或不再是电影桥段，我们该不该约束AI的运用与发展？](https://www.shicheng.news/images/image/1721/17212377.avif?1683205215)