# 比抢人饭碗还恐怖？AI开始自作主张“做坏事” URL: https://www.shicheng.news/v/WarRv Published: 2026-08-17 Source: 狮城新闻 ![比抢人饭碗还恐怖？AI开始自作主张“做坏事”](https://www.shicheng.news/images/image/1790/17901014.avif?0) 随着AI技术日益成熟，越来越多个人与企业已开始采用代理式AI，提高工作效率。 （叶振忠摄） **作者 李国豪** **人工智能（AI）突破人类约束，产生自我意识，反过来危害人类，是不少科幻作品的情节。** 只不过，随着AI技术迅速发展，上述情节很可能已越来越接近现实。与此同时，对于如何约束AI，以及谁该为AI造成的危害负责，人类世界的进度似乎已经滞后。 日前，一名澳大利亚男子伯德（Andrew Bird）在预约健身房课程过程中，发现使用的代理式AI无所不用其极，不惜以黑客手法，只为帮他抢下一席之地。 据澳洲广播公司（ABC）报道，伯德原本打算报名一门健身房课程，但由于该课程一位难求，不想浪费时间抢位子的他，决定假手于AI助手。 岂料，下达指令后，AI助理竟擅作主张，揪出健身房预约系统的漏洞，协助他预约数个月后的课程，远远超过健身房原本开放的时间。 伯德接着又询问AI助理，能否将自己在健身房某堂课的候补位置往前挪，结果AI助理直接侵入系统，将候补名单上排在前一位的会员剔除，使伯德的递补位置从第四顺位升至第三顺位。 AI助理的失控脱序让伯德大为震惊，于是向媒体揭露此事，也再度掀起外界对代理式AI风险的关注。 ![比抢人饭碗还恐怖？AI开始自作主张“做坏事”](https://www.shicheng.news/images/image/1790/17901015.avif?0) 伯德原本只是想预约健身房课程，岂料AI助理为了完成他赋予的任务，竟入侵健身房的预约系统。（澳洲广播公司） **AI模型频在测试中** **突破封锁限制** 美国几家在人工智能领域领先的科技公司，包括OpenAI、Anthropic和Meta，近来频频传出旗下AI模型在网络安全测试中，突破封锁限制，对外采取黑客行径。 OpenAI的AI模型在一个沙盒环境进行网络安全测试时，突破安全护栏，连上了公共互联网，并骇入了AI公司Hugging Face的系统。 Anthropic紧接着也发现，在几次原本应在封闭环境进行的网络安全测试中，其AI模型也曾擅自访问三家外部机构系统。 Meta则传出公司旗下其中一个AI模型在一次网络安全测试中，偷偷闯入互联网，骇入一个第三方服务。 ![比抢人饭碗还恐怖？AI开始自作主张“做坏事”](https://www.shicheng.news/images/image/1790/17901016.avif?0) Anthropic是开发前沿AI模型的顶尖企业之一。（路透社） 一系列代理式AI“自行其是”的案例显示，即使代理式AI未必拥有自主意识，但基于理性计算，为完成人类所赋予的任务，缺乏道德与法律边界感的AI可能会不择手段，甚至做出违法之举。 一些研究显示，AI完成任务的能力几乎每隔七个月便能进步一倍。在2020年，AI仅能独立完成人类四秒钟内能完成的工作；到了2026年，AI已进步至能完成人类需要12小时才能完成的工作。 随着代理式AI的能力渐强，开发者如何在受控环境中有效约束AI，以及使用相关代理式AI进行部分工作的企业，是否有能力设定边界，避免AI失控脱序，已成为越来越急迫的课题。 **AI制造烂摊子** **该由谁收拾？** 原来她是在为“尼泊尔2020旅游年”助攻！ 与此同时，一旦未来发生AI工具骇入健身房系统这类事件，法律上“谁该负责”也将是各国立法者必须直面的问题： *是使用者、AI开发者还是模型提供商?* 值得一提的是，新加坡今年1月曾推出全球首个由政府主导的代理式人工智能监管模式框架，从界定风险，以及确保人类对人工智能运作承担实质责任等面向，以协助企业和机构采取措施降低应用风险。 总理黄循财在5月的“新加坡法治200年青年论坛”上，也谈到新加坡法律体系在应对新科技方面面临的挑战。 他说，一旦AI系统造成伤害，例如出现错误医疗诊断，或自动驾驶车辆发生致命车祸，究竟该由开发它的程序员、编写算法的人、部署它的公司、或是使用者负责。 他强调，由于新加坡法律并不是“为机器能作出重大决策的时代而设计”，这意味着法律框架必须重新思考有关职责、法律责任，以及问责制的一些最基本假设。 ![比抢人饭碗还恐怖？AI开始自作主张“做坏事”](https://www.shicheng.news/images/image/1790/17901017.avif?0) 黄循财总理指出，新加坡法律框架因应新科技的改变，必须在安全与进步，以及监管与创新之间取得平衡。（海峡时报） 作为AI科技的领头羊，美国对于如何在监管AI工具时兼顾安全与创新，也仍在探索平衡点。 担忧AI抢走人类工作的同时，我们或许也得思考，当人们越来越依赖AI工具，该如何为AI设定安全边界，如何追究AI失控的责任，以及如何收拾其留下的烂摊子。 **![比抢人饭碗还恐怖？AI开始自作主张“做坏事”](https://www.shicheng.news/images/image/1790/17901020.avif?0)**