# 南大科研丨成功让 AI“干坏事” 暴露潜在风险 URL: https://www.shicheng.news/v/r6JMJ Published: 2024-01-24 Source: 狮城新闻 新加坡科技设计大学研究员加尔贝利尼（Matheus E. Garbelini）博士曾说：“当下科技发展迅速，大型语言模型变得更加轻型，速度也更快，却可能以影响质量为代价，这个领域竞争白热化程度不逊于5G通讯业。” **新闻概述** 南洋理工大学的科研团队成功开发了一种方法，**能够突破聊天机器人的安全防御**，回答通常**由于违反法律或道德而无法获得的“不良”问题**。这项研究的目的是**揭示人工智能的潜在弱点**，促使开发商加强技术监管，防止其被用作犯罪工具。 研究团队由**南洋理工大学、华中科技大学、新南威尔士大学和领英**的专家组成，他们开发了一种名为**“万能钥匙”**的方法，可以“越狱”多款聊天机器人，包括OpenAI、Google Bard和Bing Chat。这项研究暴露了人工智能的安全漏洞，引发了对人工智能安全和可靠性的进一步讨论。 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378032.avif?0) 来源：联合早报 研究结果已发表在**论文预先发表网站arXiv**，并将在**美国加利福尼亚州的网络和分布式安全研讨会上**进行介绍。这项研究意义重大，不仅展示了技术的进步，也引发了关于人工智能安全和道德问题的进一步讨论。 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378033.avif?0) 来源：联合早报 新加坡教师陈炜杰（39岁）说到：“**南大这项技术展示了人工智能的非凡自我进化能力，但也暴露了人工智能被操纵以推翻伦理和操作准则的危险**。” 他认为，人类必须对人工智能社区保持警惕，做到伦理前瞻并通过协作解决问题，确保人工智能的进步不会削弱社会和伦理框架。 这项研究揭示了**AI在伦理和安全方面的挑战，呼吁人类对AI社区保持警惕**，并确保AI的进步不会削弱社会和伦理框架。 **NTU项目有哪些？** **数据科学和人工智能理学学士** **项目简介：** 该课程由**计算机科学与工程学院和物理与数学科学学院**联合开办， 面向有远见的学生，他们利用数据科学和人工智能 （AI） 为社会的紧迫挑战寻找创新解决方案。 它为学生提供了解决不同应用领域现实生活问题的机会，包括科学技术、医疗保健、商业和金融、环境可持续性等。 是一个**全日制四年制**的直接荣誉理学学士学位课程，由SCSE和物理与数学科学学院（SPMS）联合提供。 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378034.avif?0) 来源：ntu官网 **申请要求：** **1·GCE 'A' 水准** 通过H2级数学 通过H2级生物/化学/计算机/物理 **2·国际文凭** 通过HL数学 通过HL生物/化学/计算机科学/物理 **3·新加坡国立大学高中文凭** 数学专业CAP为2.0 生物/化学/物理专业CAP为2.0 **4·国际和其他资格** 通过高中数学水平 高中生物/化学/物理及格 **5·文凭持有者** 申请人应持有当地理工学院之一的相关文凭。 （持有优异证书、优异文凭或优异文凭的人士可申请南洋理工大学的任何课程） **会计与数据科学和人工智能双学位** **项目简介：** 这是**南洋理工大学（NTU）与南洋商学院和计算机科学与工程学院**合作开设的新课程。 课程涵盖**学习如何管理数据，以编程方式进行业务分析，创建 AI 模型以自动化业务流程，创建预测模型以提高盈利能力**。 该计划将能够使学生可以**编写定制解决方案以做出明智的业务决策，集成用于数据分析的统计库，创建 AI 模型以自动化会计和财务流程**。 此外，还将有机会磨练**编码技能**并作为一个团队**开发编码解决方案**，使用现代开发工具将信息转化为见解，包括 Keras 的深度学习模型、Google Brain TensorFlow、Hadoop、Spark 和 AWS。 课程为全日制四年半制，毕业可以获得两个学位。（会计学学士学位和数据科学与人工智能理学学士学位） ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378035.avif?0) 来源：ntu官网 **申请要求：** **1·新加坡剑桥GCE 'A' Level** 至少**两次通过H2级别的科目，**并在同一次考试中尝试**综合试卷 (GP) 或知识与探究试卷(KI)**。 **满足以下最低科目要求：** 通过数学和H2水平 物理/化学/生物/计算H2级通过 **2·文凭** 您应持有**新加坡当地理工学院或认可机构的相关文凭**（参见下面的可接受文凭列表） ·新学年开学前从文凭课程毕业，才有资格申请入学。 ·如果拥有优异的文凭或杰出的文凭，可以申请NTU的任何课程 ·如果是当地理工学院的毕业生，可以申请前5个学期的累积成绩。如果符合录取标准，将收到录取通知。（仍然需要提交期末成绩，作为已经毕业的文凭课程的证明） ·如果是毕业班学生，但只有四个学期的成绩，您可以先以四个学期的累计成绩申请，并尽快补齐最后两个学期成绩 **3·国际文凭** 通过HL数学 （MAA和MAI都可以接受） **4·新加坡国立大学高中文凭** 数学专业CAP为2.0 生物/化学/物理专业CAP为2.0 **人工智能理学硕士** **项目简介：** 人工智能理学硕士（MSAI）课程是为**希望开发、设计和实施人工智能系统**，**同时培养对人工智能在项目管理和政策制定方面的深刻理解的学生**而设立的。 该课程强调**人工智能理论、技术和工具**，以解决具有多种限制条件的现实世界问题，例如训练数据有限和大数据问题。配备理论和基于活动的学习，这 将使毕业生能够提升他们的能力和技能。 该课程是一个为期一年的全日制（或两年兼读制）课程。 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378036.avif?0) 来源：ntu官网 **课程费用：** 1·**申请费**（含9%的消费税）—— 50.00 新元 2·**定金支付**（含9%消费税）—— 5000 新元 3·**2024年8月入学学费**（含9%消费税） 新加坡公民—— 39,785 新元 新加坡永久居民—— 47,415 新元 国际学生—— 59,187 新元 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378037.avif?0) 来源：ntu官网 **申请要求：** 1·拥有**计算机科学、计算机工程或相关学科的良好荣誉学位**，并接受过扎实的数学训练 2·**计算机科学、计算机工程或相关学科的良好学士学位**，具有**扎实的数学训练和 2 年相关行业经验** 3·非英语教学语言大学毕业生的**最低托福成绩**（基于互联网 = 100，纸笔 = 600，基于计算机 = 250），或**雅思成绩 6.5** 4·相关学科包括但不限于新加坡南洋理工大学工程学院提供的学士学位课程。 感兴趣的同学可以着手准备资料哦 ![南大科研丨成功让 AI“干坏事” 暴露潜在风险](https://www.shicheng.news/images/image/1737/17378038.avif?0)