# 南大科研丨成功讓 AI「幹壞事」 暴露潛在風險 URL: https://www.shicheng.news/zh-hant/v/r6JMJ Published: 2024-01-24 Source: 獅城新聞 新加坡科技設計大學研究員加爾貝利尼（Matheus E. Garbelini）博士曾說：「當下科技發展迅速，大型語言模型變得更加輕型，速度也更快，卻可能以影響質量為代價，這個領域競爭白熱化程度不遜於5G通訊業。」 **新聞概述** 南洋理工大學的科研團隊成功開發了一種方法，**能夠突破聊天機器人的安全防禦**，回答通常**由於違反法律或道德而無法獲得的「不良」問題**。這項研究的目的是**揭示人工智慧的潛在弱點**，促使開發商加強技術監管，防止其被用作犯罪工具。 研究團隊由**南洋理工大學、華中科技大學、新南威爾斯大學和領英**的專家組成，他們開發了一種名為**「萬能鑰匙」**的方法，可以「越獄」多款聊天機器人，包括OpenAI、Google Bard和Bing Chat。這項研究暴露了人工智慧的安全漏洞，引發了對人工智慧安全和可靠性的進一步討論。 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378032.avif?0) 來源：聯合早報 研究結果已發表在**論文預先發表網站arXiv**，並將在**美國加利福尼亞州的網絡和分布式安全研討會上**進行介紹。這項研究意義重大，不僅展示了技術的進步，也引發了關於人工智慧安全和道德問題的進一步討論。 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378033.avif?0) 來源：聯合早報 新加坡教師陳煒傑（39歲）說到：「**南大這項技術展示了人工智慧的非凡自我進化能力，但也暴露了人工智慧被操縱以推翻倫理和操作準則的危險**。」 他認為，人類必須對人工智慧社區保持警惕，做到倫理前瞻並通過協作解決問題，確保人工智慧的進步不會削弱社會和倫理框架。 這項研究揭示了**AI在倫理和安全方面的挑戰，呼籲人類對AI社區保持警惕**，並確保AI的進步不會削弱社會和倫理框架。 **NTU項目有哪些？** **數據科學和人工智慧理學學士** **項目簡介：** 該課程由**計算機科學與工程學院和物理與數學科學學院**聯合開辦， 面向有遠見的學生，他們利用數據科學和人工智慧 （AI） 為社會的緊迫挑戰尋找創新解決方案。 它為學生提供了解決不同應用領域現實生活問題的機會，包括科學技術、醫療保健、商業和金融、環境可持續性等。 是一個**全日制四年制**的直接榮譽理學學士學位課程，由SCSE和物理與數學科學學院（SPMS）聯合提供。 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378034.avif?0) 來源：ntu官網 **申請要求：** **1·GCE 'A' 水準** 通過H2級數學 通過H2級生物/化學/計算機/物理 **2·國際文憑** 通過HL數學 通過HL生物/化學/計算機科學/物理 **3·新加坡國立大學高中文憑** 數學專業CAP為2.0 生物/化學/物理專業CAP為2.0 **4·國際和其他資格** 通過高中數學水平 高中生物/化學/物理及格 **5·文憑持有者** 申請人應持有當地理工學院之一的相關文憑。 （持有優異證書、優異文憑或優異文憑的人士可申請南洋理工大學的任何課程） **會計與數據科學和人工智慧雙學位** **項目簡介：** 這是**南洋理工大學（NTU）與南洋商學院和計算機科學與工程學院**合作開設的新課程。 課程涵蓋**學習如何管理數據，以編程方式進行業務分析，創建 AI 模型以自動化業務流程，創建預測模型以提高盈利能力**。 該計劃將能夠使學生可以**編寫定製解決方案以做出明智的業務決策，集成用於數據分析的統計庫，創建 AI 模型以自動化會計和財務流程**。 此外，還將有機會磨練**編碼技能**並作為一個團隊**開發編碼解決方案**，使用現代開發工具將信息轉化為見解，包括 Keras 的深度學習模型、Google Brain TensorFlow、Hadoop、Spark 和 AWS。 課程為全日制四年半制，畢業可以獲得兩個學位。（會計學學士學位和數據科學與人工智慧理學學士學位） ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378035.avif?0) 來源：ntu官網 **申請要求：** **1·新加坡劍橋GCE 'A' Level** 至少**兩次通過H2級別的科目，**並在同一次考試中嘗試**綜合試卷 (GP) 或知識與探究試卷(KI)**。 **滿足以下最低科目要求：** 通過數學和H2水平 物理/化學/生物/計算H2級通過 **2·文憑** 您應持有**新加坡當地理工學院或認可機構的相關文憑**（參見下面的可接受文憑列表） ·新學年開學前從文憑課程畢業，才有資格申請入學。 ·如果擁有優異的文憑或傑出的文憑，可以申請NTU的任何課程 ·如果是當地理工學院的畢業生，可以申請前5個學期的累積成績。如果符合錄取標準，將收到錄取通知。（仍然需要提交期末成績，作為已經畢業的文憑課程的證明） ·如果是畢業班學生，但只有四個學期的成績，您可以先以四個學期的累計成績申請，並儘快補齊最後兩個學期成績 **3·國際文憑** 通過HL數學 （MAA和MAI都可以接受） **4·新加坡國立大學高中文憑** 數學專業CAP為2.0 生物/化學/物理專業CAP為2.0 **人工智慧理學碩士** **項目簡介：** 人工智慧理學碩士（MSAI）課程是為**希望開發、設計和實施人工智慧系統**，**同時培養對人工智慧在項目管理和政策制定方面的深刻理解的學生**而設立的。 該課程強調**人工智慧理論、技術和工具**，以解決具有多種限制條件的現實世界問題，例如訓練數據有限和大數據問題。配備理論和基於活動的學習，這 將使畢業生能夠提升他們的能力和技能。 該課程是一個為期一年的全日制（或兩年兼讀制）課程。 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378036.avif?0) 來源：ntu官網 **課程費用：** 1·**申請費**（含9%的消費稅）—— 50.00 新元 2·**定金支付**（含9%消費稅）—— 5000 新元 3·**2024年8月入學學費**（含9%消費稅） 新加坡公民—— 39,785 新元 新加坡永久居民—— 47,415 新元 國際學生—— 59,187 新元 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378037.avif?0) 來源：ntu官網 **申請要求：** 1·擁有**計算機科學、計算機工程或相關學科的良好榮譽學位**，並接受過紮實的數學訓練 2·**計算機科學、計算機工程或相關學科的良好學士學位**，具有**紮實的數學訓練和 2 年相關行業經驗** 3·非英語教學語言大學畢業生的**最低托福成績**（基於網際網路 = 100，紙筆 = 600，基於計算機 = 250），或**雅思成績 6.5** 4·相關學科包括但不限於新加坡南洋理工大學工程學院提供的學士學位課程。 感興趣的同學可以著手準備資料哦 ![南大科研丨成功讓 AI「幹壞事」 暴露潛在風險](https://www.shicheng.news/images/image/1737/17378038.avif?0)