當人工智慧能力不斷增強，安全機制也必須同步進化：不僅要抵禦技術攻擊，還要理解不同文化與語境中的價值差異。
新加坡南洋理工大學（NTU）計算與數據科學學院（CCDS）兩位教師獲得Google SafeWorks 2026 Research Program資助研究協議。兩項協議均為期一年，將分別推進適應性AI安全及下一代全棧AI基礎設施安全研究。
Yew-Soon Ong教授：讓AI安全機制隨能力共同進化
研究支持：100,000美元
研究方向：面向隱私、安全與以用戶為中心信任的自適應AI安全策略
NTU人工智慧Yidan講席教授Yew-Soon Ong計劃圍繞三個相互補充的挑戰開展研究：
一是通過計算建模，識別能夠跨視覺—語言任務遷移的系統漏洞；二是加強AI系統可信度和穩健性評估的基礎；三是研究文化對齊基準與方法，幫助大型語言模型進行更具文化意識、更關注具體語境的推理。
研究目標包括建立可復現的穩健性評估方法，並在不破壞核心安全約束的前提下，讓拒答、警告和解釋等安全響應能夠以受控、保護隱私的方式更新。
項目尤其關注亞太地區豐富的文化、語言與社會多樣性，希望推動既尊重不同人類價值觀、又堅持安全、保障與信任等普遍原則的AI防護機制。
Anupam Chattopadhyay副教授：守護下一代AI基礎設施
研究支持：80,000美元
研究方向：下一代全棧AI基礎設施安全
Anupam Chattopadhyay副教授將利用這項支持繼續推進多條重要研究路線，包括開發更快、更可靠的深度偽造檢測方法，構建能夠抵禦量子計算機攻擊的網絡，以及運用密碼學技術把安全協議嵌入AI系統。
這項工作延續了他在AI安全與抗量子安全問題上的長期研究，相關探索此前也獲得NTU SCRIPTS研究中心及Temasek Labs@NTU等機構支持。
隨著深度偽造、數據隱私風險及未來量子攻擊不斷改變數字安全環境，全棧式思路能夠從模型、系統、網絡到密碼學機制多個層面建立防護，為更加可靠的AI基礎設施打下基礎。
從模型行為到基礎設施，構建多層次AI安全
兩項研究形成了相互呼應的安全路徑：一項關注AI如何在多元文化和複雜語境中作出可信、安全的響應；另一項聚焦支撐AI運行的底層系統、網絡與密碼機制。
NTU CCDS研究副院長Lin Weisi副教授表示，這項合作符合NTU推動全球影響力的使命，將支持學院教師研究當今世介面對的關鍵AI安全問題，並期待未來與Google展開更多合作。
從技術穩健性、文化對齊到隱私保護與抗量子安全，NTU研究人員正在與產業夥伴攜手，為更安全、更可信、更具包容性的人工智慧未來建立科學基礎。
