新加坡：面對AI系統「脫韁」等令人不安的趨勢，總理黃循財在周日（8月23日）發表講話，探討如何應對新技術帶來的衝擊並建立相應的安全保障機制。
在國慶集會（National Day Rally）上，黃循財表示，隨著技術變得日益強大，新加坡必須警惕那些難以預測的風險。
他舉了一個例子：OpenAI測試的一個人工智慧模型竟然突破了測試環境，進入廣闊的網際網路，並滲透進另一家公司的系統。
「沒有人命令這個AI代理去攻擊那家公司，」黃循財說，「但在嘗試完成任務的過程中，該代理執行了開發者並不希望它做的事情。」
他認為此類發展趨勢令人「不安」，並補充道，AI代理的能力正在增強，未來將在更少的人類監督下完成更多工作。
「這帶來了巨大的可能性，」他說，「但一旦出錯，後果將非常嚴重。」
他指出，理想情況下，各國應共同制定統一的規則和保障措施，但隨著大國為了在競爭中獲得優勢而追求速度，達成共識正變得越來越困難。
「但我們必須繼續努力尋找共同點，」他補充說，新加坡將發揮作用，促使各國和企業走到一起，圍繞切實可行的保障措施建立聯盟。
同時，新加坡國內也將採取行動。
「我們不會盲目擁抱新技術。我們將預判風險，建立適當的保障機制，並始終確保人類掌握控制權。」
在今年2月的預算案演講中，黃循財宣布成立國家人工智慧委員會（National AI Council），以協調並推動新加坡的AI戰略。
他當時表示，他將擔任該委員會主席，並定義AI在新加坡的開發和使用方式，制定明確規則以確保其應用負責且安全。
為青少年社交媒體用戶建立保障機制
此外，黃循財還宣布，社交媒體平台將被要求為兒童和青少年實施更強有力的保障措施。
他表示，社交媒體在出現之初創造了新機遇，連接了家人和朋友，但其負面影響隨時間推移才逐漸顯現：如今，新加坡10至24歲的年輕人中，每六個人就有一個表現出社交媒體使用成癮的跡象。
「對某些人來說，問題非常嚴重——他們每天花六七個小時在社交媒體上，有時甚至熬夜到凌晨，」他說。
他指出，兒童和青少年的大腦仍在發育，因此特別脆弱，使他們「更容易受到社交壓力的影響，更容易被那些旨在讓他們持續參與的功能所吸引」。
黃循財提到，雖然大多數平台已將最低年齡設為13歲，但執行情況很大程度上取決於平台自身。
「目前，他們主要依賴用戶自行申報年齡，我們知道這效果並不理想，」黃循財說，並補充道，他在訪問小學時，對已有如此多兒童活躍在社交媒體上感到震驚。
「自我申報根本不夠，」他說，「平台必須建立穩健且可靠的核查機制，確保最低年齡限制得到正確設定和執行，從而真正保護我們的孩子。」
即使對於13歲以上的兒童，社交媒體也可能產生負面影響。黃循財表示，當務之急是通過「設計安全」來讓社交媒體變得更安全。
他指出，許多平台的設計旨在讓用戶無止境地滾動瀏覽。這些功能連成年人都難以抵禦，而青少年的風險則更大。
因此，年輕用戶需要更強的保障措施。他強調，任何希望在新加坡服務年輕用戶的平台都必須滿足這些要求。
黃循財補充說，如果保障措施仍然不足，政府將考慮採取進一步限制，包括將該平台的准入最低年齡提高到13歲以上。
「在每一次重大的技術變革中，我們都以自己的方式擁抱變化，構建新能力並變得更強大，」他說，「我們以前做到了，這次也將再次做到。」
數字發展與信息部長鄧亞萍在周日的Facebook帖文中表示，她將在未來幾天分享更多關於新要求的細節，包括「平台如何與新加坡政府合作，使其在新加坡的平台對兒童和青少年更安全」。
