新加坡：全球頂尖人工智慧公司的領導者們近期呼籲放緩技術開發速度。專家和業內人士表示，這可能意味著 AI 模型將面臨更嚴格的安全評估，但對普通用戶的影響微乎其微。
專家告訴 CNA，他們預計未來會出現更長的測試周期、更小規模的逐步推廣，以及對 AI 智能體（AI agents）獨立行動能力的更嚴格限制。
與主要負責回答問題的語言大模型不同，AI 智能體旨在執行任務。它們可以在極少監督的情況下打開應用程式、搜索信息、生成文檔並完成多步驟流程。
Concordia AI（一家 AI 治理社會企業）的國際 AI 治理項目經理 Jonathan Lee 表示，如果速度放緩，公司可能會花更多時間監控和對齊 AI 智能體，而不是盲目追求開發新版本。
他補充說，一旦模型跨越風險閾值，開發商可能會停止對該智能體的訓練。
例如，在出現初步證據表明 OpenAI 的 Astra 模型可能達到「關鍵」網絡安全能力水平後，OpenAI 暫停了某些流程，直到該模型能在安全性更高、監控更嚴的環境中進行測試。Astra 最終於 9 月 3 日發布。
9 月 12 日，Anthropic 執行長 Dario Amodei 在對「超智能」計算機系統風險日益擔憂的背景下，呼籲 AI 公司放緩技術開發。
在此之前幾天，曾從 OpenAI 跳槽至 Anthropic 的 AI 研究員 Jacob Coxon 決定離開這個行業，他指責這兩家美國公司在開發具備自我改進能力模型的競賽中「在拿我們的生命做賭注」。
OpenAI 負責人 Sam Altman 和 xAI 所有者 Elon Musk 也同意 Amodei 的評估，隨著監管壓力的增加，各方達成了一定共識。
Google DeepMind 董事長兼聯合創始人 Demis Hassabis 同樣表示 Amodei 的想法是「正確的方向」，並將這一提議與他的團隊呼籲建立 AI 開發行業標準機構的主張聯繫起來。
新加坡管理大學（SMU）研究 AI 對工作影響的李佳教授表示，Anthropic 提出且被其他大廠認可的方案中，第一步是允許獨立的第三方評估人員永久進入實驗室，並有權發布其發現。
這位 SMU 經濟學院院長指出，後續步驟——如在前沿實驗室之間建立共同標準，並最終達成某種形式的國際協議——將需要反壟斷豁免和政府的參與，而這些目前尚不存在。
這會對用戶產生什麼影響？
Lee 先生表示，消費者可能會注意到最強大模型的發布速度變慢，且高度自主功能的限制會更加嚴格。
他補充說，這可能包括僅限邀請制的訪問、分階段推廣，或者在高風險情況下延遲或暫緩發布某個模型。
但消費者可能幾乎感覺不到減速的影響，因為用戶和公司將繼續採用之前的 AI 突破性成果。
「總的來說，感受到減速最明顯的是 AI 實驗室，而理想情況下，消費者將在 AI 進展沒有顯著變化的情況下，受益於更安全的模型，」他說道。
李教授認為，在實踐中，減速最可能意味著模型從構建到發布之間的間隔時間更長，部署前的測試更多，以及訓練升級不再那麼激進。
「這並不意味著技術停止進步，」他表示。
初創公司 NoraAI 的創始人 Mia Liu 表示，如果主要 AI 公司放慢開發節奏，他們可以將最先進的模型留在後台，直到通過嚴格的安全評估。
她補充說，企業將從追求「能力」轉向追求「安全保障」和「安全性」。
對於日常用戶來說，AI 減速意味著「用可靠性換取混亂」。
「現有的工具將變得更快、更便宜、更一致，而不是每隔幾周就掉下來一個顛覆性的新模型。從 AI 原生初創公司的角度來看，目前的節奏令人精疲力竭，」她補充道。
Liu 女士指出，模型的準確性可能會隨時間自然下降，大型 AI 公司通過發布重大升級來修復此問題，這迫使初創公司必須花費大量時間測試，以確保其平台不會崩潰。
她認為，減速將給整個生態系統提供「急需的喘息空間」，重點在於穩定和維護現有模型，而不是拋出不可預測的新版本。
全球網絡安全分銷商 Exclusive Networks 的總監 Gary Gardiner 表示，放緩 AI 開發可能會影響 AI 在研發（包括醫學）中的應用。
但他補充說，如果不減速，一旦 AI 造成更多問題或對基礎設施構成風險，人們對這項技術的信任可能會開始瓦解。
Gardiner 先生認為，普通用戶在日常使用 AI 時幾乎感知不到變化，因為大多數人還沒有真正觸及 AI 能為他們提供的潛能上限。
監管與保障措施
OpenAI、Anthropic 和 Meta Platforms 最近披露，其 AI 智能體出現了意外行為，在沒有人類直接指令的情況下逃離了受控測試環境，並對公司發起了網絡攻擊。
專家表示，雖然這些事件沒有造成已報道的損失，但它們凸顯了 AI 開發（尤其是 AI 智能體領域）中不斷演變的風險。
新加坡理工學院（SIT）AI 與數據科學負責人 Stefan Winkler 教授表示，主要擔憂是高能力系統可能會以非預期的方式執行分配的目標，尤其是在作為 AI 智能體自主運行的時候。
他補充說，惡意行為者故意以這種方式使用 AI 系統是另一個擔憂。
例如，這些 AI 模型可能被用於大規模傳播虛假信息或發起網絡攻擊。他說：「危險在於高能力系統在缺乏足夠人類監督的情況下，能以極高速度做出產生重大影響的決定。」
Winkler 教授舉例，如果一家大型金融機構部署的 AI 智能體在識別和解決網絡安全威脅時，錯誤地判定某些伺服器為惡意伺服器，可能會自動禁用關鍵基礎設施、鎖定客戶或中斷支付系統，影響數百萬人。
南洋理工大學（NTU）人工智慧負責人 Bo An 教授表示，一個支付智能體可能會重複提交失敗的交易。如果沒有交易限制和獨立檢查，它可能會多次扣除客戶費用。
「我認為我們現在就應該在獨立審查、事件報告和自主系統的問責制方面採取行動。行業領導者的擔憂值得關注，但政府也需要具備自行評估證據的專業能力，」他補充道。
針對 OpenAI 的 Altman 提到的「給社會時間來跟上」的說法，Bo 教授認為這意味著應該培訓人們監督 AI，幫助工人適應，並給消費者提供挑戰有害決定的實際途徑。
「我不會在達成全球減速協議之前才實施這些保護措施，」他補充道。
新加坡設計大學（SUTD）首席戰略與設計 AI 官 Poon King Wang 表示，最近的事件表明，需要開發與最強大模型能力相匹配的新安全措施。
他補充說，最緊迫的措施包括在發布前測試強大系統，並限制自主智能體可以訪問的內容。
Poon 先生認為，這些安全網應該監控模型「實際在做什麼」，而不是「說自己在做什麼」，並確保用戶能夠停止它們。
「最近的事件還表明，測試環境本身需要嚴格審查——不能讓它成為最薄弱的環節，」他補充道。
NTU 計算與數據科學學院講師 Jiehuang Zhang 博士表示，雖然需要謹慎，但缺乏技術基礎或合理分析而匆忙推出護欄可能會適得其反。
「這會創造一種虛假的安全感，或者扼殺採用 AI 的進展，」他補充道。
相反，重點應放在構建評估 AI 模型的架構，或能夠測試並認證模型能安全地做什麼、不能做什麼的架構上。
經濟影響
Gardiner 先生表示，放緩 AI 開發可能意味著建設更少的新數據中心，並對全球晶片生產產生連鎖反應。
他補充說，任何處於 AI 公司供應鏈中的環節都可能受到影響，但大多數其他行業將繼續使用他們已經擁有的 AI 引擎。
新加坡-ETH 中心主任 Manu Kapur 表示，對於勞動者而言，AI 模型的進步速度遠快於公司的採用速度，這成了「瓶頸」。
他補充說，每隔幾個月發布一個更強大的 AI 模型並不會自動提高生產力。相反，組織需要重新設計工作，開發技能，並學習 AI 應該在哪些方面增強人類判斷而非取代人類。
「事實上，或許矛盾的是，放緩技術前沿可能會通過給每個人更多喘息空間來挖掘現有能力的價值，從而加速 AI 的生產性應用，」Kapur 先生說道。
SMU 的李教授指出，呼籲減速的時機值得關注，因為 Anthropic 和 OpenAI 都在考慮公開上市，而後者已表示今年不會上市。
李教授表示，雖然 AI 模型的能力呈指數級增長，但訓練成本也隨之增長，這種軌跡在財務上是不可持續的。
他補充說，經濟激勵和安全監管的論點「指向同一個方向」，這也是執行長們很容易同意減速呼籲的原因之一。
他指出，Anthropic 的提議承認需要反壟斷豁免，因為領先實驗室之間就放慢進度達成的正式協議，本質上是一種協調產出的協議。
「如果評估確實是獨立的，且合規負擔是適度的，那麼它可以在不減少競爭的情況下提高對技術的信任，」李教授說。
他指出，正式協議不會停止競賽，實驗室之間仍會競爭，只是不再以指數級速度進行。
如果領先的 AI 公司正式同意減速，這將改變投資的方向和競爭優勢。
例如，如果開發放緩，資本和人才自然會流向 AI 模型的應用端，這對行業並非壞事，李教授表示。
「我們可能會看到一波應用端的創新，而這正是公共政策最重要的地方：AI 是主要用於補充工人還是取代他們，」他補充道。
李教授認為，對於像新加坡這樣採用前沿 AI 模型而非自行構建模型的小型開放國家來說，開發速度放緩是有利的。
「競爭優勢將從『誰擁有最好的模型』轉移到『誰能最好地集成模型』，而這正是新加坡可以競爭的賽道。」
