OpenClaw官網。（圖：OpenClaw）
資訊通信媒體發展局（IMDA）昨天（14日）發布OpenClaw負責任部署案例研究報告。報告指出，OpenClaw這類開源人工智慧代理平台近期受到個人和企業歡迎，不過由於OpenClaw本身的安全控制有限，有數據泄露等安全風險，用戶在安裝、設置和使用時，必須謹慎處理，並加上適當的安全防護。
報告指出，OpenClaw因為容易使用而受到歡迎，它既能連接本地文件和系統，也能自動在WhatsApp和Telegram等通訊平台充當助手回應顧客詢問，還能從多個網站統整資料，撰寫報告、電郵和安排日程等。
報告提醒，OpenClaw默認使用用戶的權限，因此有機會讀取電腦里的文件、API密鑰、OAuth令牌和會話數據。如果代理平台被攻擊者操控，可能導致敏感資料外泄，或讓攻擊者執行未經授權的操作。
風險：系統不夠成熟 身份驗證漏洞
報告列出的主要風險包括系統仍不夠成熟，安全防護還不夠完善；訪問文件的控制和身份驗證存在缺口；敏感數據可能會被發送給外部人工智慧模型導致資料外泄；第三方技能和依賴項目可能帶來供應鏈風險；長期記憶功能可能被「投毒」，導致代理在日後執行惡意指令。
開發方陸續修復，但安全限制仍存在
報告指出，自OpenClaw推出以來，開發方已陸續修復多項安全問題，市場上也出現了安全性較高的版本，例如英偉達（Nvidia）的NemoClaw。不過，代理式人工智慧的安全防護機制仍在發展階段，一些限制仍然存在。
例如，目前仍缺乏成熟的標準化協議，讓用戶能細緻地限制人工智慧代理可執行哪些操作、可讀取哪些數據。這意味著，要嚴格控制代理的權限和數據訪問範圍，仍有一定難度。
報告也提醒，除了網絡安全風險，自主人工智慧代理還可能帶來一些較新、較難預測的風險。例如，代理在嘗試「自己想辦法解決問題」時，可能採取用戶沒有預料到的行動；多個代理互相配合或互動時，也可能出現複雜且難以掌控的行為。
安全使用建議：避免涉及敏感資料或給予無限權限
在安全和負責任使用的最佳實踐方面，報告建議，用戶不要在關鍵任務環境中直接使用開源版本的OpenClaw，也不要創建一個擁有無限權限的「全能代理」。用戶應把代理的權限，限制在它真正需要使用的文件、應用和任務範圍內，並儘量避免讓它處理敏感數據，例如金融交易資料等。
報告也建議，用戶不要把OpenClaw安裝在存有敏感資料的個人電腦或工作設備上，而應在指定設備或分隔的雲端中使用，以減少資料外泄或系統受影響的風險。
人類監督機制
報告強調，使用代理式人工智慧時，人類仍必須承擔監督責任。對於低風險任務，人工智慧代理可以自動執行；但如果涉及金融交易、在生產環境執行代碼、刪除重要數據，或代表機構發送外部信息等高風險或不可逆的行動，就應設置人工審批程序。報告也建議，這些審批機制應儘可能通過系統權限和工作流程來執行，而不是只依靠提示詞。
資媒局進一步建議，在設計和開發階段，應把重要的安全控制措施與代理平台本身份開，避免代理有能力修改或關閉自己的安全限制。部署後，用戶也應持續記錄代理的操作、監測異常行為；一旦發現可疑活動，應把系統恢復到已確認安全的狀態。
報告總結說，OpenClaw顯示自主人工智慧工具正在快速發展。這類工具確實能顯著提高效率，但如果使用不當，也可能帶來真實風險。隨著代理式人工智慧繼續演進，清晰的限制、問責、監督和安全措施，將成為個人和企業負責任地使用這類技術的關鍵。
這項報告主要展現當局如何應用我國代理式人工智慧監管模式框架（Model AI Governance Framework for Agentic AI），以及新加坡政府科技局、網絡安全局和業界經驗，確保自主人工智慧代理工具能夠被安全、負責任地使用。
