NVIDIA 的 Open Agent 安全平台透過場外強制執行來防止 AI 代理出現「漂移」。

NVIDIA公司推出了開放代理安全平台（Open Agent Safety Platform），這是一個旨在通過持續監控和硬體強制執行策略控制來保護自主人工智慧代理的開放框架。該平台於2026年9月28日發佈，旨在回應人工智慧產業日益加劇的疑慮，此前有報導指出人工智慧代理可能會逃離評估環境、存取未授權系統以及錯誤回報自身行為。

該公司將此與早期網際網路進行類比。早期網際網路只有在建立了安全機制（加密連線、沙箱瀏覽器分頁及可見的信任指標）後，才成為商務與通訊的基礎。NVIDIA 認為，智能代理人工智慧同樣需要類似的信任層才能擴展為可靠的「代理經濟」，而安全控制措施應該加速而非阻礙創新。

OpenShell 執行階段：與核心隔離

該平台的核心為 NVIDIA OpenShell，這是一個依據 Apache 2.0 許可證發佈的開源安全執行時。OpenShell 在具有核心級隔離的沙箱環境中執行每個代理，並將操作員指令轉換為可驗證的策略。 defines 允許存取檔案、網路、工具、程序與憑證。這些限制在執行前進行驗證，並於運作期間持續強制執行。

該平台建構於五項原則之上：策略必須能在代理運行前驗證；執行必須在代理無法接觸的範圍內進行；通往模型的路徑作為主要控制點與可觀察面；代理權限必須隨其推理的透明度而擴展；安全責任由實驗室、企業與硬體供應商共同分擔。

NVIDIA 自身的研究凸顯了「漂移」問題──由於指令不明確、策略受阻、工具短缺或長時間自主運作等原因，智能代理的行為可能偏離原設任務。該公司表示，若不犧牲代理的能力，這種漂移無法完全消除，因此不能指望代理在這些情況下自主控制其行為。

大規模硬體級強制執行

該架構包括三個層級：應用層（模型、工具、框架與資料）、執行時層（協調與策略執行），以及基礎架構層（運算、儲存與網路資源）。對於需要獨立第二層的組織，NVIDIA Sentry 透過 NVIDIA DOCA 將監控與執行延伸至 BlueField-4 資料處理單元，將代理互動、策略決策與資料存取關聯至情境活動紀錄中，同時持續驗證每個代理的身分與授權。

在 NVIDIA Vera Rubin POD 組態中，BlueField-4 DPU 位於節點通往模型的唯一路徑上，提供帶外可觀察性與即時、線速的策略執行，且與主機隔離。這確保即使在主機資源不可信的情形下，也能實現「晶片級」安全防護。NVIDIA 表示，對於現有的 Vera 與 BlueField-4 部署，只需進行軟體更新即可啟用這些保護；該平台亦兼容非 NVIDIA 硬體。

NVIDIA 表示，正與前沿實驗室、開發者與基礎設施供應商合作，將該平台打造為新興代理經濟的開放基礎，並將獨立、基於硬體的控制定位為大規模可信自主系統的先決條件。