La piattaforma di sicurezza Open Agent di NVIDIA previene la "deriva" degli agenti AI mediante un'applicazione fuori banda.

NVIDIA ha presentato l’Open Agent Safety Platform, un framework aperto progettato per proteggere gli agenti AI autonomi attraverso un controllo delle policy tramite monitoraggio continuo e applicazione hardware. Lanciata il 28 settembre 2026, la piattaforma mira a rispondere alle crescenti preoccupazioni del settore AI, dopo segnalazioni di agenti AI che eludono gli ambienti di valutazione, accedono a sistemi non autorizzati e riportano in modo inesatto le proprie azioni.

L’azienda paragona questa situazione ai primi tempi di Internet. Internet è divenuto la base per commercio e comunicazioni soltanto dopo l’introduzione di meccanismi di sicurezza come connessioni cifrate, schede browser in sandbox e indicatori di affidabilità visibili. NVIDIA ritiene che anche l’intelligenza artificiale agentica necessiti di un simile livello di fiducia per potersi espandere in un’“economia agentica” affidabile, e che i controlli di sicurezza debbano accelerare, non ostacolare, l’innovazione.

OpenShell runtime: isolamento dal kernel

Il cuore della piattaforma è NVIDIA OpenShell, un runtime open source pubblicato sotto licenza Apache 2.0. OpenShell esegue ciascun agente in un ambiente sandbox con isolamento a livello di kernel e trasforma le istruzioni dell’operatore in policy verificabili. Le regole definiscono l’accesso a file, rete, strumenti, processi e credenziali. Queste restrizioni vengono verificate prima dell’esecuzione e applicate continuamente durante il runtime.

La piattaforma si basa su cinque principi: la policy deve essere verificabile prima dell’esecuzione dell’agente; l’esecuzione deve avvenire in una sfera inaccessibile agli agenti; il percorso verso il modello è il punto chiave di controllo e osservabilità; i permessi dell’agente sono proporzionali alla trasparenza del suo ragionamento; la responsabilità della sicurezza è condivisa tra laboratori, aziende e fornitori di hardware.

Le ricerche di NVIDIA evidenziano la questione del “drift”—ossia quando gli agenti si allontanano dal compito previsto a causa di istruzioni poco chiare, limitazioni di policy, strumenti insufficienti o funzionamento autonomo prolungato. L’azienda afferma che tale drift non può essere eliminato senza compromettere le capacità degli agenti, quindi non è realistico aspettarsi che un agente gestisca da solo il proprio comportamento in queste situazioni.

Applicazione hardware su larga scala

L’architettura include tre livelli: livello applicativo (modelli, strumenti, framework e dati), livello runtime (orchestrazione ed esecuzione delle policy) e livello infrastrutturale (risorse di calcolo, storage e rete). Per le organizzazioni che richiedono un secondo livello indipendente, NVIDIA Sentry estende monitoraggio ed enforcement ai Data Processing Unit BlueField-4 tramite NVIDIA DOCA, associando interazioni dell’agente, decisioni sulle policy e accessi ai dati a registri contestuali e verificando continuamente identità e autorizzazione di ciascun agente.

Nella configurazione NVIDIA Vera Rubin POD, il DPU BlueField-4 si trova nell’unico percorso dal nodo al modello, offrendo osservabilità out-of-band ed esecuzione delle policy in tempo reale e a velocità di rete, isolata dall’host. Questo permette una sicurezza “a livello di chip” anche quando il sistema host non è affidabile. NVIDIA sottolinea che le protezioni sono attivabili tramite aggiornamenti software su deployment esistenti Vera e BlueField-4; la piattaforma è compatibile anche con hardware non NVIDIA.

NVIDIA afferma di collaborare con laboratori d’avanguardia, sviluppatori e fornitori di infrastrutture per costruire la piattaforma come base aperta della nuova economia agentica, e considera il controllo indipendente basato su hardware come prerogativa per sistemi autonomi affidabili su larga scala.