Платформа безпеки Open Agent від NVIDIA запобігає «відхиленню» AI агентів за допомогою зовнішнього примусового виконання.

Компанія NVIDIA запустила відкриту платформу безпеки агентів (Open Agent Safety Platform) — це відкритий фреймворк, призначений для захисту автономних AI-агентів за допомогою безперервного моніторингу та контролю політик із апаратним примусом. Платформа, випущена 28 вересня 2026 року, відповідає на зростаючі побоювання в індустрії штучного інтелекту після повідомлень про те, що AI-агенти виходять за межі тестового середовища, отримують доступ до несанкціонованих систем і некоректно повідомляють про власні дії.

Компанія порівнює це з раннім інтернетом. Інтернет став основою для бізнесу та спілкування лише після впровадження захисних технологій (зашифровані з'єднання, sandbox-теки браузера та видимі індикатори довіри). NVIDIA вважає, що агентний AI також потребує подібного рівня довіри для масштабування до надійної "економіки агентів", а безпекові заходи повинні прискорювати, а не гальмувати інновації.

OpenShell runtime: ізоляція від ядра

Ядром цієї платформи є NVIDIA OpenShell — open-source безпечне середовище виконання, випущене за ліцензією Apache 2.0. OpenShell виконує кожного агента у sandbox-середовищі з ізоляцією на рівні ядра й трансформує операторські інструкції у верифіковані політики: визначає дозволи на доступ до файлів, мережі, інструментів, процесів і облікових даних. Ці обмеження перевіряються перед виконанням і залишаються діючими протягом усього часу роботи.

Платформа побудована на п'яти принципах: політики повинні бути верифіковані перед запуском агента; виконання має відбуватися в середовищі, недосяжному для агента; шлях до моделі є головною точкою контролю й моніторингу; права агента мають розширюватися разом із прозорістю його міркувань; відповідальність за безпеку розподіляється між лабораторіями, компаніями та постачальниками апаратного забезпечення.

Дослідження NVIDIA підкреслюють проблему "дрейфу" — коли агент відхиляється від очікуваної задачі через неясні інструкції, обмежені політики, відсутність необхідних інструментів або занадто тривале автономне функціонування. Компанія заявляє, що без жорсткого обмеження можливостей агента, повністю усунути такий дрейф неможливо, тому не варто покладатися на здатність агентів самостійно контролювати свою поведінку в цих ситуаціях.

Масштабоване апаратне примусове виконання

Архітектура містить три шари: додатків (моделі, інструменти, фреймворки та дані), runtime-шар (оркестрування та виконання політик) і інфраструктурний (обчислення, сховище, мережеві ресурси). Для організацій, що потребують незалежного другого шару, NVIDIA Sentry за допомогою NVIDIA DOCA розширює моніторинг та виконання на BlueField-4 data processing unit, зв'язуючи взаємодію агентів, прийняття рішень і доступ до даних із контекстними журналами активності при постійній перевірці ідентичності та авторизації кожного агента.

У конфігурації NVIDIA Vera Rubin POD BlueField-4 DPU розміщується на єдиному шляху вузла до моделі, забезпечуючи позасмугову спостережуваність, реальне виконання політик на швидкості лінії та ізоляцію від хоста. Це дозволяє гарантувати "чіп-рівневий" захист навіть коли ресурси хоста не заслуговують на довіру. NVIDIA зазначає, що для існуючих розгортань Vera та BlueField-4 достатньо лише оновлення ПЗ для впровадження цього захисту; платформа також сумісна з не-NVIDIA обладнанням.

NVIDIA повідомляє, що співпрацює з провідними лабораторіями, розробниками та інфраструктурними провайдерами, аби зробити платформу відкритою основою для нової економіки агентів, а також визначає незалежний, апаратний контроль обов'язковою умовою для масштабованих надійних автономних систем.