NVIDIA представила платформу безопасности для ИИ-агентов

Что представила NVIDIA

Open Agent Safety Platform — открытая программная платформа и эталонная архитектура для контроля ИИ-агентов от тестирования до рабочего запуска. Решение предназначено прежде всего для компаний и разработчиков, которые дают агентам доступ к данным, программам и инфраструктуре.

OpenShell задаёт программные границы

OpenShell запускает агента в защищённой среде, отслеживает его действия и применяет заданные правила. Контроль остаётся снаружи самого агента: он не может самостоятельно одобрить себе дополнительные разрешения.

Sentry следит независимо

Sentry — дополнительный аппаратный уровень контроля на NVIDIA BlueField-4. Он работает отдельно от основной системы, непрерывно наблюдает за действиями агента и, по заявлению NVIDIA, может изолировать его за миллисекунды при выходе за установленные границы.

Почему это важно

Чем больше задач ИИ-агент выполняет самостоятельно, тем важнее отделить его возможности от механизмов контроля. NVIDIA предлагает сочетать программные ограничения и независимый аппаратный надзор, чтобы сбой или неверная команда не давали агенту неограниченный доступ.

Доступность

OpenShell и связанные инструменты опубликованы в ресурсах NVIDIA для разработчиков. Sentry описан как часть эталонной архитектуры; это не новая функция обычных пользовательских видеокарт и не обновление для домашних компьютеров.