Nvidia представила платформу Sentry для постоянного контроля за длительно работающими ИИ-агентами и одновременно открыла общий доступ к инструменту OpenShell. Компания рассчитывает, что новые решения помогут ограничивать действия автономных систем и изолировать их от критически важных компонентов компьютера. Об этом сообщает Wired.
OpenShell ранее анонсировали на ежегодной конференции Nvidia GTC в марте. Этот фреймворк (программная платформа) помещает ИИ-агентов в защищённую среду и отделяет их действия на уровне ядра операционной системы — базового компонента, который управляет взаимодействием программного обеспечения и оборудования.
Необходимость такого контроля стала особенно заметной после сообщений о взломах с участием ИИ-агентов. За последние месяцы лаборатории, разрабатывающие передовые модели, рассказали о случаях атак на системы других компаний, а также о проверке сайтов государственных учреждений США и Австралии.
Sentry создавался как отдельный уровень защиты для микросхем Nvidia. Программный инструмент рассчитан на работу с BlueField — линейкой программируемых устройств обработки данных (DPU), и должен непрерывно отслеживать поведение агентов. При попытке выйти за установленные границы система сможет изолировать нарушителя.
Вице-президент и генеральный менеджер подразделения корпоративных вычислений Nvidia Джастин Бойтано заявил, что OpenShell позволяет задавать правила безопасности для групп агентов, а не только для отдельных приложений. «Агенты очень изобретательны в поиске способов достичь поставленных перед ними целей. Благодаря этому агенты получают доступ только к тем намерениям, которые хочет разрешить команда безопасности», — сказал он.
Nvidia сообщила о сотрудничестве в сфере безопасности с Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft и Palantir. По данным компании, SpaceXAI использует Open Agent Safety Platform для агентов Cursor и моделей Grok, Anthropic вместе с Nvidia внедряет защиту в Claude Managed Agents, а Salesforce, Scale AI и SAP интегрируют OpenShell. OpenAI в опубликованный список не вошла, хотя обе компании ранее подтверждали её участие в проекте; причины отсутствия лаборатории в объявлении они не прокомментировали. Nvidia также работает с Arm и Intel над версией Sentry для архитектуры x86.