英伟达发布AI智能体安全平台，可实时隔离异常智能体

IT之家9月28日消息，英伟达今天发布开放式AI智能体安全平台（NVIDIA Open Agent Safety Platform），可对AI智能体、智能体硬件、机器人系统等进行全栈治理和控制。

IT之家从官方新闻稿获悉，该平台包含英伟达OpenShell安全软件，可对运行在CPU的AI智能体设定边界，支持开源/闭源模型。

同时，该工具在Vera平台的性能占用非常低。OpenShell与Vera结合后，可让AI智能体在尽快完成工作的同时保证安全。OpenShell作为开源软件可支持第三方平台，包括Arm和英特尔产品。

英伟达本次还宣布推出看门狗系统NVIDIA Sentry，可持续监控AI智能体的行为。如果AI智能体试图突破软件枷锁，Sentry可在毫秒时间内将其隔离、停止运行 。

Sentry运行在BlueField-4 DPU上，可以持续监控AI智能体的活动，在芯片层面独立执行安全策略。它将威胁检测、基于硬件的智能体治理与执行，以及数据访问保护结合，通过独立于智能体和攻击者、能够实时响应的带外信任域来实现上述功能。

此外，Anthropic、SpaceX和Scale AI等公司已经与英伟达合作，将OpenShell用于其AI模型和智能体。