地里快讯

英伟达（NVDA）发布开放式智能体安全平台（Open Agent Safety Platform），用于在测试到部署的全流程中约束AI智能体行为，Anthropic是其合作方之一，双方就智能体安全研究展开协作。 该平台面向智能体越权、脱离沙盒等风险，提供运行在CPU上的OpenShell与部署在BlueField-4上的Sentry等组件，首批已有超过100家合作伙伴加入。此前黄仁勋曾公开评价Anthropic、OpenAI等公司的AI风险警告「有些奇怪」，此番推出安全平台被视为英伟达在智能体安全议题上的正面回应。