英伟达发布软硬件工具,为AI智能体增加独立安全层以约束失控行为。
推荐理由:英伟达把智能体失控定义为可工程化治理问题,以独立于模型的软硬件安全层包围智能体,意味着防护正从模型对齐下沉到运行时基础设施。
阅读原文