Nvidia推出NIM微服务,加强企业AI代理安全控制
Nvidia近日发布三项新的NIM(Nvidia Infrastructure Microservices)微服务,作为NeMo Guardrails开源工具包的扩展,旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全,防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏,开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内